Den 62-årige Ayrault, som tidigare varit lärare i tyska, anlände till premiärministerns residens Matignon i Paris tillsammans med sin fru för att officiellt ta farväl av den avgångne premiärministern François Fillon.
Ayraults utnämning till premiärminister var väntad, då han länge stått president Hollande nära politiskt.