Omröstningen kom efter att premiärministern försökt driva igenom budgeten för socialförsäkringar utan stöd i parlamentet. Detta gjordes genom att åberopa en undantagsregel.
Tre månader på posten innebär att Michel Barnier är den premiärminister som haft ämbetet kortast tid i Frankrike i modern tid.
Macron vill dock att Barnier och nuvarande regeringen stannar kvar tills en ny premiärminister har utsetts. Inget av de tre politiska blocken i Frankrike har egen majoritet.
Michel Barnier är också känd som EU:s brexitförhandlare när Storbritannien lämnade unionen.
Macron har aviserat att han kommer att hålla ett tal till nationen klockan 20 ikväll. Han har kommenterat krav från LFI:s gruppledare Mathilde Panot om att utlysa ett nytt presidentval som "politisk fiktion".
Detta var första gången sedan 1962 som en fransk regering föll på en missförtroendeomröstning. SVT:s korrespondent Ulrika Bergsten har beskrivit det hela som "oerhört dramatiskt" och som ett helt nytt läge i fransk politik.