Förbundskansler Olaf Scholz regeringskoalition kollapsade efter att det liberala partiet FDP plötsligt krävde ändringar som de andra regeringspartierna inte kunde gå med på.
Rösterna i förbundsdagen föll 394–207 med 116 nedlagda.
Kristdemokraten Friedrich Merz är nu främsta kandidat att bli ny tysk förbundskansler.
Nyval till förbundsdagen väntas i februari.
Sura och arga ord i debatten
Scholz var mycket kritisk till att liberalerna fronderade i syfte att spräcka regeringen.
– Politik är inget spel. Den som går med i en regering bör ha nödvändig moralisk mogenhet och ta ansvar för hela landet, sa Scholz under parlamentsdebatten.
Hans främsta utmanare kristdemokraten Friedrich Merz gav förbundskanslern en ordentlig avhyvling.
– Det är pinsamt hur ni beter er på europeisk nivå. Ni skämmer ut Tyskland, sa Merz.
Merz har haft en klart högre profil än Scholz i sina uttalanden och har bland annat betecknat muslimska invandrare som bortskämda små paschor och ukrainska flyktingar som socialturister.