Muzica a fost compusă de Haydn în 1797 ca imn al Austriei. Se numea "Gott erhalte Franz den Kaiser" ("Dumnezeu să-l protejeze pe împăratul nostru Franz"). Versurile care sunt folosite astăzi au fost scrise de poetul August Heinrich Hoffman von Fallersleben în 1841.
Astăzi, prima replică "Germania, Germania înainte de toate" sună prea puternic pentru unii oameni și este adesea înțeleasă greșit. Fallersleben dorea o Germanie unită atunci când a scris acest text. La acea vreme, Germania nu era o singură țară, ci mai multe țări mici. Așa că "Germania mai presus de toate" însemna că cel mai important lucru de făcut era să avem o Germanie unificată. De asemenea, poetul se afla în Heligoland, unde oamenii vorbeau germana, dar erau conduși de britanici.
Muzica lui Fallersleben a fost foarte populară în Germania în a doua parte a secolului al XIX-lea. Acest cântec nu era atunci un imn național, ci un cântec patriotic care susținea un stat german unit. În 1918, a înlocuit imnul Imperiului German "Heil Dir im Siegerkranz" ("Slavă învingătorului războiului"), când împăratul Wilhelm al II-lea a pierdut puterea la sfârșitul Primului Război Mondial. În 1921, o "a patra strofă", o nouă parte sau un nou vers, a fost scrisă de poetul Albert Matthai cu cuvinte despre viața dificilă din Germania la acea vreme. Acest vers a fost folosit foarte rar.
În timpul lui Adolf Hitler, a fost folosită doar prima parte a cântecului. Aceasta era adesea urmată de un cântec de partid nazist. Acest lucru a jignit publicul internațional, deoarece prima strofă susține Germania care deține puteri coloniale în națiuni care nu sunt consimțite.
După cel de-al Doilea Război Mondial, Germania a fost împărțită în două țări. În 1949, noua Germanie de Vest a încercat să obțină un nou cântec pentru imnul național. A fost ales un alt cântec, scris de poetul Rudolf Alexander Schröder. Acesta nu a fost foarte popular. În cele din urmă, a treia parte a cântecului Fallersleben a fost transformată în imn național.
În cealaltă parte a Germaniei, Germania de Est, cuvintele poetului Johannes R. Becher ("Auferstanden aus Ruinen" - "Reconstruit din ruine") au fost folosite cu un cântec scris de Hanns Eisler. Nu a fost foarte popular, iar din anii 1970 versurile nu au mai fost cântate, din cauza versului "Germania, [noastră] patrie unificată".
După ce Germania de Est și Germania de Vest s-au unit din nou în 1990, cântecul Fallersleben a devenit din nou imnul național al Germaniei, dar este folosită doar a treia parte. Astăzi, prima parte a cântecului este populară printre extremiștii naționaliști.