În 1947 s-a întors în Germania, unde și-a început cariera profesională cântând, fără nicio repetiție, solo-ul de bariton în Ein Deutsches Requiem de Brahms. (A fost un înlocuitor de ultim moment pentru un cântăreț care era bolnav.) A susținut primul său recital de lieduri la Leipzig mai târziu în acel an.
Încă de la începutul carierei sale a lucrat cu celebrele soprane lirice Elisabeth Schwarzkopf și Irmgard Seefried și cu producătorul de înregistrări Walter Legge, producând albume foarte populare de lieduri de Franz Schubert și Hugo Wolf.
În toamna anului 1948, Fischer-Dieskau a devenit bariton liric principal la Städtische Oper Berlin (Opera Municipală, Berlinul de Vest), având primul său spectacol de operă în rolul Posa din Don Carlos de Verdi, sub bagheta dirijorului Ferenc Fricsay. Această companie, cunoscută după 1961 sub numele de Deutsche Oper, va fi casa sa artistică până la retragerea sa de pe scena lirică, în 1978.
Fischer-Dieskau a avut apariții la operele din Viena și München. După 1949, a efectuat turnee de concerte în Olanda, Elveția, Franța și Italia. În 1951, a apărut pentru prima dată la un concert în cadrul Festivalului de la Salzburg cu Lieder eines fahrenden Gesellen (Cântecele unui călător) de Mahler, sub bagheta lui Wilhelm Furtwängler. A început să apară în toată lumea: la Royal Albert Hall, Londra, Boston, Massachusetts și la Festivalul de la Bayreuth.
În calitate de cântăreață de operă, Fischer-Dieskau a cântat mai ales la Berlin și la Opera Bavareză de Stat din München. De asemenea, a fost invitat la Opera de Stat din Viena, la Royal Opera House, Covent Garden din Londra, la Opera de Stat din Hamburg, în Japonia și la King's Theatre din Edinburgh, în cadrul Festivalului de la Edinburgh. Primul său turneu în Statele Unite a avut loc în 1955, când avea 29 de ani. Pentru recitalurile sale de acolo a fost acompaniat de Gerald Moore. A înregistrat multe lieduri cu Gerald Moore și a susținut multe recitaluri cu acesta până când Moore s-a retras în 1967. Cu toate acestea, au continuat să facă înregistrări și după aceea. Înregistrările lor ale ciclurilor de lieduri Die schöne Müllerin și Die Winterreise de Schubert au fost foarte apreciate.
Fischer-Dieskau a interpretat, de asemenea, numeroase lucrări ale unor compozitori în viață, printre care Benjamin Britten, Samuel Barber, Hans Werner Henze, Karl Amadeus Hartmann, Ernst Krenek și Witold Lutosławski.
Fischer-Dieskau a înregistrat, de asemenea, multe roluri celebre din operele italiene, de exemplu Rigoletto de Verdi și Rodrigo în Don Carlos de Verdi, Scarpia în Tosca de Giacomo Puccini. S-a retras din operă în 1978.
Muzicalitatea și tehnica lui Fischer-Dieskau au fost întotdeauna perfecte. S-a retras din sala de concerte în ziua de Anul Nou 1993, la 67 de ani, și și-a petrecut timpul dirijând, predând (în special interpretarea liedurilor), pictând și scriind cărți.
