Cariera lui Schell a început în 1955. Filmul său a fost Kinder, Mütter und ein General. A apărut apoi în alte două filme până când și-a adjudecat rolul lui Hans Rolfe în Judecata de la Nürnberg în 1961. Rolul său ca Hans i-a adus o mare faimă și succes. A câștigat un premiu Oscar și un Glob de Aur pentru cel mai bun actor.
Schell a apărut apoi în alte filme mari care i-au adus nominalizări la Oscar. A fost nominalizat pentru rolul lui Arthur Goldman din The Man in the Glass Booth, pentru rolul lui Johann din Julia. A câștigat apoi un premiu Globul de Aur pentru cel mai bun actor în rol secundar în 1992 pentru rolul lui Vladimir Lenin din filmul Stalin.
Ulterior, Schell a regizat apoi un film de televiziune, Candles in the Dark. După ce a câștigat în 1992, Schell a apărut apoi în multe filme de televiziune. În 1998, Schell a apărut în rolul lui Jason Lerner în filmul Deep Impact din 1998. Ultimul său rol a fost în filmul de comedie The Brothers Bloom din 2008, în rolul Diamond Dog.