După ce a susținut câteva concerte mici în Anglia, trupa a scos primul album, intitulat Led Zeppelin I. Talentul lui John Bonham se poate auzi pe piese precum "Good Times, Bad Times", în care se remarcă un singur salt al tobei de bas pe tot parcursul melodiei. La scurt timp după aceasta, trupa a plecat într-un turneu în America, în Boxing Day (26 decembrie 1969). După un turneu destul de reușit, Zeppelin a ieșit cu al doilea album, numindu-l Led Zeppelin II. Acest album a inclus piesa "Moby Dick", care a avut un celebru solo de tobe al lui Bonham. De-a lungul solo-ului, Bonham și-a arătat talentul de a cânta la tobe de mână, continuând să își folosească piciorul drept.
În această perioadă, Led Zeppelin devenea tot mai cunoscut. Odată cu lansarea celui de-al treilea album al lor (numit, nu în mod surprinzător, Led Zeppelin III), au devenit una dintre cele mai mari trupe din lume. Melodia lui Bonham de pe acest album, pe care a scris-o, a fost "Out On The Tiles".
Ulterior, Led Zeppelin a lansat albumele Led Zeppelin IV (care inițial nu a fost numit așa), Houses of the Holy și Physical Graffiti. În această perioadă, Zeppelin a fost în turneu non-stop. Pe lângă faptul că a continuat să cânte "Moby Dick", Bonham a primit atenție și pentru munca sa la piese precum "Four Sticks", "The Ocean" și "In My Time Of Dying".
La scurt timp după Physical Graffiti, trupa și-a luat o pauză deoarece Robert Plant a fost rănit într-un accident de mașină. În acest timp liber, în afară de a petrece timp cu familia și de a se juca cu mașinile, Bonham a lucrat la următorul album, Presence.
