Rezultatul întregii eroziuni este una dintre cele mai complete coloane geologice (grămezi de straturi de rocă) de pe planetă. Există aproape 40 de straturi majore de rocă sedimentară expuse în Marele Canion și în zona Parcului Național Grand Canyon. Acestea au vârste cuprinse între aproximativ 200 de milioane și aproape 2 miliarde de ani.
Cele mai multe au fost așezate în mările calde și puțin adânci, în apropierea unor vechi țărmuri marine, demult dispărute, din vestul Americii de Nord. Sunt reprezentate atât sedimente marine, cât și terestre, inclusiv dune de nisip fosilizate dintr-un deșert antic. Există cel puțin 14 neconformități cunoscute în registrul geologic găsite în zona Marelui Canion.
Vechimea principalelor roci expuse în Marele Canion variază de la Schistul Vishnu, vechi de aproape 2 miliarde de ani, de pe fundul Defileului Interior, până la calcarul Kaibab, vechi de 230 de milioane de ani, de pe margine.
În diagramă, există un decalaj de aproximativ un miliard de ani între stratul vechi de aproximativ 500 de milioane de ani (albastru) și nivelul inferior, care are o vechime de aproximativ 1,5 miliarde de ani în partea superioară (verde). Această neconformitate mare indică o perioadă de eroziune între două perioade de depunere.
Multe dintre aceste formațiuni au fost depuse în mările calde și puțin adânci, în medii apropiate de țărm (cum ar fi plajele) și în mlaștini. Țărmul mării a avansat și s-a retras în mod repetat peste marginea unei proto-Americi de Nord.
Adâncimea mare a Marelui Canion și, mai ales, înălțimea stratelor sale (cea mai mare parte s-a format sub nivelul mării) a fost cauzată de ridicarea platoului Colorado, de la 1500 la 3000 m (5.000 până la 10.000 de picioare). Acest lucru a început în urmă cu aproximativ 65 de milioane de ani, în timpul perioadei Laramide de orogeneză (formarea munților). Această ridicare a accentuat panta râului Colorado și a afluenților săi, ceea ce a mărit viteza și capacitatea lor de a tăia prin rocă.
Condițiile meteorologice din timpul glaciațiunilor au crescut, de asemenea, cantitatea de apă din sistemul de drenaj al râului Colorado. Strămoșul râului Colorado a reacționat tăindu-și canalul mai repede și mai adânc.
Nivelul de bază și cursul fluviului Colorado (sau echivalentul său ancestral) s-au schimbat acum 5,3 milioane de ani, când Golful California s-a deschis și a coborât nivelul de bază al fluviului (punctul său cel mai de jos). Acest lucru a crescut rata de eroziune și a tăiat aproape toată adâncimea actuală a Marelui Canion cu 1,2 milioane de ani în urmă. Aspectul în trepte al rocilor a fost cauzat de rezistența lor variată la curgerea apei.
Între trei milioane și 100.000 de ani în urmă, activitatea vulcanică a împrăștiat cenușă (tuf) și lavă în zonă și, uneori, a blocat complet râul. Aceste roci vulcanice sunt cele mai tinere din canion.