La congresul de la Sorbona din 1894, la Atena a fost propusă o listă largă de sporturi pentru programul de la Atena. Primele anunțuri oficiale referitoare la evenimentele sportive care urmau să aibă loc prezentau sporturi precum fotbalul și cricketul, însă aceste planuri nu au fost niciodată finalizate, iar aceste sporturi nu au fost incluse pe lista finală a Jocurilor. Au fost programate canotajul și yachtingul, dar au trebuit să fie anulate din cauza vremii nefavorabile din ziua planificată pentru competiție.
Atletism
Probele de atletism au avut cea mai mare participare internațională dintre toate sporturile. Punctul culminant a fost maratonul, organizat pentru prima dată în cadrul unei competiții internaționale. Spyridon Louis a fost singurul campion grec la atletism și un erou național. Deși Grecia era favorită să câștige proba de aruncarea discului sau a greutății, cei mai buni atleți greci au terminat imediat după americanul Robert Garrett în ambele probe.
Nu au fost stabilite recorduri mondiale, deoarece puțini concurenți internaționali de top au ales să participe. În plus, curbele pistei erau foarte strânse, ceea ce a făcut ca timpii rapizi în probele de alergare să fie dificili. În ciuda acestui fapt, Thomas Burke, din Statele Unite, a câștigat cursa de 100 de metri în 12,0 secunde și cea de 400 de metri în 54,2 secunde. a fost singurul care a folosit "startul ghemuit" (punând genunchiul la sol), derutând juriul. În cele din urmă, i s-a permis să ia startul din "poziția sa incomodă".
Ciclism
Pentru competițiile de ciclism au fost folosite regulile Asociației Internaționale de Ciclism. Probele de ciclism pe pistă s-au desfășurat la Velodromul Neo Phaliron, recent construit. A avut loc o singură probă de șosea, o cursă de la Atena la Marathon și retur (87 de kilometri).
În probele de pistă, cel mai bun ciclist a fost francezul Paul Masson, care a câștigat contratimpul de o tură, proba de sprint și proba de 10.000 de metri. În proba de 100 de kilometri, Masson a intrat ca pacemaker pentru compatriotul său Léon Flameng. Flameng a câștigat proba, după o căzătură și după ce s-a oprit pentru a-l aștepta pe adversarul său grec Georgios Kolettis să rezolve o problemă mecanică. Scrimerul austriac Adolf Schmal a câștigat cursa de 12 ore, care a fost parcursă de doar doi cicliști, în timp ce proba de șosea a fost câștigată de Aristidis Konstantinidis.
Scrimă
Probele de scrimă s-au desfășurat în Zappeion, care, construit cu banii pe care Evangelos Zappas îi dăduse pentru a reînvia Jocurile Olimpice antice, nu fusese folosit până atunci. Spre deosebire de alte sporturi (la care doar amatorii aveau voie să participe la Jocurile Olimpice), profesioniștii puteau concura la scrimă, deși într-o probă separată. Acești profesioniști au fost considerați sportivi domni, la fel ca și amatorii.
Au fost programate patru probe, dar proba de spadă a fost anulată din motive necunoscute. Proba de floretă a fost câștigată de un francez, Eugène-Henri Gravelotte, care l-a învins în finală pe compatriotul său, Henri Callot. Celelalte două probe, sabie și floretă masters, au fost câștigate de scrimerii greci. Leonidas Pyrgos, care a câștigat cea de-a doua probă, a devenit primul campion olimpic grec din epoca modernă.
Gimnastică
Gimnastica s-a desfășurat pe terenul din interiorul stadionului Panathinaiko. Germania a trimis o echipă de 11 oameni, care a câștigat cinci din cele opt probe, inclusiv ambele probe pe echipe. În proba pe echipe de la bara orizontală, echipa germană a rămas fără adversar. Trei germani au adăugat titluri individuale: Hermann Weingärtner a câștigat la bara orizontală, Alfred Flatow a câștigat la paralele; iar Carl Schuhmann, care a concurat cu succes și la lupte, a câștigat la sărituri. Louis Zutter, un gimnast elvețian, a câștigat la calul cu mânere, în timp ce grecii Ioannis Mitropoulos și Nikolaos Andriakopoulos s-au impus la inele și, respectiv, la cățărare pe frânghie.
Fotografiere
Desfășurată într-un poligon din Kallithea, competiția de tir a constat în cinci probe - două cu pușca și trei cu pistolul. Prima probă, cea de pușcă militară, a fost câștigată de Pantelis Karasevdas, singurul concurent care a nimerit ținta cu toate loviturile sale. Cea de-a doua probă, cea de pistol militar, a fost dominată de doi frați americani: John și Sumner Paine au devenit primii frați care au terminat pe primul și al doilea loc în aceeași probă. Pentru a nu-și face gazdele de rușine, frații au decis ca doar unul dintre ei să concureze în următoarea probă de pistol, cea de pistol liber. Sumner Paine a câștigat această probă.
Frații Paine nu au concurat în proba de pistol de 25 de metri, deoarece judecătorii au stabilit că armele lor nu erau de calibrul necesar. În absența lor, a câștigat Ioannis Phrangoudis. Ultima probă, cea de pușcă liberă, a început în aceeași zi. Cu toate acestea, proba nu a fost finalizată din cauza întunericului și a fost finalizată în dimineața următoare, când Georgios Orphanidis a fost încoronat campion.
Înot
Competiția de înot a avut loc în largul mării. Aproape 20.000 de spectatori s-au aliniat în Golful Zea, în largul coastei Pireului, pentru a urmări evenimentele. Apa din golf era rece, iar concurenții au suferit în timpul curselor. Au existat trei probe deschise (100 de metri liber masculin, 500 de metri liber masculin și 1200 de metri liber masculin), pe lângă o probă specială deschisă doar marinarilor greci, toate desfășurate în aceeași zi (11 aprilie).
Pentru Alfréd Hajós din Ungaria, faptul că a fost în aceeași zi a însemnat că a putut concura doar în două dintre probe. El a câștigat cele două probe în care a înotat, cele de 100 și 1200 de metri liber. Mai târziu, Hajós a devenit unul dintre cei doar doi olimpici care au câștigat o medalie atât în competițiile atletice, cât și în cele artistice, când a obținut o medalie de argint pentru arhitectură în 1924. Proba de 500 de metri liber a fost câștigată de înotătorul austriac Paul Neumann, care și-a învins adversarii cu mai mult de un minut și jumătate.
Tenis
Deși tenisul era deja un sport important la sfârșitul secolului al XIX-lea, niciunul dintre cei mai buni jucători nu s-a prezentat la turneul de la Atena. Competiția s-a desfășurat pe terenurile Clubului de tenis pe iarbă din Atena și pe terenul din velodromul folosit pentru probele de ciclism. John Pius Boland, care a câștigat evenimentul, a fost înscris în competiție de către un coleg de facultate de la Oxford. În prima rundă, Boland l-a învins pe Friedrich Traun, un tenisman promițător din Hamburg, care fusese eliminat în proba de 100 de metri sprint. Boland și Traun au decis să facă echipă pentru proba de dublu, în care au ajuns în finală și și-au învins adversarii greci și egipteni după ce au pierdut primul set.
Haltere
Sportul de haltere era încă tânăr în 1896, iar regulile erau diferite de cele folosite astăzi. Competițiile se desfășurau în aer liber, pe terenul din interiorul stadionului principal, și nu existau limite de greutate. Primul eveniment a avut loc într-un stil cunoscut acum sub numele de "clean and jerk". Doi concurenți s-au remarcat: scoțianul Launceston Elliot și Viggo Jensen din Danemarca. Amândoi au ridicat aceeași greutate, dar juriul, prezidat de prințul George, a decis că Jensen a făcut-o într-un stil mai bun. Delegația britanică, care nu cunoștea această regulă de departajare, a depus un protest. În cele din urmă, ridicătorii au fost lăsați să facă noi încercări, dar niciunul dintre ei nu s-a îmbunătățit, iar Jensen a fost declarat campion.
Elliot s-a impus în proba de ridicare cu o mână, care a avut loc imediat după cea cu două mâini. Jensen fusese ușor accidentat în timpul ultimei sale încercări cu două mâini și nu a fost pe măsura lui Elliot, care a câștigat ușor competiția. Publicul grec a fost fermecat de învingătorul scoțian, pe care l-a considerat foarte atrăgător. Un incident curios a avut loc în timpul probei de haltere: un servitor a primit ordin să scoată greutățile, ceea ce părea să fie o sarcină dificilă pentru el. Prințul George a venit în ajutorul său; a ridicat greutatea și a aruncat-o cu ușurință pe o distanță considerabilă, spre încântarea mulțimii.
Lupte libere
Nu au existat clase de greutate pentru competiția de lupte, desfășurată pe stadionul Panathinaiko, ceea ce însemna că va exista un singur învingător între concurenții de toate mărimile. Regulile folosite erau similare luptelor greco-romane moderne, deși nu exista o limită de timp și nu erau interzise toate reținerile de picioare (spre deosebire de regulile actuale).
În afară de cei doi concurenți greci, toți concurenții au fost activi anterior în alte sporturi. Campionul la haltere Launceston Elliot s-a confruntat cu campionul la gimnastică Carl Schuhmann. Acesta din urmă a câștigat și a avansat în finală, unde l-a întâlnit pe Georgios Tsitas, care îl învinsese anterior pe Stephanos Christopoulos. Întunericul a forțat suspendarea meciului final după 40 de minute; acesta a fost reluat a doua zi, când Schuhmann a avut nevoie de doar un sfert de oră pentru a termina lupta.