Uniunea Sovietică a trimis sportivi la Jocurile Olimpice pentru prima dată în 1952. De atunci, a trimis echipe la Jocurile Olimpice de 18 ori. La șapte din cele nouă participări la Jocurile Olimpice de vară, echipa s-a clasat pe primul loc în ceea ce privește numărul total de medalii câștigate. La celelalte două ediții ale Jocurilor s-a clasat pe locul al doilea. De șapte ori s-a clasat pe primul loc în numărul de medalii și de două ori pe locul al doilea în cele nouă ori când a trimis echipe la Jocurile Olimpice de iarnă.
Comitetul Olimpic al URSS a fost creat la 21 aprilie 1951. Acesta a fost acceptat de CIO la 7 mai 1951.
Jocurile Olimpice de vară din 1952 de la Helsinki au fost primele Jocuri Olimpice pentru sportivii sovietici. La 20 iulie 1952, prima medalie olimpică de aur pentru această țară a fost câștigată de Nina Romashkova în proba feminină de aruncare a discului. Romashkova a stabilit noul record olimpic în această probă. Jocurile Olimpice de iarnă din 1956 de la Cortina d'Ampezzo au fost primele Jocuri Olimpice de iarnă pentru sportivii sovietici. Prima medalie de aur la Jocurile Olimpice de iarnă pentru Uniunea Sovietică a fost câștigată de Lyubov Kozyreva în proba feminină de schi fond 10 km.
URSS a fost țara gazdă a Jocurilor Olimpice de vară din 1980 de la Moscova. Aceste Jocuri au fost boicotate de Statele Unite și de multe alte țări. După aceasta, URSS a condus un boicot al Jocurilor din 1984 de la Los Angeles.
URSS a luat sfârșit la 26 decembrie 1991. Comitetul Olimpic al URSS nu s-a încheiat decât la 12 martie 1992.
În 1992, 12 din cele 15 țări care făcuseră parte din Uniunea Sovietică au participat la Jocuri sub forma echipei unificate. Aceștia au folosit steagul olimpic la Jocurile de la Barcelona. Echipa unificată a terminat pe primul loc în clasamentul pe medalii. Echipa unificată a participat, de asemenea, la Jocurile de iarnă de la Albertville, la începutul anului. Au participat doar șapte din cele douăsprezece țări. Au terminat pe locul doi în clasamentul pe medalii la acele Jocuri.