Fii de imigranți evrei ruși, Robert și Richard Sherman au început să compună cântece împreună în 1951, la o provocare a tatălui lor, compozitorul Al Sherman din Tin Pan Alley. Frații au scris împreună și cu diferiți parteneri compozitori pe tot parcursul restului deceniului.
În 1958, Robert a fondat compania de editare muzicală Music World Corporation. Ulterior, acesta a avut o relație cu filiala editorială afiliată la BMI a Disney, Wonderland Music Company. În același an, frații Sherman Brothers au avut primul lor hit în top 10 cu "Tall Paul", cântat de Judy Harriet, o actriță a lui Mouseketeer, la casa de discuri Surf Records. Acesta a fost cântat și de Annette Funicello, membră a Mouseketeer. Succesul acestui cântec i-a atras atenția lui Walt Disney. Acesta i-a angajat apoi pe frații Sherman ca și compozitori pentru studiourile Walt Disney. Primul cântec pe care aceștia l-au scris la comanda personală a lui Walt Disney a fost "Strummin' Song" în 1961. Acesta a fost folosit în filmul făcut pentru televiziune de Annette Funicello intitulat "The Horsemasters".
Cât timp au lucrat la Disney, frații Sherman au scris mai multe partituri muzicale pentru filme decât orice alt compozitor din istoria filmului. De asemenea, au scris ceea ce este probabil cel mai cunoscut cântec al lor, "It's a small world (after all)", pentru Expoziția Universală de la New York din 1964. De atunci, unii au afirmat că acesta a devenit cel mai tradus și interpretat cântec de pe Pământ, deși acest lucru se datorează în mare parte faptului că este interpretat la atracțiile din parcul de distracții Disney "it's a small world" cu același nume.
În 1965, frații Sherman au câștigat două premii Oscar pentru Mary Poppins, care include cântecele "Feed The Birds", "Supercalifragilisticexpialidocious" și melodia "Chim Chim Cher-ee", premiată cu Oscar. De la prima ecranizare a lui Mary Poppins, familia Sherman a obținut nouă nominalizări la Oscar, două premii Grammy, patru nominalizări la premiile Grammy și 23 de albume certificate cu aur și platină.
Robert și Richard Sherman au lucrat direct pentru Walt Disney, realizând partiturile pentru filmele muzicale live-action The Happiest Millionaire și The One and Only, Genuine, Original Family Band până la moartea lui Disney în 1966. De la plecarea din companie, frații au lucrat ca compozitori independenți la zeci de filme, emisiuni de televiziune, expoziții în parcuri tematice și musicaluri de teatru.
Prima lor misiune în afara celor de la Disney a fost producția cinematografică Chitty Chitty Bang Bang a lui Albert R. Broccoli pentru United Artists în 1968. Acest film le-a adus fraților cea de-a treia nominalizare la Oscar pentru cel mai bun cântec original, pentru cântecul său titular deosebit de memorabil.
În 1970, soții Sherman s-au întors la Disney pentru o scurtă perioadă de timp, unde au lucrat la The Aristocats și Bedknobs and Broomsticks. Acest din urmă film le-a adus fraților a patra și a cincea nominalizare la Oscar. În 1972 a avut loc lansarea filmului Snoopy Come Home, pentru care frații au primit o nominalizare la premiile Grammy.
În 1973, frații Sherman au intrat în istorie, devenind singurii americani care au câștigat Premiul I la Festivalul de Film de la Moscova pentru Tom Sawyer, al cărui scenariu au fost și autori.
În 1976, "Pantoful și trandafirul" a fost ales spectacolul anului în cadrul Comandamentului Regal. La spectacol a participat Regina Elisabeta, Regina Mamă. O versiune muzicală modernă a poveștii clasice a Cenușăresei, "Slipper", a inclus, de asemenea, cântece, partitura și scenariul fraților Sherman. Alte două nominalizări la premiile Oscar au fost obținute de frați pentru acest film. În același an, frații Sherman și-au primit steaua pe "Walk of Fame" de la Hollywood, chiar vizavi de Grauman's Chinese Theater.
Printre numeroasele alte filme ale fraților Sherman, atât Disney, cât și non-Disney, care au ajuns în fruntea box office-ului, se numără The Jungle Book (1967), The Aristocats (1970), The Parent Trap (1961), The Parent Trap (1998), Charlotte's Web (1973), Huckleberry Finn (1974), The Many Adventures of Winnie the Pooh (1977), Snoopy, Come Home (1972), Bedknobs and Broomsticks (1971) și Little Nemo: Aventuri în Slumberland (1989).
În afara filmelor de cinema, marele lor hit Over Here! (1974) a fost musicalul original de pe Broadway cu cele mai mari încasări din acel an. Frații Sherman au scris, de asemenea, numeroase cântece de succes, inclusiv "You're Sixteen", care a ajuns de două ori în topul Billboard Hot 100: prima dată cu Johnny Burnette în 1960 și apoi pe locul 1 cu Ringo Starr, mai mult de treisprezece ani mai târziu. Alte hituri din top 10 includ "Pineapple Princess", "Let's Get Together" și multe altele.
În anul 2000, frații Sherman au compus coloana sonoră pentru filmul Disney The Tigger Movie. Acest film a marcat primul film major al fraților pentru compania Disney în peste 28 de ani.
În 2003, patru musicaluri ale fraților Sherman s-au clasat în topul celor mai bune 10 filme pentru copii din toate timpurile, într-un sondaj realizat la nivel național în Marea Britanie și prezentat de BBC. Cel mai notabil este Chitty Chitty Bang Bang din 1968, care s-a clasat pe primul loc.
În anii următori, odată cu mutarea lui Robert la Londra, frații au scris multe cântece noi pentru prezentările muzicale de scenă ale pieselor Chitty Chitty Bang Bang și Mary Poppins, produse de Disney și Cameron Mackintosh.
Pentru contribuția lor la industria cinematografică, frații Sherman au o stea pe Hollywood Walk of Fame, la adresa 6918 Hollywood Blvd. Ei au fost incluși în Songwriters Hall of Fame la 9 iunie 2005. La 16 noiembrie 2006, Mary Poppins a avut premiera la New Amsterdam Theatre de pe Broadway.
La 17 noiembrie 2008, frații Sherman au primit Medalia Națională a Artelor, cea mai înaltă distincție acordată artiștilor de către guvernul Statelor Unite. Distincția a fost înmânată de președintele Statelor Unite, George W. Bush, în cadrul unei ceremonii în East Room, la Casa Albă.
Pe 22 mai 2009, în cinematografe a fost difuzat The Boys: the Sherman Brothers' Story, un film despre cei doi. Filmul a fost regizat și produs de fiii lor, Gregory V. Sherman și Jeff Sherman. A fost scos la vânzare de Walt Disney Pictures.
În octombrie 2009, Disney a lansat un compendiu de 59 de piese, pe două CD-uri, cu lucrările lor pentru studio, care acoperă 42 de ani. CD-ul se numește "The Sherman Brothers Songbook".
La 11 martie 2010, frații Sherman au primit o fereastră pe Mainstreet Disneyland din Anaheim, California, în onoarea contribuției lor la parcurile tematice Disney. La 17 mai 2010, frații Sherman au primit premiul "Career Achievement Award" în cadrul Galei Premiilor 2010 a Muzeului Teatrului din New York.