La 7 februarie 2006, a anunțat că va încerca să obțină nominalizarea democrată pentru cursa pentru Senat din 2006 împotriva actualului senator de Virginia, George Allen.
În alegerile primare democrate din 13 iunie 2006, Webb s-a confruntat cu omul de afaceri și lobbyistul Harris Miller. Webb a câștigat cu 53,5% din voturi, într-o cursă cu o prezență scăzută la vot. La 4 ianuarie 2007, Webb a depus jurământul în cel de-al 110-lea Senat al SUA, însoțit de senatorul John Warner, republican din Virginia, un fost secretar al Marinei, și de fostul senator democrat de Virginia Chuck Robb, care a ocupat același loc înainte de a pierde în fața lui Allen.
La 15 noiembrie 2006, Harry Reid, liderul majoritar al Senatului, l-a repartizat pe Webb în trei comisii: Comisia pentru relații externe, Comisia pentru veterani și Comisia pentru servicii armate.
La 23 ianuarie 2007, Webb a prezentat răspunsul democrat la discursul președintelui privind starea Uniunii, concentrându-se pe economie și Irak. Discursul lui Webb a atras recenzii pozitive și a fost considerat unul dintre cele mai puternice răspunsuri la "Starea Uniunii" din istoria recentă. Webb, un veteran de război decorat, a vorbit despre trecutul militar al familiei sale, despre atașamentul său pasionat față de armată și despre modul în care președinții anteriori au încercat întotdeauna să se asigure că au fost luate toate măsurile de precauție atunci când au trimis tineri americani în calea pericolului.
La 14 august 2009, Webb a vizitat Myanmar (Birmania), unde l-a văzut pe liderul juntei, generalul Than Shwe, dar și pe liderul pro-democrație Aung San Suu Kyi, care se afla în arest la domiciliu. În timpul vizitei lui Webb la Than Shwe, Webb a negociat eliberarea și deportarea unui american încarcerat, John Yettaw.
La 9 februarie 2011, Webb a anunțat că nu va candida pentru realegerea mandatului său de senator în 2012.
