În decembrie 2001, Perdue a demisionat din funcția de senator de stat pentru a putea candida la funcția de guvernator. El a câștigat alegerile pentru postul de guvernator al Georgiei din 2002, învingându-l pe democratul Roy Barnes, cu 51% la 46%, candidatul libertarian Garrett Michael Hayes obținând 2% din voturi. A devenit primul guvernator republican al Georgiei în peste 130 de ani, de la Benjamin F. Conley.
În calitate de guvernator, Perdue a condus reformele menite să reducă risipa în guvern, în special vânzarea de vehicule și bunuri imobiliare excedentare. El a ajutat Georgia să avanseze de pe ultimul loc în țară în ceea ce privește notele SAT. Deși a revenit pe ultimul loc în 2005, Georgia a urcat pe locul 49 în 2006 în ceea ce privește scorul mediu combinat la matematică și citire, inclusiv partea de scris adăugată la test în acel an. Perdue a creat, de asemenea, oportunități suplimentare pentru școlile charter și școlile private. În 2006, Perdue a semnat o lege care a conferit Georgiei "unele dintre cele mai dure măsuri din țară împotriva imigrației ilegale".
În 2006, Perdue a fost reales pentru un al doilea mandat la alegerile pentru postul de guvernator al Georgiei din 2006, obținând aproape 58% din voturi. Adversarul său democrat a fost guvernatorul locotenent Mark Taylor. Pe buletinul de vot a fost înscris, de asemenea, libertarienul Garrett Michael Hayes.
2007 rugăciune pentru ploaie
La 13 noiembrie 2007, în timp ce Georgia suferea de una dintre cele mai grave secete din ultimele decenii, Perdue a condus un grup de câteva sute de persoane într-o rugăciune pe treptele Capitoliului de stat. Perdue s-a adresat mulțimii, spunând: "Ne-am adunat aici pur și simplu pentru un singur motiv și un singur motiv: Pentru a ne ruga foarte respectuos și respectuos pentru o furtună" și "Doamne, avem nevoie de tine; avem nevoie de ploaie".
