Hildesheim este unul dintre cele mai vechi orașe din nordul Germaniei. Este posibil ca orașul să fi fost fondat atunci când episcopul s-a mutat de la Elze la vadul Innerste, unde era o piață importantă pe ruta comercială Hellweg. Așezarea s-a transformat în curând într-un oraș care a primit drepturi de piață de la regele Otto al III-lea în 983. Inițial, piața se ținea pe o stradă numită Piața Veche (Alter Markt), care există și astăzi. Prima piață a fost amenajată în jurul Bisericii Sfântul Andrei. Pe măsură ce orașul s-a extins, o piață mai mare a devenit mai importantă. Actuala piață din Hildesheim a fost realizată la începutul secolului al XIII-lea, când orașul avea o populație de aproximativ 5.000 de locuitori. Când Hildesheim a obținut drepturile de oraș în 1249, era unul dintre cele mai mari orașe din nordul Germaniei. Timp de patru secole, clerul a condus Hildesheim, înainte de a fi construită o primărie, iar cetățenii au dobândit o oarecare influență și independență. Construcția actualei primării a început în 1268, iar în 1367 Hildesheim a devenit membru al Ligii Hanseatice. Un război între cetățeni și episcopul lor a costat scump în 1519-1523, când aceștia s-au angajat într-o dușmănie. Hildesheim a devenit protestant în 1542, iar doar catedrala și alte câteva clădiri au rămas în mâinile imperiale (romano-catolice). Mai multe sate din jurul orașului au rămas, de asemenea, romano-catolice. În 1813, după Războaiele napoleoniene, orașul a devenit parte a Regatului Hanovra, care a fost anexat de Regatul Prusiei după Războiul Austro-Prusacru în 1866 ca provincie.
Orașul a fost bombardat în timpul celui de-al Doilea Război Mondial, dar bombardamentele au avut o importanță redusă în cursul războiului. 28,5% dintre case au fost distruse și 44,7% avariate. 26,8% dintre case nu au suferit daune. Centrul, care până atunci mai avea încă un caracter medieval, a fost aproape nivelat. La fel ca în multe orașe, s-a acordat prioritate construirii rapide de locuințe foarte necesare, iar structurile din beton au luat locul clădirilor distruse. Din fericire, majoritatea bisericilor importante, două dintre ele aflate acum în patrimoniul mondial UNESCO, au fost reconstruite în stilul original la scurt timp după război. În timpul războiului, materiale valoroase din patrimoniul mondial fuseseră ascunse în subsolul zidurilor orașului. În 1978, a fost înființată Universitatea din Hildesheim. În anii 1980 a început o reconstrucție a centrului istoric. Unele dintre noile clădiri de beton din apropierea pieței au fost demolate. În locul lor au fost construite replici ale clădirilor originale.