Închisoarea a fost construită în 1876. La început a fost folosită doar pentru soldați, dar după 1919 a fost folosită și pentru deținuți civili. La acea vreme, a găzduit până la 600 de deținuți.
În urma incendiului Reichstagului din 1933, opozanți ai lui Hitler și jurnaliști precum Egon Kisch și Carl von Ossietzky au fost ținuți acolo în așa-numita custodie de protecție. Închisoarea Spandau a devenit un fel de predecesor al lagărelor de concentrare naziste. Trebuia să fie controlată de Ministerul Justiției din Prusia, dar Gestapo-ul a torturat și abuzat deținuții, după cum își amintește Egon Erwin Kisch în amintirile sale despre închisoarea Spandau. Până la sfârșitul anului 1933 au fost construite primele lagăre de concentrare naziste (la Dachau, Osthofen, Oranienburg, Sonnenburg, Lichtenburg și lagărele din mlaștina din jurul Esterwegen). Toți prizonierii rămași în "custodie de protecție" în închisorile de stat au fost transferați în aceste lagăre de concentrare.
După cel de-al Doilea Război Mondial, a fost administrat de autoritățile celor patru puteri pentru a găzdui criminalii de război naziști condamnați la închisoare în cadrul proceselor de la Nürnberg.
Doar șapte prizonieri au fost încarcerați în cele din urmă acolo. Sosiți de la Nürnberg la 18 iulie 1947, aceștia erau:
- Rudolf Hess - condamnat pe viață (a murit în 1987)
- Walther Funk - condamnat pe viață (eliberat la 16 mai 1957)
- Erich Raeder - condamnat pe viață (eliberat în 1955)
- Albert Speer - a executat o pedeapsă de 20 de ani (eliberat în 1966)
- Baldur von Schirach - a executat un mandat de 20 de ani (eliberat în 1966)
- Konstantin von Neurath - condamnat la 15 ani de închisoare (eliberat în 1954)
- Karl Dönitz - a servit un mandat de 10 ani (eliberat în 1956)
Dintre cei șapte, doar patru și-au ispășit întreaga pedeapsă; ceilalți trei, Neurath, Raeder și Funk, au fost eliberați mai devreme din cauza problemelor de sănătate. Între 1966 și 1987, Rudolf Hess a fost singurul deținut din închisoarea Spandau. Singurul său companion a fost directorul închisorii, Eugene K. Bird, care i-a devenit un prieten apropiat. Bird a scris o carte despre încarcerarea lui Hess, intitulată The Loneliest Man in the World.
Spandau a fost una dintre cele doar două organizații ale celor patru puteri care au continuat să funcționeze după destrămarea Consiliului de Control Aliat, cealaltă fiind Centrul de Siguranță Aeriană din Berlin. Cele patru puteri ocupante ale Berlinului urmau să alterneze lunar controlul închisorii, fiecare având responsabilitatea pentru un total de trei luni pe an.
Închisoarea a fost demolată în 1987, în mare parte pentru a împiedica transformarea ei într-un sanctuar neonazist, după moartea ultimului deținut rămas în închisoare, Rudolf Hess, care fusese singurul ocupant al închisorii după eliberarea lui Speer și von Schirach în 1966. Locul a fost transformat într-o parcare și într-un centru comercial al FNAA, denumit The Britannia Centre Spandau și poreclit Hessco's după un lanț de supermarketuri britanic numit "TESCO". Toate materialele din închisoarea demolată au fost măcinate și aruncate în Marea Nordului sau îngropate la fosta RAF Gatow.
În 2006, un supermarket Kaiser's, un ALDI și un magazin de electronice de consum Media Markt au ocupat terenul fostei închisori. La sfârșitul anului 2008, Media Markt a părăsit complexul comercial principal.