Schaffhausen a fost un oraș-stat în Evul Mediu, despre care se știe că și-a bătut propriile monede începând cu anul 1045. Pentru o perioadă de timp s-a aflat sub dominație habsburgică, dar și-a recăpătat independența în 1415. S-a aliat cu Zürich în 1457, iar în 1501 a devenit membru cu drepturi depline al Confederației Elvețiene. Prima cale ferată a ajuns la Schaffhausen în 1857.
Schaffhausen se află într-un deget de pământ elvețian înconjurat pe trei laturi de Germania. La 1 aprilie 1944, Schaffhausen a suferit un bombardament de către avioane ale Forțelor Aeriene ale Armatei Statelor Unite, care au ieșit din spațiul aerian german și au pătruns în Elveția neutră. În timp ce Statele Unite au oferit imediat patru milioane de dolari drept despăgubiri, raidul a avut loc la numai o lună după ce Forțele Aeriene Elvețiene doborâseră un bombardier american.
În 1947 a fuzionat cu fosta municipalitate Buchthalen. În 1964 a fuzionat cu fosta municipalitate Herblingen. Din 2009, Hemmental face parte din oraș.