John Brown s-a născut la 9 mai 1800, în Torrington, Connecticut. A fost al patrulea dintre cei opt copii ai lui Owen Brown (1771-1856) și Ruth Mills (1772-1808) și nepotul căpitanului John Brown (1728-1776). Strămoșii lui Brown erau puritani englezi din secolul al XVII-lea.
În 1805, familia s-a mutat în Hudson, Ohio. Owen Brown a deschis aici o tăbăcărie. În Hudson a existat o mulțime de activități împotriva sclaviei. Owen a făcut parte din ea. Owen a oferit o casă sigură pentru fugarii de pe Calea Ferată Subterană. La acea vreme nu exista un liceu în Hudson, așa că John a studiat la școala aboliționistului Elizur Wright. Elizur Wright a fost tatăl lui Elizur Wright, din Tallmadge, în apropiere.
Tatăl lui Ulysses S. Grant, Jesse R. Grant, a fost ucenicul lui Owen Brown.
La vârsta de 16 ani, Brown și-a părăsit familia și a plecat în Plainfield, Massachusetts. S-a înscris la un program pregătitor. La scurt timp după aceea, a mers la Academia Morris din Litchfield, Connecticut.
În 1820, Brown s-a căsătorit cu Dianthe Lusk. Primul lor copil, John Jr, s-a născut 13 luni mai târziu. În 1825, în căutarea unui loc mai sigur (pentru sclavii fugari), Brown și familia sa s-au mutat în New Richmond, Pennsylvania. A cumpărat 200 de acri (81 de hectare) de pământ. A defrișat o optime din el și a construit o cabană, un hambar și o tăbăcărie. Tăbăcăria avea o cameră secretă pentru a ascunde sclavii evadați. Situl tăbăcăriei lui John Brown a fost inclus în Registrul Național al Locurilor Istorice în 1978. Acesta "a fost o oprire majoră pe calea ferată [subterană], marcând locul său în istorie între 1825 și 1835". În acea perioadă, "Brown a ajutat aproximativ 2.500 de sclavi să evadeze".
În 1829, câteva familii de albi i-au cerut lui Brown să îi ajute să îndepărteze nativii americani care vânau anual în zonă. Brown le-a spus: "Nu voi avea nimic de-a face cu [un astfel de] act meschin. Aș [prefera] să-mi iau arma și să vă ajut să [vă] îndepărtați din țară". De-a lungul vieții sale, Brown a păstrat relații pașnice cu vecinii săi nativi americani. Uneori mergea cu ei la vânătoare și îi invita să mănânce în casa lui.
În 1831, unul dintre fiii săi a murit. Brown s-a îmbolnăvit, iar afacerile sale au început să meargă prost. Acest lucru l-a făcut pe Brown să aibă o mulțime de datorii. În vara anului 1832, la scurt timp după moartea unui fiu nou-născut, soția sa, Dianthe, a murit. Singura familie care i-a rămas au fost copiii săi John Jr., Jason, Owen și Ruth. (Alți trei dintre copiii lor au murit înainte de a deveni adulți.) La 14 iunie 1833, Brown s-a căsătorit cu Mary Ann Day (15 aprilie 1817 - 1 mai 1884), în vârstă de 16 ani. Ea era din Washington County, New York. Au avut 13 copii; cei care erau în viață la moartea lui John Brown erau Salmon, Annie, Sarah și Ellen.
În 1836, Brown și-a mutat familia în Franklin Mills, Ohio (cunoscut în prezent sub numele de Kent). Acolo, a împrumutat bani pentru a cumpăra terenuri în zonă. A construit și a operat o tăbăcărie de-a lungul râului Cuyahoga. Partenerul său a fost Zenas Kent.
În 1837, când a aflat că Elijah P. Lovejoy a fost ucis, Brown a promis: "Aici, în fața lui Dumnezeu, [cu martori în jurul meu], de [acum încolo], îmi (dedic) viața distrugerii sclaviei!"
El credea cu tărie în creștinism. Credea că creștinii ar trebui să trateze oamenii la fel, indiferent de culoarea pielii lor. Mulți creștini albi din America din acea perioadă nu erau de acord cu acest lucru.
