FW de Klerk s-a născut la Johannesburg în 1936. Este fiul lui Johannes de Klerk (1903-1979) și al Hendrinei Cornelia de Klerk (1904-2001), care a murit cu doar patru luni înainte de moartea fostei sale fiice Marike Willemse și a fratelui său Wimpie de Klerk (1928-2009). Familia sa, al cărei nume provine de la numele de familie francez "Le Clerc", "Le Clercq" sau "de Clercq", este de origine hughenota. S-a stabilit în țară în 1686, la câteva luni după Revocarea edictului de la Nantes, și a participat la diverse evenimente din istoria afrikanerului. Strămoșii lor au participat la Marele Drum cu trenul condus de Piet Retief pentru a scăpa de dominația britanică. În 1838, trei membri ai familiei Klerk au fost, de asemenea, uciși împreună cu Retief în King Kraal of Zulu, Dingane. Mai târziu, în timpul celui de-al Doilea Război Boer (1899-1902), bunicul FW de Klerk a fost capturat de două ori de britanici înainte de a fi membru fondator al Partidului Național în 1914, alături de James Barry Hertzog. Potrivit genealogistului Keith Meintjies și confirmat de FW de Klerk, acesta din urmă este, de asemenea, în concordanță cu Krotoa (Eva), o femeie Khoi, care a servit ca interpretă pentru coloniștii olandezi în timpul fondării Coloniei Capului.
Membru al Bisericii Olandeze Reformate, FW by Klerk, este fiul cel mai mic, Jan Klerk, șeful școlii și ministru cu diverse portofolii (1954-1969) și președinte al Senatului (1969-1976), nepotul lui JG Strijdom, șeful guvernului sud-african din 1954 până în 1958. Fratele său mai mare, Wimpie de Klerk, este analist politic și cofondator al Partidului Democrat în 1989.
Liceul din Krugersdorp, o suburbie a orașului Johannesburg, FW by Klerk a obținut o diplomă de onoare la Universitatea din Potchefstroom în 1958. În 1959 s-a căsătorit cu Marike Willemse (1937-2001), cu care va crește trei copii adoptați ). Cuplul, F. W. și Marike de Klerk, a divorțat în 1998.
În timpul studiilor universitare, s-a înscris în Partidul Național și a devenit membru al Broderbond.
Un avocat din Vereeniging, în sudul Transvaalului, a refuzat în 1972 postul de avocat public la Universitatea din Potchefstroom pentru a candida la alegerile generale.