Înainte de apariția gheișelor, unele femei lucrau ca artiste și animatoare. În perioada Heian (794-1185), femeile distrau oamenii de la Curtea Imperială cântând și dansând și erau cunoscute sub numele de shirabyōshi (白拍子).
Mai târziu, femeile care lucrau ca prostituate și curtezane îi distrau pe bărbați în cartierele cu lumini roșii din Japonia. În 1589, Toyotomi Hideyoshi a autorizat construirea unui cartier în Kyoto care era închis din exterior cu ziduri. Numit Shimabara, acesta era dedicat plăcerii. Shimabara a fost înființat ca un cartier roșu oficial în 1640 și a devenit una dintre cele trei zone din Japonia în care prostituția putea fi practicată în mod legal. Celelalte două erau Yoshiwara din Tokyo, care fusese înființată în 1617, și Shinmachi, în Osaka.
Zonele închise erau cunoscute sub numele de yūkaku și erau singurele locuri în care femeile aveau voie să se prostitueze. Curtezanele erau numite colectiv oiran (花魁) și erau foarte scumpe. Oiran îi distrau, de asemenea, pe bărbați cu cântece, dansuri, poezii, muzică și conversații. Oiran de cel mai înalt rang erau tayū, care nu se ocupau cu prostituția, sub conducerea celorlalte oiran. În schimb, ele aveau unul sau doi clienți bogați care le serveau drept patroni; acei bărbați plăteau o mulțime de bani pentru a fi întreținuți de clientele lor tayū.
Tayū putea să refuze oameni și putea decide pe cine să primească. Tayū erau crescuți de mici pentru a fi foarte pricepuți în diferite tipuri de artă și divertisment, iar mulți dintre ei au devenit celebrități. Există multe xilogravuri și picturi ale unor faimoși tayū, precum și ale altor oiran.
Ghișeele au apărut abia mult mai târziu, în timpul perioadei Tokugawa. Inițial, gheișele erau bărbați, care călătoreau prin cartierele cu lumini roșii pentru a distra clienții cu muzică, dans și poezie. Astfel de bărbați erau cunoscuți sub numele de gheișă, dar erau numiți și otoko geisha (男芸者, "gheișă masculină"), hōkan (幇間, "bufoni") și taikomochi (太鼓持ち, "toboșari"), deoarece cântau la taiko, o tobă japoneză.
Gheișele de sex masculin erau animatoare de clasă inferioară, dar oiranii erau considerați ca fiind din clasa superioară. Orice bărbat care dorea să fie cu o oiran trebuia să respecte ritualuri și etichete dificile și să aibă suficienți bani pentru a plăti pentru timpul ei. Asta însemna că doar cei mai bogați nobili ajungeau să fie întreținuți de oiran. Multe case de ceai (ochaya (お茶屋)) au apărut în afara Shimabara și ofereau divertisment care nu era oferit în interiorul Shimabara. La unele dintre casele de ceai, unele femei practicau prostituția mai ieftină și erau numite sancha-jorō. Cu toate acestea, alte femei, care erau numite "odoriko" ("fete dansatoare"), acționau ca dansatoare și muziciene și au devenit în curând foarte populare. Au început să se numească "gheișă", la fel ca artiștii bărbați care lucrau în Shimabara.
Până în jurul anului 1700, femeile gheișă au devenit mult mai populare decât bărbații gheișă. Câțiva ani mai târziu, aproape toate gheișele erau femei.
Guvernul a interzis gheișelor să lucreze ca prostituate și le-a permis doar să acționeze ca animatoare. Una dintre legi le-a obligat să își lege obi (帯) (eșarfă) la spate, așa cum oiran le purtau în față, ca semn că erau disponibile pentru sex. Ghișeele trebuiau să poarte coafuri mai simple, mai puține accesorii pentru păr, mai puțin machiaj și kimono-uri mai simple. Dacă o oiran acuza o gheișă că îi fură clienții, gheișele erau anchetate.
În curând, gheișele au devenit atât de populare decât oiranii, încât în 1761, ultimul tayū din Yoshiwara s-a retras. Deși tayū au continuat să lucreze în Kyoto și Osaka, oiran-urile în ansamblu erau considerate învechite, prea tradiționale și prea scumpe. Oiran nu puteau să părăsească cartierele cu lumini roșii deoarece aveau multe datorii față de proprietarul bordelului în care lucrau și nu mai erau considerate celebrități sau la modă. Majoritatea oamenilor nu își permiteau să le angajeze. În schimb, gheișele erau mai ieftine și mai la modă și puteau părăsi cartierele de culoare roșie oricând doreau. Cântau cântece populare și nu aveau nevoie de mai multe întâlniri costisitoare înainte de a distra un client. În Kyoto și în alte orașe au fost create noi cartiere de gheișe (hanamachi).
În secolul al XIX-lea, gheișele se aflau într-o poziție mai bună decât femeile obișnuite, dar aveau și ele probleme în societatea japoneză. Unii oameni săraci își vindeau fiicele unei case de gheișe, dar acest lucru era mai puțin frecvent decât cred unii, deoarece multe gheișe proveneau din familii în care mama sau o altă rudă de sex feminin fusese cândva gheișă. Gheișele nu se puteau căsători, dar puteau avea un patron care să le plătească cheltuielile, iar unele se retrăgeau atunci când obțineau un patron bogat. Alți bărbați plăteau o mulțime de bani pentru a lua virginitatea noilor fete (mizuage), iar dacă proprietarul unei case de gheișă era necinstit și lacom, o tânără gheișă putea să își vândă virginitatea de mai multe ori unor bărbați diferiți.
Cu toate acestea, reputația și respectul pentru gheișe a crescut în timpul Restaurației Meiji și chiar mai mult după cel de-al Doilea Război Mondial. Au fost create legi importante pentru a le proteja. Fetele tinere nu mai puteau fi vândute caselor de gheișe, iar virginitatea tinerelor gheișe nu mai putea fi cumpărată. De atunci, femeile devin gheișă doar prin voința lor liberă.