În 1976, Yunus a vizitat cele mai sărace gospodării din satul Jobra, în apropierea Universității din Chittagong. El a descoperit că împrumuturile foarte mici pot fi de mare ajutor pentru o persoană săracă. Unele femei din Jobra confecționau mobilă din bambus și trebuiau să ia împrumuturi pentru a cumpăra bambus, dar toate profiturile lor erau plătite pentru împrumuturi. Primul împrumut acordat de Muhammad Yunus a fost de 27,00 USD din buzunarul său. Acești 27 USD au fost împrumutați la 42 de femei din sat, care au obținut un profit de 0,02 USD fiecare din împrumut.
În decembrie 1976, banca guvernamentală Janata Bank i-a acordat lui Yunus un împrumut pe care acesta îl putea folosi pentru a acorda o mulțime de împrumuturi mici unor oameni foarte săraci. Grupul său a obținut mai multe împrumuturi de la alte bănci, iar până în 1982, 28.000 de persoane aveau locuri de muncă la Grameen. La 1 octombrie 1983, Grameen a devenit o bancă cu drepturi depline și a fost redenumită Grameen Bank (Banca Satului) pentru a acorda împrumuturi bangladeshienilor săraci. Yunus și lucrătorii săi au fost amenințați, iar femeilor li s-a spus că nu vor avea parte de o înmormântare musulmană dacă împrumută bani de la Grameen Bank, dar au acordat foarte, foarte multe împrumuturi oamenilor săraci. Până în iulie 2007, Grameen Bank a împrumutat 6,38 miliarde de dolari americani la 7,4 milioane de persoane. Banca împrumută bani unor "grupuri de solidaritate". Aceste grupuri mici primesc împrumuturi împreună și, dacă o persoană nu poate plăti, restul grupului plătește pentru ele.
Grameen Bank a înființat alte grupuri în anii 1980 pentru a face lucruri precum menținerea curățeniei iazurilor de pescuit și construirea de pompe de irigații. În 1989, aceste grupuri au început să primească nume proprii. Proiectul de pescuit a devenit Grameen Motsho (Fundația Grameen pentru pescuit), iar proiectul de irigații a devenit Grameen Krishi (Fundația Grameen pentru agricultură). Grupul Grameen s-a transformat în numeroase grupuri profitabile și non-profit, cum ar fi Grameen Trust, Grameen Fund, Grameen Software Limited, Grameen CyberNet Limited, Grameen Knitwear Limited, Grameen Telecom și Grameenphone (GP) (Grameenphone este cea mai mare companie de telefonie din sectorul privat din Bangladesh). Proiectul Village Phone (Polli Phone) al Grameenphone a făcut posibil ca 260.000 de persoane sărace din peste 50.000 de sate să dețină telefoane mobile începând din martie 1997.
Ideile Grameen au fost folosite în multe țări din întreaga lume, cum ar fi Statele Unite. Mai mult de 94% din împrumuturile Grameen au fost acordate femeilor, care au mai puțini bani și dau mai mult pentru familiile lor. Pentru activitatea sa în cadrul Grameen Bank, Yunus a fost numit în 2001 membru al Academiei Globale Ashoka: Innovators for the Public Global Academy.