Toen Kilmainham Gaol in 1796 werd gebouwd, heette ze de New Gaol om haar te onderscheiden van de oude gevangenis die ze moest vervangen – een luidruchtige kerker, op slechts een paar honderd meter afstand van de huidige plek. Zij heette toen officieel County of Dublin Gaol (Gevangenis van het graafschap Dublin) en werd gerund door de Grand Jury for County Dublin (het hooggerechtshof van dit graafschap).

Oorspronkelijk vonden er in Kilmainham ook openbare ophangingen plaats, aan de voorkant van de gevangenis.[1] Maar vanaf de jaren twintig in de 19e eeuw was hun aantal beperkt.[1] Toen deze executies een minder openbaar karakter kregen, bouwde men in 1891 voor dit doel een kleine cel binnen de gevangenis. Die bevindt zich op de eerste verdieping, tussen de westelijke en de oostelijke vleugel.

Er was geen scheiding van gevangenen; mannen, vrouwen en kinderen werden allemaal samen opgesloten tot 5 personen in elke cel, met slechts één enkele kaars voor licht en warmte. Het grootste deel van hun tijd brachten de gevangenen in de kou en in het donker door en met elke kaars moesten zij twee weken doen. De cellen waren ongeveer 28 vierkante meter groot.[1]

Kinderen werden soms gearresteerd voor kleine diefstallen. De jongste gevangene ooit schijnt zeven jaar te zijn geweest.[1] Veel van de volwassen gevangenen werden naar Australië gebracht met zogenaamde ‘penal transports’, transporten naar strafkolonies.

De slechte omstandigheden waarin vrouwelijke gevangenen in Kilmainham Gaol werden vastgehouden, lieten hun sporen na in de ontwikkeling van volgende generaties. Al in 1809 meldde de inspecteur dat mannelijke gevangenen werden voorzien van ijzeren ledikanten, terwijl vrouwen "op stro lagen op de plavuizen in cellen en gemeenschappelijke ruimten". Een halve eeuw later was er weinig verbeterd. De vrouwenafdeling, gelegen in de westelijke vleugel, bleef overvol. In een poging om deze overbevolking te verminderen, werden er in 1840 30 vrouwencellen bijgebouwd.[2] Deze verbeteringen werden echter vlak voor de Ierse Hongersnood ingevoerd en vervolgens werd Kilmainham alsnog overspoeld ten gevolge van een toename in het aantal gevangenen.