Leiren ble opprettet av tyskerne 14. juni 1941 i kvinnefengselet på Ila i Østre Bærum. Fengselet var påbegynt i 1938 og praktisk talt ferdig 1940, men var ennå ikke tatt i bruk. Det var blitt brukt til internering av krigsfanger (offiserer) i april–juni 1940.​

Den første tiden var det ikke flere fanger enn at de kunne innkvarteres i fengselsbygningen, men så steg fangetallet utpå våren 1942 til over 1000. Etter at områdene rundt den opprinnelige fengselsbygningen var ryddet for skog, ble det reist en brakkeleir med over 30 brakker for innkvartering, verksteder, sykesaler, osv. 

Til tross for store transporter til Tyskland (særlig 1943, da ca. 2000 ble sendt) steg fangetallet meget sterkt, særlig høsten 1942 og i 1944, og leiren ble helt overfylt. Toppbelegget var på ca. 5400, hvorav ca. 600 kvinner.

Da brakkene ble tatt i bruk, fikk de kvinnelige fangene halve fengselsbygningen der det var kvinnelige fengselsvoktere. Den andre halvdelen ble til en lukket celleavdeling (kalt kallenavnet "Haft" etter det tyske ordet for fengsel, verhaftung). 

Kriminelle og ledende politikere

I den første tiden satt det omtrent bare politiske fanger på Grini, men etter hvert kom det inn mange som var arrestert for kriminelle handlinger og prostituerte. Her satt også professorer, vitenskapsfolk, idrettsfolk, politikere, kunstnere, kirkeledere og grenseloser. Til sammen i krigsårene satt nesten 20 000 personer på Grini, hvorav 2000 var kvinner. Flertallet var nordmenn, men også atten andre nasjoner (flest polakker, sovjetere og franskmenn) var representert i løpet av krigsårene. På Grini satt mange ledende politikere og kulturpersonligheter, og de kontakter som ble knyttet der, fikk betydning for den senere politiske utvikling i Norge.

Indre forhold

Foruten vaktkompaniene (politisoldater) hadde tyskerne et forholdsvis fåtallig administrasjonspersonale. Den indre administrasjon av leiren ble stort sett utført av de norske fangene som var beskjeftiget i forskjellige verksteder (kalt kommandoer), leirarbeid og et betydelig jordbruk. Kostholdet varierte sterkt og var til tider helt utilstrekkelig. Dårligst var det høsten 1942. Senere ble det noe bedre, men mange fanger led av mangelsykdommer på grunn av ensidig og utilstrekkelig kosthold. Behandlingen av fangene varierte også en del. Særlig sommeren og høsten 1943 var en vanskelig tid med brutal og vilkårlig behandling. Verst var kanskje de jevnlige oppropene til Tysklandstransport - til konsentrasjonsleirene, tortur, sult og kanskje gasskammeret. 

Alle fanger måtte arbeide. De ble inndelt i forskjellige arbeidskommandoer som fikk høyst ulike oppgaver. Noen kommandoer ble ansatt som gode, andre som dårlige. Fanger som kom til Grini etter månedslange opphold i enecelle på Møllergaten 19, eller etter tortur og mishandling på Victoria Terrasse, ble forsøkt plassert i kommandoer som var gode og hvor de kunne ta seg igjen. 

Fallskjermen

"Fallskjermen" var en spesialcelle for døds- og tukthusdømte fanger. Her var køyene i fem etasjer (derav kallenavnet fordi man måtte omtrent ha fallskjerm for å komme ned på gulvet). Fangene ventet på transport til Tyskland, noe som normalt fant sted innen to måneder etter ankomsten. Cella ble også brukt til avsoning av disiplinærstraffer og til enkelte fanger som satt på Grini uten dom. Da "Fallskjermen" ble nedlagt, ble den overlatt til kvinneavdelingen. De mannlige fangene som satt der, ble overført til "Haft", celleavdelingen. 786 Grini-fanger døde, de fleste etter at de var sendt til Tyskland. Traven eller Travgjengen var en spesiell straffekolonne ledet av Walter Kunze.

Ved krigens slutt

Kommandanten ved krigens slutt, Alfred Zeidler, ble under rettsoppgjøret dømt til livsvarig fengsel.

Etter frigjøringen ble Grini overtatt av fengselsvesenet og fikk navnet Ilebu fengsel. Det ble brukt for landssvikfanger til 1951.

I dag holder Ila fengsel og forvaringsanstalt til i bygningen.

Les her om hvordan en kvinnelige grinifange opplevde frigjøringen.

I 1946 kom boka "Norsk fangeleksikon Grinifangene", der det er oversikt over alle man kjenner til som satt på Grini i løpet av okkupasjonsårene.