Szolzsenyicint, aki Kiszlovodszkban született, az anyja nevelte fel, mivel apja még a születése előtt vadászbaleset áldozata lett. Sok minden érdekelte, a rosztovi egyetem matematika-fizika szakát és a moszkvai irodalmi főiskolát párhuzamosan végezte el. Pályáját matematika- és csillagászattanárként kezdte. 1940-ben megnősült, azonban feleségétől, Natalja Resetovszkajától 1972-ben vált el. 

1941 októberében behívták katonának, így a világháborúban tüzérként szolgált, majd többször kitüntették. Szabadidejében naplót vezetett, novellákat írt. A katonai elhárítás 1945-ben figyelt fel levelezésére, melyben Sztálint bandavezérként emlegette, ezért

Egy Moszkva közeli zárt kutatóintézetben, speciális börtönmunkahelyen tudományos munkát végzett, majd 1950-ben Kazahsztánba került, ahol kőművesként és öntőmunkásként dolgozott a lágerben. Itt "született" műveit emlékezetében rögzítette. Szabadon bocsátása után még három évet kényszerlakhelyen kellett töltenie.

Első fegyveres őrizet nélkül töltött napja 1953. március 5., Sztálin halálának napja volt, de így is csak a dél-kazahsztáni Kok-Terek falu határáig terjedt a mozgástere. A helyi iskolában matematikát és fizikát tanított, titokban verseket és színdarabokat írt, megszületett első nagyobb lélegzetű regénye, A pokol tornáca. 1954-ben engedélyezték, hogy rákbetegségét a taskenti kórházban kezeljék, ennek köszönhetően az állapota jobbra fordult. Közben folyamatosan írt, és az a meggyőződés alakult ki benne, hogy haladékot kapott a sorstól, s ez addig tart, amíg ír, vagyis teljesíti küldetését. Kórházi tapasztalatait a Rákosztály című kisregényében dolgozta fel.

A személyi kultusz leleplezése után 1956-ban rehabilitálták, ismét tanár lett Rjazanyban. 1959-ben alig másfél hónap alatt írta meg kisregényét, az Ivan Gyenyiszovics egy napját, amelyet a Novij Mir című folyóiratnak küldött el. A mű 1962-ben, a hruscsovi olvadás idején jelent meg, saját élményei alapján mutatta be a lágerek rabjainak életét. Egyszerű nyelvezetével és hitelességével megdöbbentő erővel hatott hazájában és külföldön is. Hruscsov 1964-es bukása után már nem közölték műveit a Szovjetunióban.

1967-ben nyílt levélben fordult az írószövetséghez, szót emelt a cenzúra eltörlése végett, és követelte az ellene indított hajsza leállítását. Ezt követően 1968-ban Párizsban megjelent a Rákosztály és A pokol tornáca, ám 1969-ben az írószövetség kizárta tagjai közül, így Szaharov és mások mellett csatlakozott a szovjet polgárjogi mozgalomhoz. 1969-ben Natalja Szvetlova lett az élettársa, később felesége, egyben titkára és lektora.

1971-ben külföldön jelent meg 1914 augusztusa című történelmi regénye, amely az orosz vereséggel végződő tannenbergi csatával foglalkozik. 1973-ban Párizsban adták ki A Gulag szigetvilág első kötetét (a kéziratot 1968-ban csempésztette külföldre), melyben a munkatáborok és börtönök rendszerét, az áldozatok szenvedéseit tárta fel, támasztotta alá adatokkal, visszaemlékezésekkel. Nem meglepő módon sajtókampány indult ellene, letartóztatták, majd 1974-ben hazaárulás vádjával elítélték, majd kiutasították az országból.

Ekkor vette át a Nobel-díjat Stockholmban, egy Zürichben írt röpiratában alkut ajánlott a szovjet vezetésnek: leáll támadásaival, ha lemondanak a nemzetellenes marxizmusról, és teljesítik nemzeti hivatásukat. Lenin Zürichben című könyvének 1975-ös kiadása után az Egyesült Államokban, a vermonti Cavendishben telepedett le. Kiadta a Gulag második és harmadik kötetét, 1980-ban két esszét is publikált (A tölgy és a borjú, A halálos veszedelem), és folytatta 1971-ben elkezdett történelmi sorozatát, amelynek összefoglaló címe A vörös kerék lett.

Az 1980-as évek közepétől – a gorbacsovi glasznosztynak köszönhetően – művei ismét megjelenhettek hazájában. 1990-ben visszakapta állampolgárságát, 1994-ben hazatért, az Orosz Tudományos Akadémia tagja lett. 1991-ben jelent meg Hogyan mentsük meg Oroszországot? című röpirata. A kommunizmust és a kapitalizmust is hevesen bíráló író szerette volna felrázni a "Szent Oroszországot", de az általa javasolt jóindulatú önkényuralomnak, a keresztény-nemzeti rendszernek nem sok híve akadt.

Utolsó éveiben sokat betegeskedett, de továbbra is dolgozott, feleségével összegyűjtött művei 30 kötetes kiadásán munkálkodott. Otthonában halt meg szívelégtelenség következtében 2008. augusztus 3-án. "Szidalmazták és kinevették, istenítették és megvetették. De tisztelői és ellenfelei pontosan tudták, hogy Szolzsenyicin már csupán novelláival és a Gulag szigetcsoport című regényével megváltoztatta a világot, és ez tökéletesen elegendő ahhoz, hogy a halhatatlanok közé kerüljön" – emlékezett meg róla halálakor egy moszkvai lap.