Az író Madridban született 1923-ban. Ap­ja egy ideig Spanyol­ország hágai nagykövete volt, így Semprún gyermekkorát felváltva Spanyol­országban és Hol­lan­diában töltötte. A spanyol köztársaság bukása után a család Fran­cia­országba emigrált. Pá­rizs­­ban végezte egyetemi tanulmányait, a Sor­bonne-on filozófiát hallgatott. Egé­szen fiatalon csatlakozott a francia ellenállási mozgalomhoz, 1942-ben a Spanyol Kom­mu­nista Pártnak is tagja lett. A Gestapo 1943-ban letartóztatta, és 1945-ig a Weimar melletti buchenwaldi koncentrációs táborban tartották fogva. Ahogy egy 1994-es interjúban elmondta, Buchen­waldban valószínűleg az mentette meg az életét, hogy nagyon jól tudott németül, így irodai munkára került. Kisza­badulása után visszatért Pá­rizsba, ahol az 1946-ban létrejött UNESCO munkatársa lett, fordított és tolmácsolt. Az El País című lap szerdai cikkében felidézte, hogy a holokauszt visszatérő témája lett Semprún irodalmi munkásságának, halálával azon­ban elvész az a fajta emlékezet, amely nem tűnik fel a könyvekben, az "égett hús szaga", ahogy az író maga fogalmazott. "Eltűnnek a népirtás tanúi. Vannak még öregek, akik megtapasztalták a táborokat, de nem mindegyikük író, ez világos. Tudja, mi a legfontosabb, a legszörnyűbb, amit nem lehet megmagyarázni? Az égett hús szaga. Mit lehet kezdeni ezzel az emlékkel? Erre való az irodalom" – idézte fel a lap az író évekkel ezelőtti interjúját.
Semprún franciául írt, de következetesen spanyolnak vallotta magát. Az ötvenes években a Spanyol Kommu­nista Párt "hivatásos forradalmáraként" Federico San­chez és egyéb álneveken több­ször járt Spanyolországban. Az évtized vége felé azonban lassan kiábrándult a kommunista eszméből, világlátása erősen eltért a párt hivatalos nézeteitől, emiatt 1964-ben kizárták. A párt így elveszítette egyik ideológusát, az irodalom azonban nyert egy kiváló tollú és ízig-vérig humanista írót. 1963-ban jelent meg mindmáig talán legismertebb regénye, A nagy utazás, amely buchenwaldi lágerélményeit dolgozza fel. A művet több nyelvre lefordították, magyarul az elsők között jelent meg. Sem­prún egy csapásra világhírű lett. A sajátos regénytechnika, az idő széttördelése, a szabad asszociációkon alapuló szerkesztés, az emlékezés és a jelen idejének váltogatása a későbbi Semprún-művek védjegye lett.
A hatvanas évektől kezdve Semprún a filmezéshez is közel került, több jelentős mozgókép, többek között az 1965-ös Resnais-film, A háborúnak vége és a Costa-Gavras által rendezett Z, avagy egy politikai gyilkosság anatómiája című alkotás (1969) forgatókönyvét jegyezte.
Az író 2000 után még hallatta hangját politikai kérdésekben, például sürgette Fidel Castro távozását Kuba éléről, az utóbbi években azonban már visszavonultan élt Párizsban.