Rafszandzsáni 1934-ben született Bahraman faluban Irán pisztáciaföldjeiről híres délkeleti, Rafszandzsán nevű régiójában. Apja is pisztáciaültetvényes volt, és egyre terjeszkedő üzlete jelentette az ugródeszkát a későbbi Rafszandzsáni-birodalomhoz, amely építőipari vállalatokat, autógyárat, ingatlanvállalatokat, sőt, egy saját légitársaságot is magában foglalt. Rafszandzsáni Komban az iszlám forradalom szellemi atyjával, az Iráni Iszlám Köztársaság későbbi legfelsőbb vezetőjével, Ruhollah Khomeinivel együtt hallgatott teológiát, akinek végül kitartó követőjévé vált. Nézeteiért a királyság idején többször bebörtönözték.
Rafszandzsáni házelnökként (1980–89) kezdte politikai karrierjét az iszlám köztársaságban, majd Khomeini kérésére az iraki–iráni háború (1980–88) utolsó évében vezérkari főnökként tevékenykedett. Sokan őt látják a mögött, hogy Irán elfogadta az ENSZ Biztonsági Tanácsának háborút lezáró határozatát. 1989–1997-es elnöksége során tovább vitte a mérsékelt vonalat, és a Nyugathoz való közeledésen, valamint országa térségbeli hatalmának megszilárdításán dolgozott. Tovább növelte népszerűségét a nyugati politikusok körében az, hogy segítségével visszaszorult az állam szerepe az egyre inkább piaci alapokra helyeződő iráni gazdaságban. Elnöksége alatt új lendületet vett a háború miatt romokban heverő ország: Rafszandzsáni, akit hívei Újjáépítési Parancsnoknak neveztek, több elzárt településre juttatta el az áramot, a vezetékes vizet vagy a telefonvonalat. Rossz nyelvek szerint a több fronton zajló újjáépítésből Rafszandzsáni cégei busás hasznot húztak.
A néhai elnök joviális külseje mögött az őt ismerők szerint vérszomjas ragadozó rejtőzött: sokan éppen ezért „cápának”, míg mások vagyonára és nevére utalva „nagy királynak” (akbar sah) hívták. A politikus több gyilkossági kísérletet is túlélt. Abdolhasszan Bani-Szadr, az iszlám köztársaság első, száműzetésbe kényszerített elnöke machiavellistaként festette le Rafszandzsánit.
Rafszandzsáni a 2000-es évek elejétől kezdve fokozatosan kiesett Ali Hamenei ajatollah kegyeiből, majd miután másodszori megválasztása után egyre nyíltabban támadta Mahmúd Ahmadinezsád elnököt, szinte teljesen kiszorították a belpolitikából. A 2013-as elnökválasztásból történt kizárása után teljes mellszélességgel kiállt Haszan Róhániért, akinek meglepetésszerű győzelme újra a bábmester szerepébe emelte őt. Úgy tartják, az Irán nemzetközi helyzetét rendező és a szankciók végéhez vezető 2015-ös atomegyezmény  nem jöhetett volna létre Rafszandzsáni aktív közreműködése nélkül.