1848. július 27-én született Budán. Apja báró Eötvös József író, politikus, vallás- és közoktatásügyi miniszter volt. 1870-ben színjeles eredménnyel doktorált, a következő évtől a pesti egyetemen a fizika magántanára, majd rendes tanára volt, huszonöt évesen a Magyar Tudományos Akadémia (MTA) levelező, 1883-ban pedig rendes tagja lett. 1878-ban – Jedlik Ányos utódaként – a kísérleti fizikai tanszék vezetője, majd a Fizikai Intézet első igazgatója lett. 1891–92-ben a pesti egyetem rektora, 1889–1905 között az MTA elnöke volt. 1894–95-ben vallás- és közoktatási miniszterként négyszáz új népiskolát hozott létre, és nagymértékben emelte a tanítók jutalmazására szánt összeget. 1875-ben megnősült, majd három leánygyermeke született.

Az 1870-es és 1880-as években a kapillaritást vizsgálta. Kidolgozta a róla elnevezett reflexiós módszert a felületi feszültség mérésére. Nevét a Föld gravitációs terének 1888-ban megkezdett vizsgálata tette világhírűvé. A gravitációs térerősség változásainak mérésére szerkesztette meg világhírű torziós ingáját, mely Cavendish és Coulomb eszközeinek továbbfejlesztett és hasznosítható változata volt. A horizontális variométernek elnevezett műszert – későbbi nevén Eötvös-inga – a Magyar Tudományos Akadémián 1890 januárjában mutatta be.

1900-ban a párizsi fizikai kongresszuson tartott előadást, és a párizsi világkiállításon is bemutatta az ingát, amely nagydíjat nyert. A legátfogóbb részletes ismertetésre a Nemzetközi Földmérési Szövetség Budapesten tartott kongresszusán került sor 1906-ban. E tanácskozáson hangzott el az a javaslat is, melynek nyomán a magyar kormány támogatásával létrejött az Eötvösről elnevezett Geofizikai Intézet.

Módszerét földalatti alakulatok: gyűrődések, felboltozódások, hegységrögök kimutatására használta. Találmányát nem szabadalmaztatta: azt akarta, hogy az emberiség közkincsévé váljon. Európa, Ázsia, Észak- és Dél-Amerika kutatási területein az 1930-as évek közepéig, tehát csaknem két évtizeden át az Eötvös-féle torziós inga az olajkutatás versenytárs nélküli eszköze volt. A már életében róla elnevezett torziós ingát alkalmazták többek között a texasi, a venezuelai és a közel-keleti olajterületek feltárásánál is.

Az eszköz tökéletesített változata lehetővé tette a gravitációs állandó pontosabb meghatározását is. 1908-ban Pekár Dezsővel és Fekete Jenővel együtt hét tizedesjegynyi relatív pontossággal igazolta, hogy a gravitációs erő független a tömeg anyagi minőségétől. E tény később fontos szerepet játszott Einstein általános relativitáselméletében. Máig ez a magyar kísérleti fizika csúcsteljesítménye, a méréssel Eötvösék elnyerték a göttingeni egyetem Benecke-díját.

Vizsgálatok a gravitatio és a mágnesség köréből című munkájával 1896-ban elnyerte az MTA nagyjutalmát. Az akadémia 1913-ban felterjesztette őt Nobel-díjra, idehaza Ferenc József-renddel, Franciaországban Becsületrenddel tüntették ki. Részt vett a turistamozgalomban, az 1888-ban alakult Magyar Kárpát Egyesület első elnöke lett. Emberi jellemvonásai közül kiemelkedő volt szerénysége, egyszerűsége, közvetlensége és jószívűsége. 1919-ben, hetvenéves korában hunyt el Budapesten.