A büntetőtábort tábort megjáró színészt vasutasnak szánták, de inkább színésznek állt.
Marcello a színészi tanulmányok elvégzése után színházban kezdett el dolgozni ahol klasszikus és modern darabokban egyaránt feltűnt. A színészetben úgy érezte, hogy végül kiteljesedett, hiszen olyan karaktereket kellett eljátszania melyek eltérőnek bizonyultak személyiségétől. Mindig is élvezte munkáját, szerepeit nem szó szerint tanulta meg, hanem próbált improvizálni. Hivatása saját bevallása szerint segített elvegyülni a különböző jellemek világában.
Filmes karrierje hosszú idő elteltével a második világháború után indult be, mert sokáig csak statiszta szerepeket kapott. Karrierjének első akadálya származása volt. Marcellonak kemény küzdelmek árán sikerült az elismert színészek közé feljutnia. A második világháború alatt büntetőtáborba került ahonnan sikerült kiszabadulnia, majd Velencébe szökött.
A nyomorultak (1948) és az Augusztusi vasárnap (1950) című filmekben keltette fel először az ismertebb alkotók figyelmét, melyekben egy szerény visszahúzódó fiút játszott, ám hamar rájöttek ez az ifjú tehetségesebb annál, mint hogy beskatulyázzák, így más szerepeket is kapott ahol egyre változatosabb karakterben jelent meg. Szerepei ettől kezdve színesebbé, érdekfeszítőbbé váltak és egyre több filmben kapott szerepet.
Egy filmtörténeti anekdota szerint egyszer Mastroianni az Édes Élet forgató- könyve iránt érdeklődött, de válaszul Fellinitől egy rajzot kapott melyen a főszereplő volt látható egy csónakban, és a férfi tenger fenekéig érő pénisze körül szirének úszkáltak. Állítólag Mastroianni annyira elpirult a kép láttán, hogy soha többet nem kért forgatókönyvet Fellinitől. Ennek ellenére a filmben Marcello remekül alakította a csapongó újságírót a három nő körül, akik rajongtak érte.
A nők odáig voltak érte, ezért élete végéig csak a latin szeretőként emlegették, annak ellenére, hogy ő mindig igyekezett erre a tévhitre rácáfolni. Csak egyszer nősült, méghozzá 1948-ban. Flora Carabellát vette feleségül, akitől egy leánygyermeke született, Barbara és aki 1996-ban bekövetkező haláláig hivatalosan a házastársa maradt.
Jancsó Miklós eredetileg a „Nekem lámpást adott kezembe az úr Pesten” című filmet Marcello Mastroiannival akarta forgatni, de ő ekkor már halálos beteg volt így a főszerepeket Mucsi Zoltán és Scherer Péter játszotta el. A film címét egy pályázat miatt meghagyták, de az elkészült alkotás más, mint amit Mastrioanni szereplésével terveztek volna.
A számos rangos díjat nyert színésszel hasnyálmirigyrák végzett 72 éves korában. Marcello Mastroianni 1996. december 19.-én hunyt el, Párizsban.
