Persico se narodil v Brooklynu a již jako dospívající chlapec se dostal do čela jednoho z pouličních gangů. Na začátku 50. let se připojil k mafiánské rodině Profaci, která se později přejmenovala na Colombo.
Persico, který byl znám pod přezdívkami Had, Nesmrtelný či Junior, se do vedení rodiny dostal v roce 1972 a v roce 1986 byl odsouzen na doživotí. Nadále ale klan vedl, protože plánoval, že ho nahradí jeho syn Alphonse, který ale později skončil také na doživotí ve vězení.
Ve vězení se Persico přátelil s kdysi respektovaným finančníkem a jedním z nejbohatších mužů na newyorském Wall Streetu Bernardem Madoffem, který zpronevěřil několik desítek miliard dolarů. Zajímavostí také je, že proces proti Persicoovi vedl žalobce Rudy Giuliani, pozdější starosta New Yorku a nyní právník amerického prezidenta Donalda Trumpa.