Il émigre aux Etats-Unis en 1913.Il commence sa carrière sous les ordres de Masseria, avec notamment Lucky Luciano.En 1931,lors de la guerre des Castellammarese(voir article suivant pour plus de détails), il fit partie des tueurs, avec Luciano, qui abattirent Salvatore Maranzano.
En 1936, quand Luciano se fait emprisoner, Genovese tenta de s'imposer dans sa Famille et commandita plusieurs assassinats.Mais en 1937, un de ses tueurs le dénonça, ce qui le força à s'enfuir en Italie.Là-bas, il devient un ami personnel de Benito Mussolini, le dictateur fasciste, le fournissant en drogue.Lors du débarquement américain en Sicile, Genovese se range avec les Etats-Unis et se fait engager comme interprète.De ce fait, il fut rapatrié au pays avec le retour des troupes.
En 1946, il se mit à dos Anastasia et surtout Luciano, qui refusait son trafic de drogue.Cependant on fit tout pour éviter un bain de sang.Malgré tout Genovese continua son trafic de drogue et se rapprochait dangereusement de la Famille Luciano, dont il était le bras-droit.Voulant être Capo de tutti Capi, il fit assassiner plusieurs pontes de la Mafia, dont Willy Moretti en 1951.En 1957, il commandita le meutre de Frank Costello, qui en réchappa miraculeusement (voir article plus haut). Cependant, Costello céda sa Famille à Genovese.La même année, il fit éxecuter son rival, Albert Anastasia.
En 1957, Genovese réunit les chefs dans l'état de New-York, afin de se faire sacrer Capo de tutti Capi.Cependant la police encercla la demeure et la plupart des chefs furent arrêtés et le sacre de Genovese n'eut pas lieu, cependant il fut un des rares à pouvoir s'enfuir.Certaines sources prétendent que ce serait Luciano qui aurait donné l'adresse de la planque a la police.
En 1959, Luciano organise une transaction d'héroine en direction de la Famille Genovese.Mais c'est un piège car il a prévenu la police, avec l'aide de Costello.Genovese fut emprisonné à Springfield et désigna Thomas Eboli comme nouveau Don, bien qu'il continua à donner ses ordres en cellule.
En 1969, il mourrut d'une crise cardiaque dans sa cellule.