Abile alla batteria, pianoforte e tromba, Vincent originariamente aspirava a una carriera nella musica e di giorno era un musicista di studio che ha lavorato con molti artisti di registrazione come Paul Anka e Del Shannon. Vincent aveva la sua jazz band che avrebbe suonato la sera, pubblicizzato ” Frank Vincent and the Aristocats.”Nel 1969, la band di Vincent aveva bisogno di un pianista per assicurarsi le prenotazioni, ma Vincent finì per assumere Joe Pesci per suonare la chitarra. Mentre la popolarità della musica lounge scemava, Vincent e Pesci si sarebbero invece rivolti alla stand-up comedy, esibendosi come “Vincent e Pesci” dal 1970 al 1976. Il loro atto accoppiato Abbott e Costello di ispirazione buffonate doppio atto con Don Rickles in stile commedia insulto, che si è rivelato popolare tra le folle. Durante questo periodo, entrambi gli uomini hanno sviluppato una forte amicizia professionale e personale tra loro. Vincent e Pesci in seguito sbarcarono parti nel film di gangster a basso budget The Death Collector (1976), dove furono avvistati da Robert De Niro. De Niro ha detto a Martin Scorsese di Vincent e Pesci; Scorsese rimase impressionato dalle loro performance e assunse Vincent per apparire in un ruolo di supporto in Raging Bull (1980), in cui apparve ancora una volta con Pesci e co-protagonista con De Niro. Vincent poco dopo è apparso in piccoli ruoli in due film di Spike Lee: Do the Right Thing (1989) e Jungle Fever (1991) (in quest’ultimo, ha interpretato il patriarca abusivo di una famiglia italo-americana).
Una delle sue apparizioni di rilievo in film stranieri è stata in Made in Argentina di Juan José Jusid, in cui interpretava Vito, un ricco uomo d’affari di Manhattan che fa amicizia con il consulente per l’abuso di sostanze che curava suo figlio.
Vincent è stato spesso lanciato come un gangster. Ad esempio, nel film di Scorsese Goodfellas (1990), ha interpretato Billy Batts, un uomo fatto nella famiglia criminale Gambino; ha anche avuto un ruolo nel film di Scorsese Casino (1995) come Frank Marino (basato sul gangster della vita reale Frank Cullotta), l’aiutante del personaggio di Pesci.
Nel 1996, Vincent apparve nel video musicale della canzone dell’artista rap Nas ” Street Dreams. Nel film per la televisione Gotti (1996), Vincent ha interpretato Robert “D. B.” DiBernardo, un socio del boss mafioso John Gotti, la cui vita il film ha raccontato. Nella serie TV della HBO The Sopranos, ha avuto il suo ruolo più importante, come Phil Leotardo, uno spietato gangster di New York che, come capo della fittizia famiglia criminale Lupertazzi dello show, diventa il principale antagonista dello show nella stagione finale.
Nel 1999 ha vinto il premio Italian American Entertainer of the Year. Un’altra performance nota è la sua apparizione nel film Remedy (2003).
Nel 2003, Vincent ha interpretato Danny Santini nel film This Thing of Ours, il cui produttore associato era Sonny Franzese, mafioso di lunga data e underboss della famiglia criminale Colombo, e il cui regista era Genovese crime family capo Danny Provenzano (nipote di Anthony Provenzano). Più tardi quell’anno, Vincent testimoniò in tribunale per conto di Provenzano all’abrogazione delle sentenze; Provenzano stava scontando una condanna a 10 anni per racket e altre accuse.
Uno dei ruoli più leggeri di Vincent è stato in uno spot televisivo britannico per Peugeot cars. All’inizio del 2005, è apparso sulla televisione irlandese in una serie di spot pubblicitari per la banca irlandese permanente TSB.
Nei videogiochi, Vincent ha doppiato il personaggio del boss mafioso Salvatore Leone nel videogioco Grand Theft Auto III (2001). In seguito ha ripreso quel ruolo in Grand Theft Auto: San Andreas (2004) e Grand Theft Auto: Liberty City Stories (2005).
Nel 2006, ha pubblicato un libro, A Guy’s Guide to Being a Man’s Man to positive reviews. Il suo idolo era Dean Martin. Ha anche rilasciato una linea di sigari arrotolati a mano che hanno la sua immagine ben visibile sulla band.
Ha interpretato il tenente Marino nel film indipendente The Tested (2008), diretto da Russell Costanzo. L’anno seguente, ha fatto un cameo al fianco del collega Soprano Steve Schirripa nell’episodio di Stargate Atlantis “Vegas” (2009). L’anno seguente, ha recitato in Chicago Overcoat (2009) come protagonista principale.
Nel 2013, ha recitato nella serie a fumetti Killogy della IDW Publishing creata da Alan Robert di Life of Agony come il personaggio di Sally Sno Coni accanto a Marky Ramone dei Ramones. La serie è stata nominata ai Ghastly Awards per la migliore Mini-serie e ha vinto più Horror Comic Awards dalla rete Horror News. Nel 2014, i fumetti sono stati adattati in un’animazione 3D per la serie animata Killogy, in cui il cast della serie a fumetti originale ha contribuito con le loro voci.
Un residente di Nutley, New Jersey, Vincent ha usato le sue abilità di batteria in una performance improvvisata in un concerto di vacanza township.