Vincent, der Schlagzeug, Klavier und Trompete beherrscht, strebte ursprünglich eine Karriere in der Musik an und war tagsüber ein Studiomusiker, der mit vielen Künstlern wie Paul Anka und Del Shannon zusammenarbeitete. Vincent hatte seine eigene Jazzband, die abends spielen würde, in Rechnung gestellt „Frank Vincent and the Aristocats.“ 1969 brauchte Vincents Band einen Pianisten, um Buchungen zu sichern, aber Vincent stellte Joe Pesci ein, um Gitarre zu spielen. Als die Popularität der Lounge-Musik nachließ, wandten sich Vincent und Pesci stattdessen der Stand-up-Comedy zu und traten von 1970 bis 1976 als „Vincent and Pesci“ auf. Ihre Handlung verband Abbott und Costello-inspirierte Double-Act-Possen mit Beleidigungskomödien im Don-Rickles-Stil, die sich bei den Massen als beliebt erwiesen. Während dieser Zeit, Beide Männer entwickelten eine starke berufliche und persönliche Freundschaft miteinander. Vincent und Pesci landeten später Teile im Low-Budget-Gangsterfilm The Death Collector (1976), wo sie von Robert De Niro entdeckt wurden. De Niro erzählte Martin Scorsese von Vincent und Pesci; Scorsese war beeindruckt von ihren Leistungen und engagierte Vincent, um in einer Nebenrolle in Raging Bull (1980) aufzutreten, in dem er erneut mit Pesci auftrat und mit De Niro zusammenspielte. Vincent trat bald darauf in kleinen Rollen in zwei Spike Lee-Filmen auf: Do the Right Thing (1989) und Jungle Fever (1991) (in letzterem spielte er den missbräuchlichen Patriarchen einer italienisch-amerikanischen Familie).
Einer seiner bemerkenswerten Auftritte in ausländischen Filmen war in Juan José Jusids Made in Argentina, in dem er Vito spielte, einen wohlhabenden Geschäftsmann aus Manhattan, der sich mit dem Drogenberater anfreundet, der seinen Sohn behandelte.
Vincent wurde oft als Gangster besetzt. Zum Beispiel spielte er in Scorseses Film Goodfellas (1990) Billy Batts, einen gemachten Mann in der Gambino-Verbrecherfamilie; Er spielte auch eine Rolle in Scorseses Film Casino (1995) als Frank Marino (basierend auf dem Gangster Frank Cullotta), dem Kumpel von Pescis Charakter.
1996 erschien Vincent im Musikvideo zum Rap-Künstler Nas ‚Song „Street Dreams.“ In dem Fernsehfilm Gotti (1996) spielte Vincent Robert „D.B.“ DiBernardo, einen Mitarbeiter von Mafia-Boss John Gotti, dessen Leben der Film aufzeichnete. In der HBO-TV-Serie The Sopranos, Er hatte seine prominenteste Rolle, als Phil Leotardo, ein rücksichtsloser New Yorker Gangster, der, als Chef der fiktiven Lupertazzi-Verbrecherfamilie der Show, wird in der letzten Staffel der Hauptgegner der Show.
1999 gewann er den Italian American Entertainer of the Year Award. Eine weitere bekannte Leistung ist sein Auftritt in dem Film Remedy (2003).
Im Jahr 2003 porträtierte Vincent Danny Santini in dem Film This Thing of Ours, dessen Associate Producer Sonny Franzese war, langjähriger Gangster und Underboss der Colombo Crime Family, und dessen Regisseur Danny Provenzano, Capo der Genovese Crime Family (Großneffe von Anthony Provenzano). Später in diesem Jahr sagte Vincent vor Gericht im Namen von Provenzano bei Aufhebungsurteilen aus; Provenzano verbüßte eine 10-jährige Haftstrafe wegen Erpressung und anderer Anklagen.
Eine von Vincents leichteren Rollen war in einem britischen Fernsehwerbespot für Peugeot Cars. Anfang 2005 trat er im irischen Fernsehen in einer Reihe von Werbespots für die Irish Bank und TSB auf.
In Videospielen sprach Vincent den Charakter des Mafia-Bosses Salvatore Leone im Videospiel Grand Theft Auto III (2001) aus. Später wiederholte er diese Rolle in Grand Theft Auto: San Andreas (2004) und Grand Theft Auto: Liberty City Stories (2005).
2006 veröffentlichte er ein Buch, A Guy’s Guide to Being a Man’s Man to positive reviews. Sein Idol war Dean Martin. Er hat auch eine Reihe von handgerollten Zigarren veröffentlicht, auf denen sein Bild prominent auf der Band zu sehen ist.
Er spielte Lieutenant Marino in dem Independent-Film The Tested (2008) unter der Regie von Russell Costanzo. Im folgenden Jahr machte er einen Cameo-Auftritt neben Kollegen Sopranos Schauspieler Steve Schirripa in der Stargate Atlantis Episode „Vegas“ (2009). Im Jahr darauf spielte er in Chicago Overcoat (2009) als Hauptprotagonist.
2013 spielte er in der erfolgreichen IDW Publishing-Comicserie Killogy, die von Alan Robert von Life of Agony als Charakter Sally Snopper neben Marky Ramone von The Ramones erstellt wurde. Die Serie wurde bei den Ghastly Awards für die beste Miniserie nominiert und gewann mehrere Horror Comic Awards vom Horror News Network. 2014 wurden die Comics in eine 3D-Animation für die Killogy-Zeichentrickserie adaptiert, in der die Besetzung der ursprünglichen Comicserie ihre Stimmen beisteuerte.
Vincent, ein Einwohner von Nutley, New Jersey, nutzte seine Schlagzeugfähigkeiten in einer improvisierten Aufführung bei einem Ferienkonzert in der Gemeinde.