Mentre era al liceo, ha lavorato prima per Thom McAn tingendo scarpe da donna e poi per l’Anderson-Little men’s store, dove vendeva abiti. Come studente universitario, ha lavorato part-time a Louis Boston. Abboud ha dichiarato: “Louis Boston è stata una parte enorme della mia carriera. Sono davvero atterrato in un mondo di stile molto glamour, bei vestiti, proprio il mondo di ciò che la moda internazionale era circa. Se questo non fosse mai successo, il resto non sarebbe successo.”Abboud è diventato un acquirente a Louis Boston all’età di 23 anni. Nel corso di dodici anni, ha servito come acquirente, merchandiser, e, infine, coordinatore di promozione e pubblicità.
Abboud è entrato a far parte di Ralph Lauren nel 1981, diventando infine associate director of menswear design. Ha lanciato la sua etichetta nella primavera del 1987. Nel 1988 nasce JA Apparel come joint venture tra Abboud e GFT (Gruppo Finanziario Tessile) USA.
Nel 1991 Abboud ha lavorato con il direttore della moda Peter Speliopoulos. Abboud è stato il primo designer a vincere il CFDA award come miglior designer di abbigliamento maschile per due anni consecutivi. Molti dei famosi amici di Abboud sono anche suoi clienti, tra cui il trombettista e compositore americano Wynton Marsalis, l’autore ed ex conduttore televisivo Tom Brokaw e l’ex interbase dei Boston Red Sox Nomar Garciaparra.
Abboud ha venduto i suoi marchi e il suo nome a JA Apparel per $65 milioni nel 2000. La società è stata acquisita dalla società di private equity J. W. Childs Associates per $73 milioni nel 2004 e Abboud ha lasciato JA Apparel nel 2005.
Abboud ha lanciato una nuova linea chiamata Jaz nel 2007. Ha anche creato la linea Black Brown 1826 per il grande magazzino Lord & Taylor nel 2008. Il 2008 ha segnato anche l’apertura dei primi negozi Abboud in Cina.
Nel 2010, Abboud è diventato Chief Creative officer di HMX, proprietario dei marchi Hart Schaffner Marx e Hickey Freeman. HMX ha fatto un’offerta per acquistare JA Apparel per million 90 milioni nel 2011. Nel dicembre 2012 è diventato direttore creativo di Men’s Wearhouse. Mentre impiega Abboud come direttore creativo, Men’s Wearhouse Inc. (ora su misura Brands Inc.) riacquistato il marchio Abboud and JOE by Joseph Abboud nel 2013.
Dopo aver recuperato il diritto legale al suo marchio nel 2013, Abboud ha creato l’e-commerce, ha aperto un flagship store di Madison Avenue e ha prodotto sfilate di moda su larga scala.
Nel marzo del 2020, WHP Global ha acquisito i marchi del marchio Joseph Abboud da Tailored Brands. A sua volta, Tailored Brands ha stipulato un accordo di licenza con WHP Global per i diritti di vendita e noleggio di abbigliamento Joseph Abboud e accessori selezionati negli Stati Uniti e in Canada.