w szkole średniej pracował najpierw dla Thom McAn farbując damskie buty, a następnie dla Anderson-Little men ’ s store, gdzie sprzedawał garnitury. Jako student college ’ u pracował na pół etatu w Louis Boston. Abboud stwierdził: „Louis Boston był ogromną częścią mojej kariery. Naprawdę wylądowałam w świecie bardzo efektownego stylu, pięknych ubrań, po prostu świata tego, o czym była międzynarodowa Moda. Gdyby to się nigdy nie wydarzyło, reszta by się nie wydarzyła. Abboud został kupcem w Louis Boston w wieku 23 lat. W ciągu dwunastu lat pełnił funkcję kupca, merchandisera, a ostatecznie koordynatora promocji i reklamy.
Abboud dołączył do Ralpha Laurena w 1981 roku, ostatecznie zostając zastępcą dyrektora ds. projektowania odzieży męskiej. Wiosną 1987 roku założył własną wytwórnię. W 1988 roku JA Apparel została utworzona jako joint venture pomiędzy Abboud i GFT (Gruppo Finanziario Tessile) USA.
w 1991 roku Abboud pracował z dyrektorem mody Peterem Speliopoulosem. Abboud był pierwszym projektantem, który dwa lata z rzędu zdobył nagrodę CFDA jako najlepszy projektant odzieży męskiej. Wielu znanych przyjaciół Abbouda to także jego klienci, w tym amerykański trębacz i kompozytor Wynton Marsalis, autor i były prezenter telewizyjny Tom Brokaw oraz były Boston Red Sox shortstop Nomar Garciaparra.
Abboud sprzedał swoje znaki towarowe i nazwę JA Apparel za 65 milionów dolarów w 2000 roku. W 2004 roku firma została przejęta przez J. W. Childs Associates za 73 miliony dolarów, a Abboud opuścił JA Apparel w 2005 roku.
Abboud uruchomił nową linię o nazwie Jaz w 2007 roku. Stworzył również linię Black Brown 1826 dla The Lord & Taylor department store w 2008 roku. Rok 2008 to także otwarcie pierwszych sklepów Abboud w Chinach.
w 2010 roku Abboud został dyrektorem kreatywnym HMX, właściciela marek Hart Schaffner Marx i Hickey Freeman. HMX złożył ofertę kupna JA Apparel za 90 milionów dolarów w 2011 roku. W grudniu 2012 został głównym dyrektorem kreatywnym Men ’ s Wearhouse. Zatrudniając Abboud jako dyrektora kreatywnego, Men ’ s Wearhouse Inc. (obecnie Tailored Brands Inc.) w 2013 r. firma Abboud and JOE otrzymała znak towarowy od Josepha Abbouda.
po odzyskaniu prawa do swojej marki w 2013 roku, Abboud założył e-commerce, otworzył flagowy sklep Madison Avenue i produkował pokazy mody na pełną skalę.
w marcu 2020 r.WHP Global nabyło znaki towarowe marki Joseph Abboud od Tailored Brands. Z kolei Tailored Brands zawarło umowę licencyjną z WHP Global na dalsze prawa do sprzedaży i wynajmu odzieży i wybranych akcesoriów Joseph Abboud w USA i Kanadzie.