Apareció en escena con el LP Look Sharp!, en el que se incluyen obras como la canción Is She Really Going Out With Him. Otro de sus temas es It’s Different For Girls. Otras de sus obras son Steppin’ Out, I’m the man, On your Radio, Kinda Kunte, Beat Crazy, Crime Don’t Pay, The band wore blue shirt y You can’t get what you want, en los que mezcla el jazz con la música new wave. Lleva editados más de 19 discos y varias bandas sonoras. Ha obtenido 5 nominaciones al premio Grammy, en la que resultó ganador en 2001 en la categoría Mejor álbum de pop instrumental por Symphony No. 1.

Álbumes de estudio
Look Sharp! (1979, A&M) #20 U.S., #40 UK
I’m the Man (1979, A&M) #22 U.S., #12 UK
Beat Crazy (1980, A&M) #41 U.S., #42 UK
Joe Jackson’s Jumpin’ Jive (1981, A&M) #42 U.S., #14 UK
Night and Day (1982, A&M) #4 U.S., #3 UK
Mike’s Murder [banda sonora] (1983, A&M) #64 U.S.
Body and Soul (1984, A&M) #20 U.S., #14 UK
Will Power (1987, A&M) #131 U.S.
Tucker [banda sonora] (1988, A&M)
Blaze of Glory (1989, A&M) #61 U.S., #36 UK
Laughter & Lust (1991, Virgin) #116 U.S., #41 UK
Night Music (1994, Virgin)
Heaven & Hell (1997, Sony)
Symphony No. 1 (1999, Sony)
Night and Day II (2000, Sony)
Two Rainy Nights (2002, Great Big Island)
Volume 4 (2003, Rykodisc)
Rain, (2008, Rykodisc)
The Duke (2012, Razor & Tie)
Fast Forward (2015, Caroline/Universal)
Álbumes en vivo
Big World (1986, A&M) #34 U.S., #41 UK
Live 1980/86 (1988, A&M) #91 U.S., #66 UK
Laughter & Lust Live (1991 Sharp Practice Inc. ; Warner Music Vision) [Grabado en vivo en el State Theatre de Sídney, Australia, 20 de septiembre de 1991]
Summer in the City: Live in New York (2000, Sony)
Two Rainy Nights (2002, Great Big Island)
AfterLife (2004, Rykodisc)
Live at the BBC (2009, Spectrum)
Live Music (2011, Razor & Tie)
Live in Germany 1980 (2011 Immortal)
Live at Rockpalast (2012 Mig Made in Germany Music (Sony Music))
Compilaciones
Stepping Out: The Very Best of Joe Jackson 1990
Joe Jackson Greatest Hits (1996)
This Is It! (The A&M Years 1979-1989) (Joe Jackson) (1997, A&M)
Joe Jackson – Collected (2010, Universal Nashville)