Su álbum recopilatorio, Greatest Hits, de 1976, fue certificado disco Diamante por la RIAA, con doce millones de copias vendidas solo en los Estados Unidos.

Nacido en Boston, Massachusetts, pasó su infancia en Chapel Hill, Carolina del Norte. La carrera de Taylor comenzó a mediados de los años sesenta, pero encontró su público a inicios de los setenta cantando canciones acústicas suaves y sensibles. Taylor formó parte de una ola de cantautores suaves que incluye a Carole King, Joni Mitchell, John Denver, Jackson Browne y Carly Simon, con quien se casó más tarde. Fue precisamente el éxito comercial de Taylor que abrió el camino para toda esta generación de cantautores.

Como músico, ha participado en numerosas grabaciones como guitarrista acústico y vocalista ya incluso antes de ascender a la fama, como en el caso del LP Tapestry, de Carole King. Su particular estilo Fingerpicking, unido a sus constantes Hammer-on y pull-off de las cuerdas prima (Mi) y segunda (Si), al tiempo que acordes abiertos abundantes de cuartas suspendidas ha sido un referente de los guitarristas acústicos desde los años 70. Admirado como músico, se ha rodeado tanto en grabaciones como en giras siempre de grandes figuras como Larry Goldings, Steve Gadd, Danny Kortchmar, Michael Brecker, Michael Landau, David Sanborn, Arnold McCuller y muchos otros. Desde el 17 de diciembre de 2010 inició desde su web site oficial unas clases de guitarra para mostrar su técnica al gran público, siendo el primero que ha perfeccionado dichas grabaciones con una cámara dentro y fuera de la guitarra simultáneas, que muestran tanto la digitación de la mano izquierda como la derecha, con total exactitud.

Su primer álbum, James Taylor (1968), fue el primer álbum publicado por el sello discográfico de The Beatles, Apple Records, y contó con la colaboración de George Harrison y Paul McCartney, aunque solo McCartney figura en los créditos.

Discografía
James Taylor (1968) (Apple)
Sweet Baby James (1970) (Warner Bros.)
James Taylor and the Original Flying Machine (1971) — grabado en 1966–1967
Mud Slide Slim and the Blue Horizon (1971) (Warner Bros.)
One Man Dog (1972) (Warner Bros.)
Walking Man (1974) (Warner Bros.)
Gorilla (1975) (Warner Bros.)
In the Pocket (1976) (Warner Bros.)
Greatest Hits (1976) (Warner Bros.)
JT (1977) (Columbia)
Flag (1979) (Columbia)
Dad Loves His Work (1981) (Columbia)
That’s Why I’m Here (1985) (Columbia)
Never Die Young (1988)
New Moon Shine (1991)
(LIVE) (1993)
(Best LIVE) (1994)
Hourglass (1997)
Greatest Hits Volume 2 (2000)
October Road (2002)
The Best of James Taylor (2003)
James Taylor: A Christmas Album (2004)
One Man Band (2007)
Covers (2008)
Other Covers (2009)
Carole King and James Taylor: Live at the Troubadour (2010)
Before this world (2015)