Se inició en el blues, de la mano del armonicista Paul Butterfield, con quien permaneció varios años. Después tocó con Bob Dylan y Al Kooper, además de sus propios grupos, entre los que destaca Electric Flag. Convertido en una “superestrella del rock” en los años 1960, acabó en el olvido a mediados de la década de 1970, en parte por su adición a la heroína, en parte por las dificultades que se derivaban de su artritis para seguir tocando. En 1981, apareció muerto, por sobredosis, en su coche, en un aparcamiento.
Con un estilo vituoso y muy melódico, fue uno de los músicos blancos de blues más apreciados por la crítica especializada. En el año 2003 estaba situado en el número 22 del ranking de “Los 100 mejores guitarristas de la historia”, elaborado por la revista Rolling Stone. Su disco más destacable, desde una perspectiva blues, es “Cruisin’ for a bruisin'”, editado por Takoma Records, aunque el más conocido y exitoso es “Supersession”.
