Su música abarca tanto el swing y el bebop como el hard bop, el quiet storm y la fusión del jazz con el pop y el soul. En él se reconocen las influencias de Charlie Christian y Wes Montgomery.

Benson nació en Pittsburgh, Pennsilvania. A los siete años, tocó por primera vez el ukelele, ganándose unos pocos de dólares como músico callejero. A los ocho, empezó a tocar la guitarra en un club nocturno sin licencia los viernes y los sábados por la noche, hasta que la policía cerró el local. A los diez, registra su primera composición, She Makes me Sad, bajo el pseudónimo de Little Georgie.

Benson asistió y se graduó en la Schenley High School. Desde muy joven, aprendió a tocar jazz instrumental en directo gracias al apoyo del organista Jack McDuff. Uno de sus muchos ídolos tempranos de la guitarra era Hank Garland. A los 21 años, grabó su primer álbum como líder, The New Boss Guitar, con McDuff. La siguiente grabación de Benson fue It’s Uptown, con el cuarteto formado por él mismo, incluyendo a Lonnie Smith en el órgano y a Ronnie Cuber en el saxofón barítono. Benson siguió, esta vez con The George Benson Cookbook, también con Smith y Cuber, añadiendo al batería Marion Booker.

Trabajó con Miles Davis a mediados de los sesenta, presentándolo como guitarrista en 1968 con Miles in the Sky, poco antes de firmar un contrato con Verve Records, hasta un año después, cuando firma con el sello de jazz del productor Creed Taylor, CTI Records, donde grabó varios álbumes con varios pesos pesados del jazz como invitados, cosechando pequeños éxitos en el mundo del jazz en Norteamérica.

Su lanzamiento de 1974, Bad Benson, alcanzó la cima de las listas de jazz de Billboard, muy cerca de Good King Band y Benson and Farrell, ambos siendo los más vendidos.

Benson también realizó una versión del álbum de 1969 de los Beatles Abbey Road titulado The Other Side of Abbey Road, también lanzado en 1969, y una versión de White Rabbit, de Jefferson Airplane. También colaboró para numerosos artistas de CTI durante esa época, inclyendo Freddie Hubbard y Stanley Turrentine, alcanzando un notable éxito con el álbum Sugar.