Inició su carrera musical a los 16 años en la banda irlandesa Skid Row, donde conoció a su gran amigo Phil Lynott líder de Thin Lizzy. En esta última agrupación grabó el tema «Still in Love With You» del álbum Nightlife (1974) y más tarde grabó íntegramente Black Rose: A Rock Legend (1979). A finales de la década de los setenta se tomó en serio su carrera como solista con la publicación de varios discos basados en el blues rock, hard rock y heavy metal. En la década siguiente y gracias a los álbumes Victims of the Future (1983), Run for Cover (1985), Wild Frontier (1987) y After the War (1989) alcanzó el reconocimiento mundial, obteniendo buenos resultados en las listas musicales como también en ventas.

En los años noventa se dedicó cien por cien al blues y en especial al blues rock, que con discos como Still Got the Blues (1990) y After Hours (1992), esto le permitió compartir con artistas como B.B. King, Albert Collins, George Harrison y Albert King, entre otros. En el posterior decenio decidió mezclar sus influencias, dando paso a álbumes que fluctuaron entre el hard rock y el blues rock.

Gary además fue conocido por ser uno de los guitarristas más solicitados para trabajar en discos de otros artistas como Greg Lake, Cozy Powell, John Mayall, Mick Jagger y Jack Bruce, entre muchos otros y también fue uno de los primeros músicos en mezclar el rock con la música celta.

Tras más de cuarenta años dentro de la escena musical, falleció de un ataque al corazón mientras dormía en un hotel de la ciudad española de Estepona en el año 2011.

Álbumes de estudio
1973: Grinding Stone
1978: Back on the Streets
1982: Corridors of Power
1983: Victims of the Future
1984: Dirty Fingers
1985: Run for Cover
1987: Wild Frontier
1989: After the War
1990: Still Got the Blues
1992: After Hours
1995: Blues for Greeny
1997: Dark Days in Paradise
1999: A Different Beat
2001: Back to the Blues
2002: Scars
2004: Power of the Blues
2006: Old New Ballads Blues
2007: Close As You Get
2008: Bad for You Baby