Muchos estudiosos creen que, sin los esfuerzos de Segovia, y pese a la noble historia de dicho instrumento (derivado a su vez de la vihuela), la guitarra seguiría estando considerada como un instrumento meramente popular.

Conoció la guitarra desde niño, probablemente en la localidad de Villacarrillo (Jaén), próxima a la ciudad de Linares, donde nació pero que abandonó muy pronto y a la que no regresó hasta la década de 1950. Fue bautizado en Jaén, y a una edad indeterminada se trasladó a Villacarrillo. Posteriormente marchó a estudiar guitarra a Granada. Es posible, si bien esto no puede afirmarse con seguridad a falta de más datos, que su primera incursión en el mundo de la guitarra viniera de la mano del flamenco. Sin embargo, muy pronto, desde su temprana adolescencia, optó por explorar otras posibilidades por formarse como autodidacta en la tradición de la guitarra española clásica.

Realizó su primera aparición pública en Granada a los catorce años y, con pocos más, ofreció en Madrid su primer concierto, en el que interpretó, entre otras piezas, transcripciones para guitarra de Francisco Tárrega.

Sabiendo que los concertistas de piano en ocasiones alquilan el instrumento, y deseoso de encontrar un instrumento que se ajustara a sus propósitos, acudió en Madrid para dar ese concierto al establecimiento del constructor de guitarras Manuel Ramírez, con intención de proponerle al dueño que le alquilara un instrumento. Después de probarlo y de ensayar durante un tiempo la música que había preparado para el recital, el asombrado Ramírez le rogó que aceptara la guitarra elegida a modo de obsequio.

Segovia continuó con sus estudios de guitarra durante toda su vida, aún a pesar de aquellos que trataron de disuadirlo por no confiar en el futuro de dicho instrumento para la música clásica.

Fueron muchos los músicos que creyeron que la guitarra de Segovia no sería aceptada por la comunidad clásica ya que, según sus creencias, la guitarra no se podía considerar como un instrumento capaz de interpretar a los clásicos. Sin embargo, la técnica de Andrés Segovia asombró al público. A partir de entonces, la guitarra dejó de considerarse un instrumento meramente popular y se aceptó también como instrumento de concierto.