La banda se formó tras la desaparición de la exitosa banda australiana de los años 60 The Seekers. Keith Potger, miembro de los Seekers, fundó The New Seekers en 1969, junto a Laurie Heath, Chris Barrington, Marty Kristian, Eve Graham y Sally Graham (Eve y Sally no eran parientes). Potger también actuaba y grababa con la banda.? Tras el lanzamiento de un único single, el grupo se refundó en 1970 con Eve Graham, Lyn Paul, Marty Kristian, Peter Doyle y Paul Layton. Esta nueva formación alcanzó el éxito con su debut, una versión del tema de Melanie Safka «What Have They Done To My Song, Ma», (titulado en los EE.UU. como «Look What They’ve Done To My Song, Ma»?) que alcanzó el puesto 20 en el top de los EE.UU. y uno menos en el Reino Unido.

Durante el año siguiente, la banda lanzó singles con escaso reconocimiento, pero en junio de 1971 lanzaron, «Never Ending Song of Love» (el primero de muchos éxitos producidos por David Mackay). La canción fue un gran éxito en el Reino Unido, siendo número 2 durante cinco semanas y fue uno de los sencillos más vendidos del año. Hacia final de 1971, el grupo grabó y adaptó el jingle de la Coca-Cola, «I’d Like to Buy the World a Coke», con el que consiguió más fama. Con el tema original «I’d Like to Teach the World to Sing», del que nacía la versión para Coca Cola, consiguieron su primer éxito mundial. Fue número 1 en Reino Unido durante cuatro semanas y vendió casi un millón de copias. En los EE.UU., la canción también fue un éxito, alcanzando el número 7. También fue número en muchos otros países y la canción más exitosa de la banda.