Croce nació en South Philadelphia, en el condado de Filadelfia, Pensilvania. Se graduó en la Upper Darby High School localizada en Drexel Hill, Pennsylvania, en 1960. En 1966, y de forma póstuma, se convirtió en el primer estudiante en ser incluido en el cuadro de honor (Wall of Fame) de la Upper Darby High School. Tras graduarse, Croce acudió durante un año a la Malvern Preparatory School, en Malvern, Pensilvania. De allí marchó a estudiar a la Universidad Villanova donde se graduó en psicología y con estudios en alemán. Durante su etapa universitaria Croce fue miembro de los Villanova Singers y de los Villanova Spires y ejerció como disc-jockey en la radio universitaria WXVU. En esta época conoció a la que fue su esposa Ingrid Jacobson. Tras su boda Croce se convertiría al judaísmo.