La banda fue formada en 1966 en San Diego y lanzó su primer álbum, Heavy, en 1968. Los miembros originales eran Doug Ingle, Ron Bushy, Jerry Penrod, Darryl DeLoach y Danny Weis. Todos excepto Ingle y Bushy dejaron la banda después del primer álbum.

In-A-Gadda-Da-Vida, la canción de diecisiete minutos que da nombre a su segundo álbum, se convirtió en un enorme éxito que se pasó alrededor de un año en el Top Ten. In-A-Gadda-Da-Vida fue grabada con la siguiente alineación: Doug Ingle (teclados y voz), Lee Dorman (bajo), Ron Bushy (batería) y Erick Brann (guitarra). El siguiente álbum, Ball, fue menos exitoso, y estuvo seguido por más cambios en la formación. La banda se separó en 1971. Dorman más tarde se unió al «supergrupo» Captain Beyond.

La banda fue contratada para tocar en Woodstock, pero sus integrantes se pelearon en el aeropuerto. Cuando su mánager llamo a los promotores del concierto, les explicaron la situación y respondieron que tendrían paciencia. Por lo tanto, el mánager demandó que el grupo Iron Butterfly llegaran en helicóptero, respondiendo que «inmediatamente» lo tomarían. Después de su presentación, querían regresar pagando su regreso al aeropuerto. El mánager les dijo que eso no podía ser tomado en consideración ya que el sería llamado de vuelta. De acuerdo al baterista Bushy, «Nosotros bajamos ante la Autoridad del Puerto tres veces y queríamos el helicóptero, pero el nunca lo mostró».

La banda se volvió a formar en 1975 con Ron Bushy y Eric Brann, a los que se unieron el bajista Philip Taylor Kramer y Howard Reitzes. Kramer más tarde fue noticia con su desaparición en 1995 y el descubrimiento de sus huesos en 1999.

La famosa formación de In-A-Gadda-Da-Vida se juntó para el concierto y la celebración del cuadragésimo aniversario de la casa discográfica Atlantic, apareciendo en escena junto con los miembros sobrevivientes de Led Zeppelin, y con Aretha Franklin entre muchos otros artistas de la compañía en 1987.

El 25 de julio de 2003 Erik Brann murió por un paro cardíaco a la edad de cincuenta y dos años.

En el 2004, el grupo una vez más volvió a juntarse, y organizó una gira con los miembros tempranos Ron Bushy y Lee Dorman.

El 21 de diciembre de 2012 muere Lee Dorman, a los 70 años de edad. Fue encontrado sin vida en el interior de su vehículo.

Álbumes de estudio
Heavy, Atco #227, 22 de enero de 1968, US #78
In-A-Gadda-Da-Vida, Atco #250, 25 de julio de 1968, US #4
Ball, Atco #280, 17 de enero de 1969, US #3
Metamorphosis, Atco #339, 13 de agosto de 1970, US #16
Scorching Beauty, 1975
Sun and Steel, 1975

Álbumes en directo
Live, 1970
Fillmore East 1968, 2011

Álbumes de recopilación
Evolution: The Best of Iron Butterfly, 1971
Star Collection, 1973
Rare Flight, 1988
Light & Heavy: The Best of Iron Butterfly, 1993

EP
«Iron Butterfly Theme» b/w «Look for the Sun», «Possession»
RADIO EP: «Iron Butterfly Theme», «Possession» b/w «Get Out of My Life Woman», «Unconscious Power»
«In-A-Gadda-Da-Vida», «Flowers and Beads» b/w «My Mirage»

Sencillos
Don’t Look Down On Me b/w Possession 1968
Unconscious Power b/w Possession; Atco #6573; 3 de abril de 1968
In-A-Gadda-Da-Vida (editada 2:52) (US #30) b/w Iron Butterfly Theme (editada 3:25); Atco #6606; 31 de julio de 1968
Soul Experience (US #75) b/w In The Crowds; Atco #6647; 20 de enero de 1969
In The Time Of Our Lives (US #96) b/w It Must Be Love; Atco #6676; 11 de abril de 1969
I Can’t Help But Deceive You Little Girl b/w To Be Alone (US#118); Atco #6712; 16 de septiembre de 1969
Possession b/w Evil Temptation 1970
Easy Rider (US #66) b/w Soldier In Our Town; Atco #6782; 18 de septiembre de 1970
New Day b/w Soldier In Our Town (en Europa) 1970
Stone Believer (editada) b/w Silly Sally; Atco #6818; 16 de abril de 1971
Silly Sally b/w Talkbox Solo from Butterfly Bleu (Cara-B es la sección talkbox de la canción) (en Europa) 1971
Shady Lady b/w Best Years Of Our Lives (en Europa)
Pearly Gates (editada) b/w Searchin’ Circles (editada)
Beyond The Milky Way b/w Get It Out
I’m Right I’m Wrong (editada 3:50) b/w Free (sólo existen copias para promoción)
In-A-Gadda-Da-Vida (editada 2:52) b/w Soul Experience (relanzamiento de Atlantic Oldies)