Los arreglos hechos por John Phillips eran interpretados por la voz dulce de Michelle, su esposa, Denny Doherty que hacía las veces de tenor y el poder de Cass Elliot que en muchos casos grabó solos.
Antes de formar el grupo, los miembros se cruzaron en el camino mientras tocaban en Nueva York dentro del movimiento folk de los años sesenta. En la medida en que el movimiento se fue abriendo a sonidos eléctricos, John, Michelle y Danny (que en esa época tenían el grupo "The Journymen") se fueron a descansar a las Islas Vírgenes con el propósito de salirse del ritmo de la gran ciudad y encontrar nuevas fuentes de inspiración. Mientras tanto Cass los siguió hasta St. Thomas para unirse a ellos, pero con la resistencia de John Phillips que se cuestionaba la habilidad de Elliot de ajustarse al estilo que habían amoldado.
Fue en la Isla donde los cuatro cantaron juntos por primera vez y donde fundaron los sonidos armónicos que los caracterizaron. La experiencia sirvió para que John Phillips pasara del folk al folk-pop. En ese momento, Cass se marchó para California y el resto del grupo a Nueva York, no tanto por quererlo, sino porque el Gobernador de las Islas encontraba molesta su presencia. En la Gran Manzana se dieron cuenta que el trío no tenía espacio en ninguna parte y que era mejor buscar nuevos espacios. Siguieron a Cass hasta California y lograron, a través de ella, una audición con el productor Lou Adler.
Adler inmediatamente les ofreció un contrato con el sello Dunhill. Esto trajo la estabilidad que necesitaban para solidificar su estilo. Ahora sólo hacía falta un nombre. Éste vino, como ocurre en estos casos, de la casualidad. Michelle y Cass miraban televisión y notaron que la pandilla de motociclistas "Hell's Angels" le decían a sus mujeres "mamas". De ahí vino el bautizo a los varones como "papas".
Su primera grabación fue como coro para Barry McGuire. En ese disco se incluyó "California Dreamin'", que luego grabaron como un sencillo de la agrupación. La canción llegó al número cuatro de las listas a finales de 1965. En enero de 1966 lanzaron el que fue su primer número uno: "Monday, Monday", que luego fue incluído en su primer álbum "If You Can Believe Your Eyes and Ears".
La forma de cantar del grupo fue bautizada como "el mejor invento" desde los Beatles por la revista Life. Su estilo respondía a sus individualidades, ropas de muchos colores, alegría, seriedad.
Sin embargo, y a pesar del éxito, el grupo se movía a partir de las grandes diferencias internas. A pesar de que John y Michelle estaban casados, ella y Denny se sentían mutuamente atraídos, lo que desembocó en una relación de la que John apenas sospechaba. Por otra parte, Cass estaba enamorada de Denny y eso provocaba celos con Michelle. Toda esa presión y desconfianza aparecieron con letra y música en "I Saw Her Again, Last Night".
A pesar de todo esto lograron grabar un nuevo disco que llevó como título el nombre del grupo en agosto de 1966 y en las que se incluían muchas canciones escritas por John Phillips. Pronto, los problemas entre John y Michelle se hicieron tan evidentes y presentes que John usó su liderazgo sobre el grupo para despedirla. Fue reemplazada por Jill Gibson, la novia del productor Lou Adler, con la que prepararon una nueva portada para el disco. Pero después de unos días de gira era evidente que los admiradores no aceptaban el cambio. Michelle, entonces, regresó al grupo al final de ese año.
A pesar de las tensiones el grupo volvió a grabar, y en febrero de 1967 sacaron "Deliver" en el que se incluía el éxito "Creeque Alley" donde cuentan sus inicios. Luego del disco vino el Festival de Monterrey, una idea que armó John Phillips con varios amigos de la industria. En él estuvieron Simon and Garfunkel, Jefferson Airplane, Jimi Hendrix, Otis Redding, The Who y muchos otros.
El grupo estaba al borde del rompimiento porque no lograban superar sus diferencias. Entonces, John tuvo la idea de ganar tiempo produciendo un disco de grandes éxitos "Farewell to the First Golden Era". De esa manera, tendrían espacio para recomponerse. Sin embargo, el descanso sirvió para que fueran arrestados por consumo de drogas y otros delitos, además de aumentar las tensiones.
Regresaron al estudio a grabar su último disco llamado "The Papas and the Mamas" en abril de 1968, momento en que el grupo decidió separarse. El sello grabador decidió intentar alargar el éxito lanzando "Midnight Voyage" y "Dream a Little Dream of Me" en junio con el nombre de Mama Cass & Mamas and the Papas para lograr disparar la carrera en solitario de Elliot.
Aunque la separación parecía definitiva, el hecho de que su casa disquera pasara a la ABC, los obligó a reunirse nuevamente para grabar un disco debido a que el contrato así lo exigía. Efectivamente se reunieron, pero trabajaron a desgano y produjeron su último disco oficial que se llamó "People Like Us" y salió en octubre de 1971.
En 1970 Michelle y John se divorciaron, 4 años después Mama Cass falleció de un ataque al corazón, y lo mismo sucedió con John Phillips en el 2001. En 1986 entraron al Salón de la Fama del Rock & Roll.