Nació el 25 de junio de 1945 en un hogar acomodado de la ciudad de Nueva York. Su padre, Richard Simon, fue cofundador de la editorial Simon and Schuster.
A inicios de los años 60's ella y su hermana Lucy formaron un dúo llamado The Simon Sisters que inicialmente se presentó en los bares de Greenwich Village en Nueva York. Grabaron dos LP, uno de folk bastante suave y otro con canciones para niños. Solamente tuvieron un sencillo de éxito que estuvo fugazmente en las listas en abril de 1964: "Winkin' Blinkin' and Nod".
Las hermanas se separaron a finales de esa década, y Carly Simon decidió empezar una carrera como solista. Se puso en contacto con Albert Grossman quien para entonces era el representante de Bob Dylan. El intento, sin embargo, no prosperó.
Carly decidió entonces dedicarse a la composición junto al crítico de cine Jacob Brackman. En este apartado las cosas empezaron a funcionar mejor y en 1971 dos de sus canciones, "That's The Way I've Always Heard It Should Be" y "Anticipation", se convirtieron en éxitos dentro de Estados Unidos. La primera venía en su primer disco, llamado Carly Simon, mientras que la segunda le dio título a su segundo LP.
Con las cosas en un terreno más positivo, Carly Simon se ayudó con el talento del productor Richard Perry para producir su tercer LP. En él se incluyó su canción más famosa: “You’re So Vain”, de la que se dice habla de Warren Beaty y/o Mick Jagger, que además canta en esa canción.
La canción vendió más de un millón de copias en 1972 y a inicios de los años 90's se volvió a lanzar en Gran Bretaña luego de que saliera en un comercial de televisión.
No Secrets, su tercer larga duración, es por lejos su trabajo más reconocido y en él se incluye mucho del mejor material de su carrera, entre ellos “The Right Thing To Do”. La calidad del disco le valió el Grammy por ser la mejor artista nueva del año.
También en 1972 Carly Simon se casó con el cantante James Taylor. A pesar de haberse convertido en esposa y luego madre, su carrera de artista nunca se vio demorada. Por el contrario, esa dinámica de vida le ayudó a componer de forma sostenida durante años.
Si bien es cierto que el resto de la década fue algo irregular en cuanto a éxitos, Carly Simon mostró una energía casi inagotable que la llevó a participar en conciertos anti nucleares y por la paz, además de sus propias giras.
Su cuarto álbum fue Top Ten Hotcakes, publicado en enero de 1974, y en él venía su versión de “Mockingbird” (original de Inez y Charlie Foxx) y cantada junto a su esposo. El sencillo se convirtió en oro y detrás de él llegó "Haven't Got Time for the Pain" que llegó a estar entre las 10 canciones más populares.
Playing Possum de 1975 y Another Passenger de 1976 fueron dos álbumes que no tuvieron el éxito de sus predecesores, pero ayudaron a mantener viva la figura de Carly Simon lo suficiente como para que en 1977 fuera contratada para interpretar el tema principal de una película de James Bond. "Nobody Does It Better" vendió más de un millón de copias y estuvo en el Top Ten de la lista Billboard.
Boys in the Trees, de 1978, también fue disco de oro gracias a “You Belong to Me” y a “Devoted to You” cantada a dúo con Taylor.
Sus siguientes discos, Spy de 1979 y June de1980, no alcanzaron a vender lo suficiente, a pesar de que en el último venía “Jesse”, un sencillo que sí fue disco de oro, pero que no pudo empujar al LP.
En octubre de 1980 Simon tuvo un desmayo por cansancio en medio de una presentación. Después de eso, sus apariciones en concierto han sido escasas.
La primera mitad de los ochenta no fue muy productiva para Carly Simon en Estados Unidos, fundamentalmente por las pobres ventas de sus discos. A pesar de ello, canciones como “Why” y “Kissing With Confidence” tuvieron éxito del otro lado del Atlántico, en Inglaterra.
En 1983 se separó de su marido James Taylor. Tanto su matrimonio como su separación tuvieron una cobertura amplia en los medios de comunicación norteamericanos, inclusive opacando las aventuras de Elizabeth Taylor.
Su regreso a las listas de éxitos llegó en 1987 con “Coming Around Again”, el tema de la película “Heartburn”. Ese mismo año ganó el Grammy y el Óscar por “Let the River Run” de la película “Working Girl” de 1988.
En 1990 Carly Simon lanzó un disco de baladas pop, en el que incluía una serie de covers, llamado My Romance. Seis meses después puso a la venta Have You Seen Me Lately? en el que todo el material era original.
Desde entonces a la fecha ha producido más de 10 discos entre retrospectivas, canciones para películas y materiales nuevos.
Quizás no sea el tipo de persona que la gente recuerde por su nombre, pero definitivamente es el tipo de voz melódica que tiene el poder de apartarnos un momento de lo que estamos haciendo para recordar y sentir.