Philip Glass descubrió la música en la tienda de su padre dedicada a reparar aparatos de radio. Además, Ben Glass vendía discos y llevaba algunos a casa para escucharlos junto a sus tres hijos y saber por qué la gente no los compraba. Estos ocurría sobretodo con música clásica, así que el futuro compositor rápidamente conoció y se familiarizó con los cuartetos de Beethoven, las sonatas de Schubert, sinfonías de Shostakovich y otras partituras que no eran populares entre la gente. De hecho el mismo Philip no conoció a los clásicos más comunes hasta su adolescencia.

Glass comenzó a estudiar violín a los seis y flauta a los ocho. Pero a los 15 años se sintió frustrado por el escaso repertorio para flauta y la vida musical de post-guerra en Baltimore. Durante su segundo año en la secundaria postuló a la Universidad de Chicago, fue aceptado y, con el apoyo de sus padres, se trasladó a Chicago. Allí costeó sus estudios trabajando en diversos empleos de medio tiempo. Mientras seguía cursos en matemáticas y filosofía practicaba piano y se concentraba en la música de compositores como Ives y Webern.

A los 19 años Glass se graduó de la Universidad de Chicago, determinado por llegar a ser compositor, se trasladó a Nueva York e ingresó a la Juilliard School. Por entonces abandonaba las técnicas seriales que había estado usando en Chicago y se interesaba por compositores norteamericanos como Copland y William Schuman. En los años que siguieron estudió con Persichetti, Milhaud y Bergsma. Rechazó definitivamente el serialismo y prefirió el trabajo de aquellos compositores como Harry Partch, Ives, Moondog, Henry Cowell and Virgil Thomson. Sin embargo, todavía no encontraba un estilo personal. En esa búsqueda viajó a París y pasó dos años estudiando con Nadia Boulanger.

En París fue contratado por un director de cine para transcribir la música del indio Ravi Shankar a una notación legible por músicos franceses. En el proceso Glass descubrió las técnicas de la música india, renunció a su estilo previo e investigó música en el norte de Africa, India y los Himalayas. Retornó a Nueva York y comenzó a aplicar técnicas orientales en su propio trabajo. Ya en 1974 tenía una gran cantidad de nueva música, no sólo para ser empleada por la compañía de teatro Mabou Mines (Glass fue uno de los cofundadores de la compañía), sino también para su propio conjunto, el Philip Glass Ensemble. Este periodo culminó con Music in 12 Parts, un compendio de tres horas de duración de su nueva música, y alcanzó su apogeo en 1976 con la ópera Einstein on the Beach compuesta en colaboración con Robert Wilson.

Con sus cuatro horas y media, Einstein on the Beach (hoy considerada un hito del teatro musical del siglo XX), fue la primera ópera de una trilogía basada en personajes que cambiaron el curso de la historia del siglo XX con sus ideas. La trilogía fue continuada con Satyagraha, creada para la Opera de Holanda en 1980, y Akhnaten, para la Opera de Stuttgart en 1984. Otras obras escénicas que siguieron son The Photographer (1980), The Civil Wars (1984), The Juniper Tree (1986), The Making of the Representative for Planet 8 (1988), The Fall of the House Usher (1988), Hydrogen Jukebox (1990), The Voyage (1992) encargada por el Metropolitan en honor a Colón, y la ópera de cámara Orphée (1993) basada en la película de Jean Cocteau.

Philip Glass también es conocido por sus colaboraciones con algunas de las principales figuras de la danza contemporánea, incluyendo Twyla Tharp y Lucinda Childs (A Descent into the Maelstrom, In the Upper Room). En 1988 debutó como director con un drama musical de ciencia ficción llamado 1000 Airplanes on the Roof, escrito con David Henry Hwang. También ha compuesto música para muy distintos filmes, incluyendo Koyaanisqatsi y Powaqqatsi de Godfrey Regio, Mishima de Paul Schrader, The Thin Blue Line y A Brief History of Time de Errol Morris, etc.

Además ha escrito una gran cantidad de partituras de concierto como cinco cuartetos de cuerda, un concierto para violín (1987) encargado por la American Composers Orchestra, el poema sinfónico The Light (1987) comisionado por la Cleveland Orchestra, Itaipú (1988) encargado por el Coro y la Sinfónica de Atlanta, The Canyon (1988) escrito para la Filarmónica de Rótterdam, y las sinfonías Low y Heroes basados en temas de los álbumes homónimos de David Bowie y Brian Eno. Además tiene a su cargo la filial de Philips llamada Point Music en la que ha editado algunas grabaciones. Sin embargo, la mayor parte de sus discos han sido publicados por Nonesuch y CBS (Sony).