Geboren wurde Cerha am 17. Februar 1926 in Wien. Der musikalisch begabte Bub begann bereits im Alter von sechs Jahren, Geige zu spielen. Die ersten Kompositionen folgten nur zwei Jahre später, und auf eigene Initiative erhielt er Unterricht in Harmonielehre und Kontrapunkt. 1943, noch vor Abschluss des Gymnasiums, wurde Cerha zur Wehrmacht eingezogen. Der erklärte Gegner des NS-Regimes desertierte allerdings und flüchtete auf eine Tiroler Almhütte.
Nach dem Krieg studierte er an der Wiener Hochschule für Musik und darstellende Kunst Komposition bei Alfred Uhl sowie Violine bei Vasa Prihoda und Musikerziehung. Der promovierte Germanist pflegte auch Kontakte zu dem von avantgardistischen Malern und Literaten dominierten "Art Club". Ab 1959 lehrte Cerha an der Wiener Musikhochschule, von 1976 bis 1988 auch als Professor für Komposition, Notation und Interpretation neuer Musik.
1958 entstand das von Cerha mitbegründete Ensemble "die reihe", das als Kammerensemble für Neue Musik mit exemplarischen Aufführungen gegen die in Österreich herrschende Ödnis im Bezug auf die Musik des 20. Jahrhunderts anspielte und damit einem großen Publikum zeitgenössische Kompositionen nahebrachte. Nicht zuletzt wurde in dieser Zeit Cerhas Affinität zur zweiten Wiener Schule um Berg, Webern und Schönberg geschärft. Eine Folge davon war die Fertigstellung von Alban Bergs Opernfragment "Lulu", das von Cerha um den dritten Akt ergänzt und 1979 von Pierre Boulez in Paris uraufgeführt wurde.
Bis zur ersten wirklich eigenen Oper "Baal" sollten noch Jahre vergehen. Das Werk nach einem Drama von Bertolt Brecht brachte endgültig den internationalen Durchbruch für Cerha und wurde 1981 bei den Salzburger Festspielen uraufgeführt. Daneben gehören vor allem die musikdramatischen Werke "Spiegel" und "Netzwerk" sowie die Literaturoper "Die Rattenfänger" nach Carl Zuckmayer zu seinen bekanntesten Kompositionen. Cerha hat mit Vorliebe Werke für große Orchesterbesetzung komponiert, die stilistisch weiterhin auf dem Boden der zweiten Wiener Schule wurzeln.
Schon einige Jahre steht der Komponist selbst nicht mehr am Pult, von vereinzelten Auftritten wie 2007 im Rahmen der Wiener Festwochen mit dem Klangforum oder anlässlich des Festkonzertes zu 50 Jahre "die reihe" abgesehen. Das Dirigieren hat er zugunsten seines kompositorischen Schaffens zurückgestellt. Und die Ergebnisse sind umfangreich: 2002 wurde die in Zusammenarbeit mit Peter Turrini entstandene Oper "Der Riese vom Steinfeld" an der Wiener Staatsoper uraufgeführt, 2004 folgte mit Cerhas Requiem sein "Opus summum". Beim steirischen herbst gab es 2007 die Uraufführung des Konzerts für Bariton und Orchester, "Aderngeflecht", dessen Text auf Gedichten von Emil Breisach basiert, im selben Jahr erklang "Les Adieux" erstmals bei der Biennale in Venedig. 2010 kam "Like a Tragicomedy" in Manchester zur Aufführung und 2013 stand mit "Onkel Präsident" die Uraufführung einer Komischen Oper im Münchner Prinzregententheater auf dem Spielplan. Im gleichen Jahr erklang bei den Salzburger Festspielen erstmals sein "Etoile für 6 Schlagzeuger", 2016 schließlich "Eine blassblaue Vision".
Beinahe so zahlreich wie seine Werke sind mittlerweile auch Cerhas Auszeichnungen: Für seine kompositorische Arbeit erhielt er unter anderem den Preis der Stadt Wien (1974) und den Großen Österreichischen Staatspreis (1986). 1998 wurde er für seine Verdienste um die elektroakustische Musik geehrt. Das Ehrenzeichen für Wissenschaft und Kunst folgte 2005, im Jahr darauf wurde er bei der Musik-Biennale in Venedig mit dem erstmals vergebenen Goldenen Löwen für ein Lebenswerk geehrt. 2008 folgte das Goldene Ehrenzeichen für Verdienste um das Land Wien, 2011 der Musikpreis Salzburg und 2012 mit dem Ernst-von-Siemens-Musikpreis die wohl renommierteste Auszeichnung ihrer Art, die mit 200.000 Euro dotiert ist. Cerha sei praktisch "ausdekoriert", wie der damalige niederösterreichische Landeshauptmann Erwin Pröll (ÖVP) zum 90. Geburtstag des Jubilars mit Augenzwinkern anmerkte.