Wolfgang Rihm commence à composer dès son plus jeune âge. Il étudie tout d'abord à l'académie de musique de sa ville natale avec Eugen Werner Velte, Wolfgang Fortner et Humphrey Searle.

En 1970, il assiste au cours d’été de Darmstadt puis, durant la même décennie, continue à suivre l’enseignement de Karlheinz Stockhausen à Cologne et de Klaus Huber, et Hans Heinrich Eggebrecht à Fribourg. Il enseigne lui-même la composition à la Hochschule für Musik de Karlsruhe de 1973 à 1978, à partir de 1978 à Darmstadt et à l'académie de musique de Munich à partir de 1981. En 1985, il succède à Eugen Werner Velte au poste de professeur de composition de l'académie de musique de Karlsruhe. Il est alors nommé membre du comité consultatif de l'institut Heinrich Strobel, de la radio SWR Baden-Baden. De 1984 à 1989, il est aussi coéditeur du journal musical Melos et conseillé musical de l'opéra national de Berlin.

Rihm mène une très prolifique carrière de compositeur – aujourd'hui son catalogue compte presque quatre cent opus –, courronnée de prix comme le Stuttgart Prize en 1974, le prix de la ville de Mannheim en 1975, de Berlin en 1978, le prix Bach de la ville de Hambourg en 2000, le prix Ernst von Siemens en 2003, la médaille du mérite de Baden-Württemberg en 2008, le Lion d'or de la Biennale de Venise en 2010, l'Ordre du mérite allemand en 2011, le prix Robert Schumann en 2014, le prix de la Musique sacrée européenne du Festival de Schwäbisch Gmünd (Allemagne) en 2017 et la Médaille d'honneur de la ville de Karlsruhe en 2024.

D’abord marqué par les compositions de Feldman, Webern et Karlheinz Stockhausen, puis par Wilhelm Killmayer, Lachenmann et Nono, à qui il dédicace plusieurs de ses œuvres, Rihm dévoile une personnalité fortement portée par les arts plastiques et la littérature. En 1978 est créé Jakob Lenz, opéra de chambre d’après l’histoire de Georg Büchner et Michael Früling. En 1983, Die Hamletmaschine, fruit d’une collaboration avec Heiner Müller, reçoit le prix Liebermann. Rihm rédige lui-même le livret de ses opéras Oedipus (1987), d’après Sophocle, Hölderlin, Nietzsche et Müller,  Die Eroberung von Mexico (1991) d’après Artaud, et, d'après Nietzsche, Dionysos Eine Opernphantasie (2009-2010). Ces dernières années voient aussi les créations théâtrales du monodrame Proserpina (2008) et des opéras Das Gehege (2006), Drei Frauen (2009).

Plusieurs thèmes sont développés sous la forme d'ensemble d'œuvres, notamment le cycle Chiffre (1982-1988), les cinq pièces symphoniques Vers une symphonie-fleuve (1992-2001) ou Über die Linie, huit pièces solistes ou concertantes (1999-2015), Séraphin (1992-2011) comprenant des pièces de musique de chambre Étude pour Séraphin jusqu'à des concertos pour ensemble et orchestre Concerto "Séraphin" (2006-2008) et "Séraphin"-Symphonie (1993-2011), ainsi que des œuvres  théâtrales Séraphin expérience de théâtre (1993-1996), Séraphin III (2006-2007). En 2012, il achève le cycle pour orchestre Nähe fern 1-4.