Die Fehler beim Klimawandel dürfen wir bei der KI nicht wiederholen

Europas grösstes KI-Zentrum entsteht in Heilbronn.Bild: Keystone

Kommentar

Die Fehler beim Klimawandel dürfen wir bei der KI nicht wiederholen

Patrick Toggweiler

Drei Jahre lang forschte Jacob Coxton für OpenAI und Anthropic. Jetzt steigt der junge Brite aus und warnt: Die KI-Giganten seien dermassen im Wettrennen gefangen, dass sie längst nicht mehr verantwortungsvoll handeln würden. Das Problem sei so gross, dass ein Kontrollverlust bei einer KI bereits nächstes Jahr möglich sei. Coxton spricht sogar von der Möglichkeit, dass die gesamte Menschheit innerhalb der nächsten zehn Jahre ausgelöscht werden könnte.

Es sind Prognosen, die das Blut in den Adern gefrieren lassen. Doch Coxton vertritt sie nicht alleine. Evan Hubinger, Teamleiter bei Anthropic, gibt ihm recht und beziffert die Chance der Vernichtung der Menschheit innerhalb der nächsten zehn Jahre als grösser als zehn Prozent. Der «Godfather of AI», Physiknobelpreisträger Geoffrey Hinton, hat seinen Job bei Google gekündigt, um vor der KI warnen zu können. Anthropic-Chef Dario Amodei verlangt Regulierungen und wird dabei sogar von Elon Musk und Sam Altman unterstützt. Und da wären noch die über 1100 KI-Entwickler, die im Juli einen Brief an die US-Regierung unterzeichneten, in dem sie eine Verlangsamung der KI-Entwicklung fordern.

Eine grosse Gruppe von Insidern warnt also vor einer globalen menschlichen Katastrophe und fordert von der Politik international bindende Spielregeln.

Warnt vor seinem eigenen Produkt: Dario Amodei.Bild: Keystone

Die Ausgangslage hatten wir doch bereits einmal? Resümieren wir, wie wir Menschen die Situation meisterten.

Der Zusammenhang zwischen der CO₂-Konzentration in der Atmosphäre und der Temperatur ist seit 1896 bekannt. Seit den 70er-Jahren warnen Forscher vor den Gefahren des Klimawandels. Ebenso lange wussten die Ölkonzerne Bescheid. Wir hatten über 50 Jahre Zeit, uns von fossilen Brennstoffen zu trennen. Stattdessen bliesen wir 2025 so viel CO₂ in die Atmosphäre wie noch nie.

Der schwedische Nobelpreisträger Svante Arrhenius erkannte den Zusammenhang der CO₂-Konzentration und der Temperatur als erster.Bild: Wikimedia

Sagen wir es so: Bei der Problemlösungskompetenz der Menschheit gibt es noch etwas Luft nach oben.

Wir schaffen es zwar, einen fremden Planeten mit Robotern zu bevölkern. Etwas Verzicht für global erträglichere Lebensbedingungen liegt aber unter keinen Umständen drin. Das Fleischangebot in der Schweiz stieg 2025 um 3,5 Prozent. Die Autos werden auch immer grösser.

Wie würdest du fünf Menschen nennen, die auf einer schmelzenden Eisscholle im Meer treiben, die aber nicht versuchen, zusammen das rettende Ufer zu erreichen, sondern sich um die grösste Parzelle streiten? Richtig: Idioten ohne Selbsterhaltungstrieb.

Genau so aber benehmen wir uns.

Auch OpenAI-Chef Sam Altman will mehr Regulierungen.Bild: Keystone

Die Perversion hat ihre Spitze damit aber noch nicht erreicht. Es gibt ja durchaus Gruppen, die warnten – Gruppen die man auch in politische Ämter hätte hieven können. Doch obwohl sie 50 Jahre lang recht hatten, werden sie kaum gewählt. Nicht in Europa und schon gar nicht in den USA. Und die, die es doch in ein wichtiges politisches Amt schafften, kamen unter die Räder. Robert Habeck beispielsweise. Der Ex-Wirtschaftsminister in Deutschland wurde mit einer gross angelegten «Bild»-Kampagne öffentlich kaputtgetreten. «Bild»-Verlag Axel Springer gehörte damals mehrheitlich der Beteiligungsgesellschaft KKR. KKR wiederum verdiente sein Geld vorwiegend mit fossilen Energieträgern. Dass die Aussagen von Springer-Chef Mathias Döpfner zum Klimawandel sogar noch unterirdischer sind als die von Marcel Dettling, tun wir mal ab als «Muss an den Initialen liegen».

Sie wird von der «Bild» verschont. Die neue deutsche Wirtschaftsministerin und Gas-Lobbyistin Katherina Reiche.Bild: Keystone

Es ist, als ob der Typ, der in der Firma in der entscheidenden Frage stets recht behält, nie befördert, sondern nur beleidigt wird. Ja, in gewissen Kreisen ist «grün» immer noch ein Schimpfwort. Es sind die Kreise, die seit 50 Jahren Mist erzählen, die Wissenschaft ignorieren, Klimamassnahmen torpedieren und ein möglichst schnelles und schmerzloses Umstellen verhindern. Diese Kreise haben tatsächlich die Chuzpe, die, die recht hatten, als Trottel hinzustellen, ihre Ideen zu stehlen, als eigene auszugeben – und dafür werden sie noch mit Wahlsiegen belohnt. Ricky Gervais hätte keine bessere Tragikomödie erfinden können.

So.

Dieselben Fehler dürfen wir uns mit der KI nicht mehr leisten.

Wir müssen die Warnungen ernst nehmen, jetzt, und die politischen Scharmützel auf der Seite lassen. Denn jetzt geht es ums Eingemachte.

Wir müssen nicht in lautes Geheul ausbrechen – aber uns ernsthaft und schnell um ein internationales Organ bemühen, das die wichtigsten Player an einen Tisch kriegt, verbindliche Regeln ausarbeitet, kontrolliert und Zuwiderhandlung sanktioniert. 70 Jahre Däumchen drehen, gut bezahlte Jöbchen für ausrangierte Politiker schaffen und bisschen herumexperimentieren – das können wir uns nicht leisten. Der Klimawandel war bloss das Testspiel. Jetzt gilt es ernst.

Die Schweiz würde sich als Organisator und Standort für ein solches Organ bestens eignen – müsste sich dafür aber unerwartet initiativ zeigen, mehr als nur zwei, drei Zacken zu- und die aktuelle Wir-beobachten-mal-die-Lage-Strategie ablegen. Es eilt.

Und ja, auch wir Stimmbürger haben die Macht. Vielleicht mal einen Fehler zugeben. Vielleicht bei Wahlen mal die berücksichtigen, die das grösste Problem der Menschheit aufgrund der wissenschaftlichen Datenlage früh erkannten und entsprechend handeln wollten. Und nicht diejenigen, die es aus emotionalen und egoistischen Gründen besser wussten als 99,9 Prozent der Experten, dafür aber das Blaue vom Himmel versprachen.

Natürlich ist die Wahl dieser Leute verständlich. Die Wahl dieser Leute ist mit dem Trugschluss (und dem Versprechen) verbunden, den eigenen Wohlstand wahren oder gar verbessern zu können. Niemand verzichtet mit Freude darauf. Doch das ist kurzfristiges Denken. Dass wir mit den Massnahmen gegen den Klimawandel Jahrzehnte hinterherhinken, wird nun eine Generation sehr teuer zu stehen kommen, die nicht die Möglichkeit hatte, das Ausmass zu verhindern. Immerhin sind die Folgen mehr oder weniger absehbar.

Das ist bei der KI anders. Gerade mal schemenhaft können wir erkennen, was nur schon von Menschen kontrollierte KIs anrichten können, gesellschaftlich, wirtschaftlich, politisch. Zu erkennen ist Machtkonzentration, zu erkennen sind Streichungen von Arbeitsplätzen. Was eine unkontrollierte KI anrichten kann, ist für uns Laien hingegen eine komplette Black Box. Und genau deshalb ist es wichtig, dass wir nicht aufs Prinzip Hoffnung, Luftschlösser und leere Versprechungen setzen, sondern die Warnungen derer ernst nehmen, die davon so viel Ahnung wie nur möglich haben.