Warum verbreiten Tech-CEOs die KI-Weltuntergangsszenarien? 6 Theorien
Der Sommer 2026 war geprägt von zwei sehr bedrohlichen Themen: Hitze und Klimawandel sowie KI. Während die Gefahr durch Ersteres immer weiter zunimmt und lange unterschätzt wurde, werden im Falle der Letzteren die misstrauischen Stimmen immer lauter.
Das Doomsday-Narrativ, also die Weltuntergangsszenarien, die aufgrund diverser Meldungen von wildgewordenen KI-Agenten auf einmal gefährlich realistisch scheinen, wird seit Jahren von Tech-Unternehmern gespiesen – sie sind also nicht neu.
Diesen Sommer intensivierten sich jedoch die Warnungen vor KI sowie die Forderungen nach mehr Regulierung. Es kam zu einer Reihe von Stellungnahmen und «Manifesten» namhafter Akteure aus den Bereichen KI und Technologie, von Dario Amodei (Anthropic-CEO) über Mark Zuckerberg (Meta-CEO) und Sam Altman (OpenAI-CEO) bis hin zu Bill Gates (Microsoft-Gründer).
Die polarisierte KI-Debatte und das Doomsday-Narrativ
Für besonders viel Aufsehen sorgte im September Evan Hubinger (führender Anthropic-Mitarbeiter), der erklärte, er sehe eine Wahrscheinlichkeit von über 10 Prozent, dass KI innerhalb des nächsten Jahrzehnts alle Menschen töte.
Solche Szenarien werden auch angezweifelt, allerdings ist Hubinger damit nicht alleine. So kündigte etwa Ex-KI-Forscher Jacob Coxon aufgrund seiner Bedenken seine Stelle bei Anthropic. Er glaubt, nach den «aggressivsten Szenarien» könnten die Dinge bereits Ende kommenden Jahres ausser Kontrolle geraten. Geoffrey Hinton, Physik-Nobelpreisträger und «KI-Godfather» ist bei Google ausgestiegen und warnt schon länger vor existenziellen Risiken sowie vor einem irreversiblen Kontrollverlust der Menschheit an die künstliche Intelligenz.
Allerdings gibt es zahlreiche KI-Forschende wie etwa den Schweizer Marcel Salathé, welche die Weltuntergangsszenarien für völlig übertrieben halten – Salathé erinnern sie an «einen Todeskult».
Auch US-Präsident Donald Trump findet, die Gefahr durch KI für die Menschheit sei ein «Hoax», also ein Schwindel.
Auf die Warnungen aus dem Silicon Valley folgten sogleich die beschwichtigenden Stimmen, etwa von Forschenden zu KI, und so entbrannte über die Sommermonate eine Debatte, die derzeit polarisierter kaum sein könnte.
Unabhängig davon, wer in der Doomsday-Debatte Recht behalten wird – Fakt ist: Die Führungspersönlichkeiten aus dem Silicon Valley erklären der Öffentlichkeit einerseits, dass ihre Technologie eines Tages die Menschheit auslöschen könnte – und sammeln und investieren gleichzeitig ungehindert Milliarden in deren Entwicklung und Umsetzung.
Warum?
Ein Überblick über sechs Theorien, die dazu im Raum stehen und die von Beobachtern als plausibel erachtet werden – und von denen auch mehrere gleichzeitig zutreffen könnten:
Bewerbung des Produkts und anstehende Börsengänge
Das Marketing-Argument ist ein Einwand, der bereits sehr früh nach den ersten Doomsday-Berichten eingeworfen wurde. Wer von sich behauptet, eine derart mächtige KI zu besitzen, dass sie die Welt auslöschen könnte, impliziert damit: Mein Produkt ist so gut und so potent, dass ich sogar die Welt davor warnen muss.
Doch die beiden Ansichten müssen sich nicht widersprechen. Man sollte den KI-CEOs und den Entwicklern nicht gleich ihre Ehrlichkeit absprechen, wenn sie eine grosse Gefahr in der Weiterentwicklung und der Verbreitung ihrer Produkte sehen. Die Angst kann aber zur gleichen Zeit berechtigt und auch ein Marketingtool sein.
Dafür spricht, dass sowohl Anthropic als auch OpenAI demnächst ihren Börsengang planen. Mittlerweile ist klar, dass Anthropic in diesem Rennen voraussichtlich im November OpenAI schlagen dürfte, das seinen eigenen Börsengang auf das nächste Jahr verschoben hat. Für einen Börsengang braucht es Investoren, ebenso für die gigantische KI-Infrastruktur, die sich noch im Aufbau befindet. Das Doomsday-Szenario verleiht ihrem Produkt eine Art übernatürliche Macht und dadurch auch Begehrlichkeit, was wiederum Investorengelder anziehen könnte – zumindest dürfte es ihnen das Signal geben, dass sie im KI-Hype aufs richtige, sprich: auf das fortschrittlichste Pferd setzen.
Dafür, dass die Angstverbreitung bisweilen auch hinterfragt werden darf, spricht auch die Geschichte, wie die BBC in einem Artikel vom April 2026 zeigte. So kündigte Dario Amodei 2019, als der heutige Anthropic-CEO noch in leitender Position bei OpenAI tätig war, das Large-Language-Modell (LLM) GPT-2 an, einen Vorläufer von ChatGPT. Amodei und andere Führungskräfte des Unternehmens erklärten damals, man werde GPT-2 aufgrund von «Bedenken hinsichtlich böswilliger Anwendungen der Technologie» nicht veröffentlichen, sondern lediglich eine abgeschwächte Form davon. Einige Monate später wurde GPT-2 trotzdem auf den Markt gebracht, wenn auch in einem stufenweisen Prozess (eine sogenannte iterative Einführung). Und passiert ist seither bekanntermassen – nichts.
2026 erklärte Sam Altman in einem Blogpost, die Sorge sei rückblickend «offensichtlich unbegründet» gewesen. Sie habe aber dazu geführt, dass «wir die Strategie der iterativen Einführung entdeckten, die zu den wichtigsten Dingen gehört, die wir herausgefunden haben».
Und 2023 unterzeichneten Forschende, Gründer und CEOs aus der Branche, darunter auch Elon Musk, einen offenen Brief, in dem sie eine sofortige sechsmonatige Pause bei der Entwicklung fortschrittlicher KI forderten. Weniger als sechs Monate später kündigte Musk sein neues KI-Unternehmen xAI an.
Allerdings könnte das Streuen von zu viel Angst auch einen gegenteiligen Effekt auslösen. Wer will schon eine KI benutzen oder sich mit dem Thema anfreunden, wenn dieses derart negativ assoziiert wird? Dieser Gedanke scheint mittlerweile auch Nvidia-CEO Jensen Huang zu beschäftigen. So sagte der Chef des Chipherstellers kürzlich: «2030 wird nicht das Ende der Welt sein.» Die Wahrscheinlichkeit dafür liege «bei null Prozent». «Es ist unnötig, den Menschen Angst zu machen. Das ist unverantwortlich.» Allerdings dürfte auch Huang durch finanzielle Interessen geleitet sein, schliesslich wäre das Bremsen des KI-Booms für sein Geschäft schlecht.
Zudem könnten sich auch die Pro-Regulations-Rufe, die etwa Anthropic-CEO Amodei gerade wieder bekräftigte, zumindest kurzfristig schlecht auf ihr Geschäft auswirken. So reagierten die Aktienkurse auf solche Forderungen immer wieder mit kleineren Einbrüchen.
Einfluss auf die Regulatoren
Damit sind wir beim nächsten Punkt, der Frage nach der ausgewogenen Regulierung der KI-Firmen. Sie wird Regierungen weltweit die nächsten Monate und Jahre intensiv beschäftigen – und sie vor eine knifflige Aufgabe stellen. Denn auch hier wieder: Wer sieht überhaupt hinter die Kulisse? Und wer kann schon die Zukunft voraussagen? Es wird an den Regierungen sein, fern aller Theorien und der Angstmacherei das richtige Mass zu finden.
Doch der nüchterne Blick ist gar nicht so einfach, wenn Tech-CEOs einem sagen, dass ihre KI so mächtig ist, dass sie die Menschheit auslöschen könnte. Emily Bender, Professorin an der University of Washington und Leiterin des dortigen Labors für Computerlinguistik, begründete deren Warnungen gegenüber CNN unter anderem mit dem Ziel der Beeinflussung der Regulatoren. CEOs würden damit nichts anderes sagen als: «Dieses Zeug ist sehr, sehr gefährlich, und wir sind die Einzigen, die wissen, wie man es in den Griff bekommt.»
Diese Strategie habe man gemäss CNN bereits im Frühling 2023 beobachten können, als OpenAI-Chef Sam Altman vor dem US-Kongress erschien, um Fragen zu beantworten. «Altman schien Washington für sich zu gewinnen, indem er die Bedenken der Abgeordneten hinsichtlich der KI – einer Technologie, die viele im Kongress noch immer zu verstehen versuchen – aufgriff und Vorschläge unterbreitete, wie man damit umgehen könnte», schrieb CNN.
Zumindest Donald Trump mussten die Tech-Bosse nicht überzeugen von ihren Ideen: Ende September unterschrieben sie alle gemeinsam eine Übereinkunft zur Selbstregulierung – ganz ohne staatliche Vorgaben. Trump sieht laut eigener Aussagen durch wirtschaftliche Interessen der KI-Entwicklerfirmen einen ausreichenden Schutz.
Sicherung des Oligopols
Diese Theorie besagt, einfach gesagt, Folgendes: Die (bis jetzt) führenden KI-Firmen konstruieren eine Gefahr – in diesem Fall das überaus drastische Szenario, wonach KI die ganze Menschheit gefährdet –, um sich eine Art Kartell und damit ihre Marktanteile zu sichern.
In einem Kommentar legt diese These Simone Vannuccini, ein Juniorprofessor für Wirtschaftswissenschaften im Bereich Künstliche Intelligenz und Innovation an der Universität Côte d'Azur, dar. Er geht dafür zurück in die Geschichte und zeigt, wie die Angstverbreitung dazu benutzt wurde, Absprachen unter führenden Firmen zu rechtfertigen, damit sich diese ihre Oligopolstellung sichern können.
Unter einem Oligopol versteht man die Beherrschung eines Marktes, gemessen am Marktanteil, von einigen wenigen Unternehmen und dadurch das Fehlen von freiem Wettbewerb. Ein Eintritt in einen solchen Markt ist für neue Konkurrenten oft sehr schwer – sei es wegen hoher Kapitalkosten, starker Marken oder auch Gesetzen. Zudem ist in einem Oligopol die Versuchung zur Absprache unter den Unternehmen gross, was letztlich in einem (eigentlich illegalen) Kartell endet.
Vannuccini nennt dabei sowohl die Standard Oil Company des berühmten John D. Rockefeller, das bis zu seiner Zerschlagung 1911 grösste Mineralölunternehmen der Welt, als auch die Eisenbahnunternehmen während der sogenannten Eisenbahn-Manie Mitte des 19. Jahrhunderts als Beispiele. Beide hätten vor einer grossen Gefahr gewarnt – damals war es diejenige von zu viel Wettbewerb, der die profitabelsten Unternehmen und damit den Wohlstand aller akut gefährden würde.
Heute sei die propagierte Gefahr viel drastischer, doch die Hintergedanken blieben dieselben, so der Ökonom. Dazu passt, dass Dario Amodei, CEO bei Anthropic, in seinem berühmten Essay vom September 2026 «We Must Pace the Frontier» zu einer industrieweiten Koordination zwischen den führenden KI-Firmen aufrief, um das Tempo der Entwicklung der sogenannten Frontier-KI – also der fortschrittlichsten und leistungsstärksten künstlichen Intelligenzen an der technologischen Spitze – zu drosseln. Noch am selben Tag sprachen sich unter anderem Elon Musk und Sam Altman öffentlich für Amodeis Vorschläge aus. Das galt insofern als sehr bemerkenswert, als sich diese Herren bekanntermassen überhaupt nicht leiden können.
Die Politik tut sich schwer mit Regulierung
Viele Politikerinnen und Politiker haben Skrupel, künstliche Intelligenz zu stark und unabhängig von den grossen KI-Firmen zu regulieren. Nicht nur Nationalisten und Rechtspopulisten wie Donald Trump wollen den Tech-CEOs praktisch freie Hand geben. Schliesslich steht für sie der internationale Wettbewerb über allem, und die Sorge um die Konkurrenz, beispielsweise aus China, ist durchaus berechtigt. In ihrer Rede zur Lage der Union übernahm sogar EU-Kommissionspräsidentin Ursula von der Leyen Amodeis Befürchtungen und sagte, sie werde «die wichtigsten Frontier-Labs zu einer Diskussion darüber einladen, wie wir die laufenden Bemühungen der Industrie unterstützen können, einen Gang zurückzuschalten».
Vannuccini erklärt sich die Strategie der KI-Chefs, rund um das, was er wie viele andere «KI-Exzeptionalismus» nennt, zusammenfassend so:
In diesem Sinne ähnelten die heutigen Argumente zur «Geschwindigkeitsregulierung» den Argumenten zum «ruinösen Wettbewerb», die in der Vergangenheit von Kartellen und Industrieverbänden vorgebracht wurden, so der Italiener. Das Ziel: Absprachen als unbedenklich (weil nötig) darzustellen, sie vor der Politik zu legitimieren – und am Ende womöglich gar gesetzlich zu legalisieren.
Dabei ist es bei Weitem nicht nur ein relativ unbekannter Professor, der diese These vertritt. Jüngst postete Michael Burry, auch bekannt als «Crashprophet», da er die Finanzkrise 2007/2008 als einer der wenigen hat kommen sehen, einen ähnlichen Gedanken auf X: «Der einzige Grund, warum die CEOs dieser Tech-Monopole so masslos Geld für Rechenzentren ausgeben, ist, dass sie davon ausgehen, dass ihnen ein Oligopol gewährt wird, das zu gross ist, um zu scheitern.»
The only reason the CEOs of these tech monopolies are spending wildly on data centers like they are is because they assume they will be granted an oligopoly that is too big too fail.
— Cassandra Unchained (@michaeljburry) October 6, 2026
Mit anderen Worten: KI-Firmen dürften einiges daran setzen, dass ihre Milliardeninvestitionen nicht plötzlich in Luft aufgehen, sondern dass sie künftig die versprochenen Gewinne sicherstellen können.
Die grösste Konkurrenz für diese Unternehmen kommt dabei in der Regel aus China, dessen Unternehmen vor allem sogenannte Open-Source-Modelle herstellen.
KI: Open-Source- vs. Closed-Source-Modelle
Sollen die Baupläne mächtiger Sprachmodelle geheim bleiben oder für alle frei zugänglich sein? Dieser Unterschied zwischen sogenannten Closed-Source- und Open-Source-Systemen entscheidet massgeblich darüber, wer am Ende die Kontrolle über Technologie und Daten behält.
Der Hauptunterschied dieser beiden Modelle liegt darin, dass Closed-Sourced-Modelle ihren Code, auf dem die künstliche Intelligenz aufbaut, nicht öffentlich machen. Sie bieten den Vorteil, dass sie einfacher zu bedienen sind, da sie über eine bestehende Web-Schnittstelle (user interface, UI) oder eine API (etwa: Anwendungsprogrammierschnittstelle) zu bedienen sind. Die Finanzierung läuft über laufende Nutzungs- oder Abo-Gebühren, dafür ist keine eigene Infrastruktur nötig.
Open-Source-Modelle sind hingegen billiger und flexibler, benötigen aber mehr eigene Fachkompetenz und können ebenfalls hohe Kosten für eigene Server-Hardware und Wartung verursachen. Nutzer können die KI jedoch frei einsehen, anpassen, weiterentwickeln.
Viele der beliebtesten «offenen» KI-Modelle stammen von chinesischen Unternehmen wie Moonshot AI, DeepSeek und Alibaba, es gibt aber auch US-amerikanische (wie etwa Meta Llama).
Laut New York Times steigen zumindest in den USA immer mehr Unternehmen auf Open-Source-Modelle um.
KI-Expertinnen und -Experten vermuten, dass die Regulierungsrufe aus der Tech-Branche vor allem darauf abzielen, die Konkurrenz durch Open-Source-Modelle einzuschränken. Dazu passt, dass CEOs wie Dario Amodei hauptsächlich die Gefahr von Open-Source-Modellen betonen und Regulierungen vorschlagen, die insbesondere solche Modelle treffen sollen.
Ablenkung von den negativen Seiten der Produkte
KI hält – neben all dem Fortschritt und den möglichen Chancen – auch abseits von Weltuntergangsszenarien viele Gefahren und problematische Seiten bereit: Umweltschäden, mögliche Arbeitslosigkeit, extremer Energieverbrauch, Hackerangriffe, der Abbau kognitiver Fähigkeiten von Menschen, Berichte über psychische Probleme von Nutzerinnen und Nutzern bis hin zu Suizid. Ein weiterer Vorteil, der sich den Tech-CEOs durch ihr Wir-werden-vielleicht-alle-sterben-Narrativ bietet, ist die Ablenkung von bereits realen Gefahren ihrer Produkte.
Eine, die das so sieht, ist die bereits zuvor genannte Emily Bender, Professorin an der Universität Washington und Autorin des KI-kritischen Buches «The AI Con». Gegenüber BBC bezeichnet sie die Aufrufe zur Selbstregulierung als «Teil dieses Musters unbegründeter Machtansprüche». Es sei eine Grundhaltung in der gesamten KI-Branche: «Sie sagen: ‹Schaut mal hierher› und kümmert euch nicht um Umweltschäden und welche Ausbeutung von Arbeitskräften damit einhergeht und welche Systeme wir in der Gesellschaft zerstören. Unsere einzige Sorge ist es jetzt, dass das Ganze nicht zu dem Bösen wird, das die Menschheit vernichtet.»
Es gebe einen Grund, warum die Unternehmen nur vor der Apokalypse warnen, sagt auch Shannon Vallor, Professorin für Datenethik und künstliche Intelligenz an der Universität Edinburgh bei BBC: Könnte KI die Gesellschaft zerstören, erscheinen alle anderen Probleme nur wenig bedeutend. «Die Strategie hat funktioniert», meint Vallor. «Darüber zu sprechen, als könnten ihre Produkte die Welt untergehen lassen, hat diesen Unternehmen nicht geschadet. Es hat ihre Macht nicht eingeschränkt. Wenn überhaupt, vermittelt es den Menschen das Gefühl, dass die Einzigen, an die sie sich möglicherweise um Schutz wenden können, die Unternehmen selbst sind.»
Rechtssicherheit durch Regulierung
Regulierungen haben den Ruf, Unternehmen in erster Linie zu schaden. Doch klare Gesetze können auch Vorteile bringen, denn sie gewährleisten Rechtssicherheit. Gerade einer Branche, die Milliarden in eine Technologie investiert, kann es dabei helfen, Investoren zu versichern: Euer Geld wird sich ausbezahlen. Unsicherheit über mögliche zukünftige Gesetze kann hingegen Investitionen mindern, da die Gefahr lauert, dass das Produkt nicht den zukünftigen rechtlichen Standards entspricht.
«Die Vorschrift mag Ihnen vielleicht nicht gefallen, aber zumindest wissen Sie genau, was Sie erwartet und wie Sie Ihren Prozess optimieren können, um die Vorschrift einzuhalten», erklärte Regina Barzilay, Professorin an der MIT School of Engineering, bei Yahoo Finance. Und im Sommer schrieb eine KI-Expertin in der Financial Times, laut Umfragen sei die rechtliche Unsicherheit in den USA für eine Mehrheit von CEOs die grösste wirtschaftliche Sorge. Die Expertin sagt:
Einige sehen damit verbunden auch eine Möglichkeit für die KI-Unternehmen, sich vor rechtlichen Schritten zu schützen, etwa von zu Schaden gekommenen Konsumentinnen und Konsumenten oder von Firmen, die Ziel eines KI-gesteuerten Hackerangriffes wurden. Das stimmt zwar in Bezug auf die KI-entgleitet-uns-Rhetorik, bei der die Tech-Unternehmer die Öffentlichkeit von eigenem Versagen ablenken könnten. Allerdings ist es ein Irrglaube, zu meinen, Regulierung und Gesetze schützen die Unternehmen in dieser Hinsicht.
Laut CNN, das mehrere Rechtsexperten zu diesem Thema befragte, ist es sowohl mit als auch ohne konkrete KI-Regulierung möglich, die KI-Entwickler zu verklagen – es komme letztlich auf die Argumentation des jeweiligen Gerichts an. Und Lina Khan, ehemalige Vorsitzende der Federal Trade Commission unter Präsident Joe Biden, die sich zu einer prominenten Kritikerin der Führungskräfte der KI-Branche entwickelt hat, argumentiert auf X, «dass wir uns durch Diskussionen über neue Rechtsrahmen nicht davon ablenken lassen sollten, dass es keine Ausnahmeregelung für KI von den bereits geltenden Gesetzen gibt».
Ideologie: Sie glauben wirklich daran
Alle diese Theorien widersprechen nicht der Möglichkeit, dass die Rufe nach mehr Regulierung tatsächlich aus hehren Motiven heraus entstanden sind: Man will die KI-Entwicklung tatsächlich entschleunigen, weil man eine grosse Gefahr sieht – aber man will nicht das einzige Unternehmen sein, das es auch tut. Auch kann die zugrundeliegende Angst vor der zukünftigen Macht ihrer Produkte – sei sie am Ende begründet oder nicht – durchaus reell sein.
Hierzu sollte man wissen, dass die wenigsten dieser Menschen frei von Ideologie sind. Berühmtestes Beispiel ist Peter Thiel, der umstrittene, milliardenschwere Mitgründer und Verwaltungsratschef des Softwareunternehmens Palantir, Co-Gründer von Paypal und ehemaliger Facebook-Investor: Seine Tech-Gläubigkeit – vermischt mit ultra-libertärem, rechtskonservativem und teils offen rassistischem Gedankengut – ist weit verbreitet und beeinflusst viele aus dem Silicon Valley.
Michelle Goldberg, Kolumnistin der «New York Times», schreibt dazu in einem Meinungsartikel, man dürfe die KI-Untergangsszenarien nicht isoliert betrachten. Vielmehr seien sie eng verknüpft mit der Ideologie im Silicon Valley, die zwar je nach CEO oder KI-Entwickler unterschiedliche Formen annehme, sich aber in vielem gleiche: Technologie ist übermächtig, am Ende nicht zu stoppen, und das ist auch gut so. Denn sie gilt grundsätzlich als Heilsbringerin – sei es, weil sie (eine Mehrheit der) Menschen auslöscht, weil sie es der Menschheit durch eine Art Transhumanismus erlaubt, sich unsterblich zu machen oder sie es uns ermöglicht, die Erde zu verlassen und den Mars zu besiedeln.
Goldberg schreibt, egal, welche Horrorszenarien KI möglich macht, «für diejenigen, die sich am stärksten für KI engagieren, besteht das unerträglichste Risiko jedoch darin, dass die Technologie nicht weiterentwickelt wird und sie somit zu einem geisttötenden, begrenzten, gewöhnlichen Dasein verdammt sind». Und sollte es dennoch schief gehen, haben die Tech-CEOs mit ihren neu gebauten Luxus-Bunkeranlagen (zumindest für sich) vorgesorgt.
Goldberg schreibt weiter:
Übersetzt heisst das also: Die Sicht von Silicon-Valley-Unternehmern auf die Gefahren der KI könnte durch deren Technologiegläubigkeit und die Macht, die sie ihr zusprechen, getrübt sein. Gleichzeitig zeigen Aussagen von Thiel, aber auch von Amodei oder Altman, dass sie bereit sind, alles dafür zu tun, künstliche Intelligenz weiterzubringen. So werden KI-Kritiker (oder solche, die schlicht mehr staatliche Kontrolle verlangen) als Ludditen abgestempelt. Der Begriff steht für die Mitglieder der englischen Arbeiterbewegung des frühen 19. Jahrhunderts, die aus Protest gegen die Industrialisierung und den Verlust ihrer Existenzgrundlage gezielt Web- und Spinnmaschinen zerstörten.
Dieser Aspekt wiederum sollte die zuständigen Behörden, Politikerinnen oder auch Investoren die andere Gefahr künstlicher Intelligenz nicht vernachlässigen lassen: diejenige durch die Menschen, die hinter ihr stehen.
- Schweizer KMU rechnen mit noch schlimmeren Cyberangriffen – wegen KI
- So viel verdienen Fachkräfte in der Schweiz – und was KI-Kenntnisse bringen
- Studie: KI löst Fachkräftemangel in der Schweiz nicht
- KI knackt die härtesten Mathe-Rätsel – und stellt uns vor ein neues Problem
- Von Adobe genervter Entwickler baut Photoshop und Co. mit KI als Gratis-Programme nach
- KI-Kuscheltier Moflin soll gegen Einsamkeit helfen – für rund 400 Franken
