«Meine Tochter ist 14 Jahre alt und reifer als Elon Musk»
In Ihrem Buch «Die Stunde der Raubtiere» schreiben Sie: «Eine Kriegslüsternheit ergreift den Planeten – und sie erfasst nicht nur die autoritären Regime.» Das war vor bald zwei Jahren. Inzwischen hat sich die Lage weiter verschlimmert?
Giuliano da Empoli: Das trifft leider zu. Mit dem Amtsantritt von Donald Trump haben sich alle Tendenzen, die ich in meinem Buch beschreibe, weiter verstärkt. Mir ging es darum, die langfristigen Trends aufzuzeigen, hauptsächlich die Rolle der Tech-Raubtiere. Ihr Einfluss begann schon in den Neunzigerjahren und wird nun zunehmend sichtbar – und mächtiger.
In seiner zweiten Amtszeit wird Donald Trump mit den römischen Imperatoren verglichen, mit Nero oder Caligula. Sie mögen historische Analogien. Trifft diese zu?
Durchaus. Menschen, die in den letzten 30 Jahren politisiert wurden, haben Mühe, Typen wie Trump zu verstehen. Jemand im alten Rom hätte damit weit weniger Probleme gehabt. Typisch für unsere Zeit ist, dass diese Verhaltensmuster wieder auftauchen: autoritär, maskulin, rassistisch. Allerdings gibt es einen entscheidenden Unterschied: Sie tauchen in einem Tech-System auf. Es ist eine Mischung aus sehr alt und sehr neu.
Noch ein Zitat aus Ihrem Buch: «Es besteht praktisch keinerlei Zusammenhang zwischen intellektueller Kapazität und politischer Intelligenz.» Kann jeder Idiot ein erfolgreicher Politiker sein?
Nicht jeder Idiot, sondern ein ganz bestimmter Typus von Idiot. Es trifft zu, dass hoher IQ und solide Bildung keine guten Indikatoren für politischen Erfolg sind. Das gilt auch in Zeiten, in denen es ruhig zu und her geht. Aber politisches Geschick sollten wir nicht unterschätzen.
Trump beschreibt sich selbst als «stabiles Genie». Was ist davon zu halten?
Das ist er natürlich nicht. Er hat jedoch ein intuitives Gespür für Dinge, die den Zeitgeist bestimmen. Vor 15 Jahren wäre Trump nicht möglich gewesen. Wer weiss, ob er es in 15 Jahren noch wäre. Aber in der heutigen Zeit war er die richtige Person am richtigen Ort.
Er hatte auch sehr viel Glück.
Sicher. Aber es reicht nicht, ihn als Idioten zu beschimpfen. Oder ihn als Kriminellen oder Betrüger hinzustellen und zu erklären, er sei senil oder gar dement.
All dies trifft doch zu.
Das mag sein, aber wenn wir gegen ihn ankämpfen wollen, müssen wir verstehen, weshalb sehr viel intelligentere Menschen von ihm überlistet werden. Europäische Staatsoberhäupter denken, wenn sie zum ersten Mal mit Trump zusammentreffen: Der Typ spinnt, wir sind ihm weit überlegen. Das mag sogar stimmen. Und trotzdem werden sie von ihm übertölpelt.
Weshalb?
Er denkt nicht viel, deshalb entscheidet er so rasch. Und er kümmert sich weder um Kohärenz, Moral …
… oder Scham.
Die Geschwindigkeit, mit der er handelt, wird jedoch von seinen Wählern bewundert. Sie haben das Gefühl, dass sich nichts ändert, dass sie von den Politikern immer mit leeren Versprechen abgespeist werden. Und dann kommt dieser Typ, der einfach macht, selbst wenn es die dümmsten Dinge sind.
Die Zeiten von Teflon-Trump scheinen jedoch abgelaufen zu sein. Die Menschen in den USA verlieren das Vertrauen in ihn.
Um ehrlich zu sein, ich bin da skeptisch. Ich beobachte, dass viele Menschen ihn bereits abschreiben. Aber schauen wir zurück: Der Typ hatte vor bald sechs Jahren die Wahl gegen Joe Biden verloren. Er stand vor dem Nichts. Er hatte keine Verbündeten in Machtpositionen oder im Militär, selbst sein Vizepräsident stand nicht mehr hinter ihm.
Sogar Fox News wandte sich von ihm ab.
Genau. Trump war ganz auf sich alleine gestellt. Und trotzdem kam er zurück. Jetzt ist die Situation eine andere. Er hat Leute im Weissen Haus wie auch im Militär um sich geschart, die blindlings loyal sind.
Allerdings sagt selbst der Trump-Freund Peter Thiel, diese Leute seien zwar loyal, aber nicht sehr kompetent.
Wenn die Zwischenwahlen mehr oder weniger fair über die Bühne gehen, dann werden die Demokraten gewinnen. Aber was dann? Er hat selbst dann noch viele Möglichkeiten, den Kongress zu umgehen.
Und er hat den Obersten Gerichtshof, der ihm einen Blankoscheck ausgestellt hat.
Deshalb befürchte ich, dass wir nach dem 3. November in einer anderen Welt leben werden. Ich hoffe das nicht, aber ich habe Angst davor. Wir müssen uns darauf vorbereiten.
In Ihrem Buch warnen Sie auch eindringlich vor der KI. Angesichts der jüngsten Ereignisse erscheint dies geradezu visionär.
Danke, aber vieles hat sich schon länger abgezeichnet. Ich wünsche mir, ich hätte dies schon viel früher erkannt. Der Philosoph Thomas Hobbes hat in seinem Werk «Leviathan» festgestellt: Die Hölle ist die Wahrheit, die man zu spät erkannt hat. Ich wünsche mir weiss Gott keine höllischen Zustände, aber viele Progressive haben die Zeichen der Zeit nicht erkannt und tun es teilweise auch heute noch nicht.
Heute streitet man, ob die KI die gefährlichste Maschine ist, die die Menschheit je erschaffen hat – oder ob die Warnung vor dem Untergang der Menschheit bloss geschicktes Marketing von OpenAI und Anthropic ist. Wie sehen Sie das?
Anthropic hat soeben die Unterlagen für den Börsengang eingereicht. Es ist wohl das erste Mal in der Geschichte der Menschheit, dass ein Unternehmen davor warnt, dass sein Produkt die Menschheit auslöschen könnte. So gesehen handelt es sich um eher dystopisches Marketing. Aber es ist weit mehr als das. Sehr kompetente Leute aus den verschiedensten Gebieten warnen vor der KI, auch solche, die in den Forschungslaboren tätig sind. Auch Wissenschaftler, die an der KI-Front tätig sind, aber keine kommerziellen Interessen haben, stimmen in diesen Chor ein. Leute wie der Nobelpreisträger Geoffrey Hinton. Das Risiko durch KI ist real, obwohl ich persönlich mehr Angst davor habe, dass sie in falsche menschliche Hände geraten kann.
Es ist jedoch beängstigend, dass selbst die Macher von KI nicht verstehen, was sie tun, und sie daher gar nicht kontrollieren können. Sie schreiben ja auch in Ihrem Buch, dass sie einen Tiger reiten und hoffen, dass sie nicht gefressen werden.
Um das zu verhindern, sind der Staat und Gesetze erfunden worden. Es braucht Gesetze und Massnahmen, um die KI zu kontrollieren. Fast täglich werden Fälle bekannt, in denen die KI ausgebrochen ist und Dinge tat, die sie nicht hätte tun dürfen.
Sogar das FBI wurde kürzlich gehackt.
Daher stellt sich offensichtlich die Frage: Wer trägt da die Verantwortung? Wir sprechen hier ja nicht von Magie. Menschen stehen dahinter. Wenn Frankensteins Monster ein Verbrechen begeht, gehört er ins Gefängnis.
Mit anderen Worten: Leute wie Sam Altman von OpenAI oder Dario Amodei von Anthropic müssen angeklagt werden?
Wir können uns nicht mehr länger einreden, die KI sei viel zu kompliziert. Wir können das nicht regulieren. Wann ziehen wir die Menschen hinter der KI zur Verantwortung?
Immerhin hat OpenAI gerade angekündigt, ein neues KI-Modell nicht zu lancieren, weil es zu gefährlich sei.
OpenAI hat auch den Börsengang verschoben. Im Gegensatz zu Anthropic haben sie offenbar eingesehen, dass der Zeitpunkt ungünstig ist, Milliarden an der Börse einzusacken. Schockierend jedoch bleibt, dass weder die Politik noch die Öffentlichkeit bereit sind, aktiv zu werden.
Was schockiert Sie mehr, die ungeheuren Mengen an Geld, die diese Menschen verdienen, oder die gewaltige Macht, die sie erlangen?
Die Macht, natürlich. Sehr reiche Menschen hat es immer schon gegeben, etwa die Räuberbarone, die Rockefellers und die J. P. Morgans zu Beginn des 20. Jahrhunderts. Die ungleiche Verteilung des Reichtums in den USA ist sehr schädlich. Aber die Räuberbarone haben handfeste Dinge produziert: Öl, Eisenbahnen, Stahl. Die Tech-Oligarchen sind anders. Sie beherrschen zunehmend unser Leben. Wir leben in einer digitalen und jetzt sogar KI-Welt, und zwar nicht nur in der öffentlichen Sphäre, sondern auch in der privaten. Sie haben gesehen, dass ich vor dem Interview mit meinem iPhone hantiert habe. Und wir haben kollektiv entschieden, dass in dieser Welt Gesetze und demokratische Prinzipien keine Rolle spielen. Deshalb können die Tech-Oligarchen diese Welt beherrschen.
Ist das Zusammenspiel von Trump-Regierung und Silicon Valley dafür verantwortlich?
Nein, diese Entwicklung hat schon in der Ära von Präsident Barack Obama begonnen. Dessen Wahlkampf 2012 war bereits von Algorithmen bestimmt. Eric Schmidt, der ehemalige CEO von Google, spielte praktisch die gleiche Rolle wie Elon Musk bei Trump, nur sehr viel diskreter. Aber die Allianz von Tech und Politik gab es schon damals.
Es gibt doch einen entscheidenden Unterschied. Schmidt ist ein Technokrat, Musk, Peter Thiel, Marc Andreessen und all diese Leute sind Faschisten.
Das ist ein wichtiger Unterschied, keine Frage. Was mich jedoch umtreibt, ist die Tatsache, dass selbst die Leute, die keine Faschisten sind, eine Gesinnung vertreten, die Mark Zuckerberg mit dem Satz «Move fast and break things» umschrieben hat. Sie wollen alle Gesetze, Limiten und Regeln ausser Kraft setzen und sind gleichzeitig nicht bereit, Verantwortung zu übernehmen. Mit anderen Worten: Sie verhalten sich nicht anders als Trump. Sie wollen den demokratischen Staat zerstören.
Anthropic-CEO Dario Amodei gilt doch als der Gute in diesem Spiel.
Wir sollten uns nicht hinters Licht führen lassen und sagen, dieser Typ scheint netter zu sein als die anderen. Der zentrale Punkt lautet: Niemand sollte in einer so mächtigen Position sein. Und wir sollten nicht hoffen, dass Amodei den KI-Wettlauf gegen Altman gewinnen wird, weil er der nettere der beiden ist. KI muss reguliert werden.
In der Tech-Szene erlebt auch der Übermensch von Friedrich Nietzsche ein Comeback. Absurde Pläne wie den Mars zu erobern, werden ernsthaft verfolgt.
Genau davon handelt mein nächstes Buch, ein Roman, der diese Woche auf Französisch erschienen ist und nächstes Jahr auf Deutsch herauskommen wird. Es trifft zu, dass die gleichen Menschen auf einem Gebiet extrem intelligent sein können und auf anderen extrem dumm.
Elon Musk hat die Weltanschauung eines Teenagers.
Exakt. Meine Tochter ist 14 Jahre alt und reifer. Das ist sehr beängstigend.
Trump will die KI nicht regulieren, weil er Angst hat, das Wettrennen gegen China zu verlieren. Was ist davon zu halten?
Er geht sogar so weit, dass er dem Papst vorwirft, er sei ein chinesischer Agent, weil er sich für eine Regulierung der KI ausgesprochen hat. Das ist lächerlich. Den Wettbewerb mit China gibt es, keine Frage. Aber die beiden Nationen haben doch ein gemeinsames Interesse, dass die KI nicht ausser Kontrolle gerät, genau wie die UdSSR und die USA einst ein Interesse daran hatten, die Atomwaffen in den Griff zu bekommen.
Darüber könnten die beiden Nationen doch miteinander reden.
Das geht schlecht, wenn die KI zu einer Art Religion wird. Leider haben die KI-Macher die Vorstellung, dass sie eine Art künstlichen Gott erschaffen. Sie sprechen von Singularität, der Verschmelzung von menschlicher und künstlicher Intelligenz, oder von Superintelligenz. Und sie gehen davon aus, dass der Erste, der dieses Ziel erreicht, die Welt beherrschen wird. Ich bin nicht sicher, ob wir die KI durch diese Brille betrachten sollten. Sollte es eines Tages diesen künstlichen Gott tatsächlich geben, dann spielt es keine Rolle mehr, ob wir Chinesen, Amerikaner oder was auch immer sind. Wir werden alle in der gleichen Situation sein.
Die Weltordnung, wie sie seit dem Ende des Zweiten Weltkrieges bestand, zerbricht. Es gilt zunehmend das Recht des Stärkeren. Zusammen mit der KI ist dies eine hochgefährliche Mischung.
Es war naiv zu glauben, dass diese Ideen überwunden seien. Diesen Irrtum hat man schon vor dem Ersten Weltkrieg begangen, als man glaubte, dass die wirtschaftliche Verflechtung der Länder keinen Krieg mehr zulassen würde. Es ist schrecklich, dass diese Ideen zurückkehren, aber es ist nicht erstaunlich. Die meisten Menschen, die den Zweiten Weltkrieg erlebt haben, sind gestorben. Und leider müssen wir die gleichen Lektionen immer wieder von Neuem lernen.
Verharmlosen Sie nicht ein wenig?
Es besorgt mich, dass wir die menschliche Geschichte verlassen. Wir sind an einem Punkt angelangt, an dem wir Maschinen werden, und die Verbindung von autoritärem Denken und der KI macht mir grosse Angst. Wenn wir ein autoritäres System haben, das von Maschinen beherrscht wird, dann sind wir verloren, selbst wenn wir überleben.
Wie gefährlich ist die Kombination von rechtem Populismus und KI?
Wir sollten den Slogan der rechten Populisten «Take back control» für progressive Ziele übernehmen. Das passiert derzeit zunehmend in den USA. In Europa ist KI noch nicht das dominierende politische Thema. Es wird noch von der Diskussion über die Migration überdeckt. Ich denke jedoch, dass Technologie bald alle anderen Themen miteinschliessen und die Opposition dagegen ein Mittel werden wird, Wahlen zu gewinnen.
Sie leben in Frankreich. Dort könnte es nächstes Jahr bei der Präsidentschaftswahl zu einer Entscheidung zwischen einer rechten Populistin und einem linken Populisten kommen.
In vielen Ländern erleben wir den Kampf zwischen der Wut und den Algorithmen. Die Menschen sind wütend und haben Angst, die Kontrolle über ihr Leben zu verlieren. Gleichzeitig werden sie immer stärker von Algorithmen dominiert. Das führt dazu, dass extreme Positionen in der Politik immer beliebter werden.
Sie kennen auch die Politik in Italien sehr gut. Dort gerät sogar Giorgia Meloni unter Druck von rechts.
Italien ist schrecklich, die Wähler wollen stets etwas Neues. Auch Meloni ist aus dem Nichts aufgetaucht. Jetzt muss sie sich einen Konkurrenten vom Hals halten, der noch weiter rechts steht.
Heisst dies, dass wir unausweichlich auf eine Zukunft zusteuern, die von rechten Populisten und den Tech-Raubtieren beherrscht wird?
Nein. Es gibt diese Tendenz, doch wir haben den Vorteil, dass wir sie erkennen, zumindest in den Umrissen. Zudem haben die Tech-Oligarchen den Bogen überspannt. Vielleicht entsteht daraus eine signifikante Opposition, die uns vor dieser Dystopie bewahren wird.
