Digital
Wissen

«Das Problem künstlicher Intelligenz ist nicht, ob sie es gut meint mit uns. Die Frage ist, wie fehleranfällig sie sein wird»

Science-Fiction-Experte Philipp Theisohn: «Die Anreize sind nicht so gesetzt, dass eine Technologie den grössten Nutzen für die Gemeinschaft entfalten kann, sondern dass sie als Business fun ...
Science-Fiction-Experte Philipp Theisohn: «Die Anreize sind nicht so gesetzt, dass eine Technologie den grössten Nutzen für die Gemeinschaft entfalten kann, sondern dass sie als Business funktioniert.»
Interview

«Das Problem künstlicher Intelligenz ist nicht, ob sie es gut meint mit uns. Die Frage ist, wie fehleranfällig sie sein wird»

Er ist Professor für Deutsche Literaturwissenschaft und sein Spezialgebiet ist Science-Fiction. Ein Gespräch mit Philipp Theisohn über Massenüberwachung, ethische Konsequenzen der künstlichen Intelligenz und das falsche Versprechen des Netzes.
04.01.2016, 21:2605.01.2016, 07:56
Raffael Schuppisser / Aargauer Zeitung
Mehr «Digital»

Literaturprofessoren beschäftigen sich gerne mit toten Geistern. Mit Goethe, Schiller oder Kafka. Was in der Gegenwart passiert, interessiert sie oft weniger. Auf Philipp Theisohn trifft das nicht zu. Er befasst sich am liebsten mit der Zukunft. Das Spezialgebiet des Professors für Deutsche Literaturwissenschaft ist Science-Fiction. In seinem Büro hängen Filmplakate von «2001: A Space Odyssey» «Alien» und «Star Wars». Die passende Umgebung für ein Zukunftsgespräch zum Jahreswechsel.

Herr Theisohn, in der Science-Fiction werden oft Zeitreisen unternommen. Mal angenommen, Sie hätten diese Möglichkeit, wie weit würden Sie in die Zukunft reisen?
Philipp Theisohn
: Nicht allzu weit, vielleicht 30 Jahre. Aber ich glaube, dass ich von dieser Reise eher enttäuscht wäre.

Warum denn?
Wie es wirklich sein wird, weiss ich natürlich nicht. Doch wenn ich vor 30 Jahren ins Jahr 2016 gereist wäre, dann wäre das wohl auch nicht so spektakulär gewesen, wie ich mir das erhofft hätte. Klar, ich hätte gestaunt ob dieser komischen Geräte (zeigt auf das Smartphone, das auf dem Tisch liegt). Die Menschen können von überallher auf alle Nachrichten der Welt zugreifen, brauchen keinen CD-Player mehr, um Musik zu hören, und haben Zugang zu allen Fernsehserien. Viel mehr ist in diesen 30 Jahren aber nicht passiert. Ein Future Shock ist das auf jeden Fall nicht.

Philipp Theisohn
Der deutsche Literaturwissenschafter ist Professor am Deutschen Seminar der Universität Zürich. Er leitet ein Forschungsprojekt zur Literatur des bewohnten Weltalls und beschäftigt sich mit Futurologie und Science-Fiction. Philipp Theisohn (41) lebt in Zürich, ist verheiratet und hat eine Tochter.

Was wäre dann ein solcher Zukunftsschock?
Eine Entwicklung, die unser Leben und damit auch uns selbst massiv verändert.

Aber das ist doch das Smartphone. Wir haben ständig Zugang zu allen Informationen. Arbeit und Privatleben vermischen sich. Es entsteht ein neuer Druck. Immer mehr erleiden ein Burnout.
Smartphones haben zwar unseren Alltag verändert, die Art und Weise, wie wir uns durch Technik organisieren und überorganisieren. Am Ende ist das Prinzip, nach dem wir die Technik einsetzen und entwickeln, doch dasselbe geblieben: Leistung, Effizienz, Profit. Soziale Innovation ist das noch nicht.

Zurück zu unserer Zeitreise. Was wird uns im Jahr 2046 erwarten?
Diese Frage kann ich nicht beantworten. Ich bin Literaturwissenschafter und nicht Hellseher.

Aber Sie machen sich doch als Science-Fiction-Forscher bestimmt Gedanken dazu.
Gut möglich, dass das Verkehrssystem in Städten zu grossen Teilen automatisiert sein wird. Das Internet der Dinge wird Wirklichkeit sein. Der Raum, in dem wir uns befinden, wird merken, was wir tun wollen, und selbstständig darauf reagieren. Wir werden immer mehr Technologie in unseren Körper integrieren. Fundamental anders wird unser Leben aber allein dadurch nicht werden.

Wenn wir Computertechnologie in unseren Körper integrieren, werden wir zu Cyborgs. Wir werden die Technik nicht mehr weglegen oder ausschalten können. Das wäre ein grosser Unterschied.
Viele schalten ja das Smartphone heute schon nicht mehr aus und beginnen bereits, Phantomvibrationen am eigenen Körper zu spüren. Die Sache ist die: In den letzten 30 Jahren gab es keine grosse Innovation, die das Zusammenleben massiv verändert hätte. Und das wird es wohl auch in den nächsten 30 Jahren nicht geben. Nicht weil die technischen Entwicklungen ausblieben, sondern weil wir sie nicht nutzen, um wirklich grosse Veränderungen anzustossen.

«Noch immer müssen viele Menschen verhungern. Dabei wären wir logistisch durchaus in der Lage, Lebensmittel optimal zu verteilen.»
Philipp Theisohn

Wie meinen Sie das?
Das Internet böte jetzt schon die Möglichkeit für fundamentale globale Veränderungen. Grundsätzlich wird es darum gehen, ob wir ökonomische und politische Teilhabe weiter von oben nach unten, vom Zentrum in die Peripherien, von der Masse zum Einzelnen organisieren – oder ob wir diese Prozesse umkehren, dezentralisieren und so einen Pluralismus nicht nur in der Wirtschaft, sondern auch in der Lebensgestaltung ermöglichen.

Was wäre konkret möglich?
Noch immer müssen viele Menschen verhungern. Dabei wären wir logistisch durchaus in der Lage, Lebensmittel optimal zu verteilen. Wir können auch voraussehen, wann wo auf der Erde die nächste Dürre eintritt. Wissen das aber auch die Leute, die vor Ort der Dürre ausgesetzt sein werden? Digitale Medien ermöglichen es ja dem Einzelnen, sehr schnell Informationen einzuholen, aber auch sehr schnell in Notsituationen die Öffentlichkeit zu adressieren, Hilfe anzufordern. Dazu braucht es aber auch Aufmerksamkeit, Willen und natürlich Zugänge dort, wo es um Leben und Tod geht, in Krisengebieten, auf See. Interessanterweise finden sich die Projekte, die sich mit diesen Fragen beschäftigen, die Digitalität zu denen bringen, die sie am dringendsten benötigen, nicht zuerst in der Politik, sondern in der Kunst, etwa bei den Schweizern Christoph Wachter und Mathias Jud.

Warum nutzen wir dieses gesellschaftliche Potenzial der Digitalität nicht?
Die Anreize sind nicht so gesetzt, dass eine Technologie den grössten Nutzen für die Gemeinschaft entfalten kann, sondern dass sie als Business funktioniert. Der Profit geht an wenige, das Risiko, das eine Technologie birgt, wird jedoch auf alle verteilt. Wir nehmen uns deswegen bestenfalls als «Nutzer», nicht aber als echte «Partizipanten» wahr. Deshalb haben wir auch Angst vor Überwachung, vor Datenmissbrauch und vor künstlicher Intelligenz. Dabei sind die Technologien an sich nie das Problem, nur wie sie genutzt werden. Wir müssen als demokratische Gesellschaft Strukturen schaffen, in denen die Technologien sinnvoll genutzt werden können.

Und wie soll das gehen?
Das ist eine politische Frage. Vielleicht müsste man erst einmal damit anfangen, Technikpolitik ernsthaft zu betreiben, sie jenseits von Wirtschaftsförderung und Prestige zu betrachten. Augenblicklich hat man das Gefühl, dass es nur darum geht, schönere und leistungsstärkere Gadgets zu entwickeln. Die Risiken von technologischen Neuerungen erkennt man dann spät – siehe NSA-Debatte –, die eigentlichen Chancen gar nicht.

«Das, was wir jetzt an Freiheit im World Wide Web haben, ist wohl das Maximum.»
Philipp Theisohn

Wie wird sich das Netz weiterentwickeln?
Die Angst vor den Datenmonopolen ist – nicht zu Unrecht – sehr gross geworden. Ich rechne damit, dass es in Zukunft wesentlich mehr lokale Barrieren, einen Zuwachs an kostenpflichtigen Zugängen geben wird. Das hätte zur Folge, dass Informationen stärker kanalisiert werden.

Das wäre fatal. Das grosse Versprechen der Freiheit im Netz könnte nicht gehalten werden.
Ja. Aber daneben werden sich alternative Netzformen entwickeln im Stile des Deep Webs, die durch Verschlüsselung anonym und abhörsicher sein werden. Das ist aber nur möglich, wenn die Leute selber Verschlüsselungen vornehmen können. Denn auch Anbieter wie etwa Threema, die einen verschlüsselten Austausch von Nachrichten ermöglichen, bieten keine eigentliche Lösung für das Vertrauensproblem. Denn die Nutzer müssen den Anbietern vertrauen, dass ihre Dienste sicher sind. Garantie hat aber nur, wer die Verschlüsselung selber programmiert. Programmieren könnte in Zukunft deshalb zu einer so verbreiteten Kulturtechnik wie Lesen werden.

Sie halten an der Uni Seminare zu Science-Fiction. Diese literarische Gattung war lange verschrien. Warum ist sie wichtig?
Sie hilft uns dabei, zu sehen, was auf uns zukommen könnte. Auch Ingenieure lassen sich von ihr inspirieren. Ihr grösster Nutzen besteht aber wohl darin, die vorherrschenden Strukturen der Gegenwart klarer sichtbar zu machen. Oft erkennt man erst durch die Verfremdung, also durch die Projektion in die Zukunft, wie unsere Gesellschaft funktioniert und welche Gefahren von derzeitigen Entwicklungen ausgehen.

Was ist gute Science-Fiction?
Gute Science-Fiction verstärkt nicht einfach die Trends, die jetzt vorherrschen wie beispielsweise die derzeitige Überalterung der Gesellschaft. Mit einer solchen Extrapolation macht man es sich als Science-Fiction-Autor allzu einfach, da man ausser Acht lässt, dass die Zukunft sich nicht über Trends aus der Vergangenheit wahrnehmen und definieren wird.

Was macht ein guter Science-Fiction-Autor dann?
Er sucht nach dem «Novum», das heisst nach einer Veränderung, etwa einer Technologie, die unser Leben von Grund auf verändert. Dabei geht es nur vordergründig um die Faszination einer «anderen Welt». Tatsächlich erkennen wir dabei die Grundlagen unserer eigenen gesellschaftlichen Wirklichkeit. Man schiebt unsere Gegenwart ein paar Meter weiter – und auf einmal sieht man an den Schleifspuren, was da unter der Oberfläche sich noch so alles befindet.

Welcher Science-Fiction-Autor der Vergangenheit war besonders gut, im Voraussehen der Zukunft?
Jules Verne hat bereits in den 1860er-Jahren gesehen, dass es 1960 in Paris Trams und Bankomaten gibt.

Das ist beachtlich.
Vielleicht. Es sind aber nur Gadgets und technische Entwicklungen, die er vorweggenommen hat. Wie es sich in dieser Zeit lebt – also die mentalitätsgeschichtliche Seite –, hat er nur sehr schlecht erfasst. Verne hatte Angst vor der «elektrifizierten Zukunft», er sah in der Technik eine kulturvernichtende Kraft. In seinem Roman «Paris im 20. Jahrhundert» leben bloss noch drei Menschen in Paris, die Lateinisch können, und Literatur gibt's bloss noch im Museum.

Warum ist Science-Fiction oft so pessimistisch?
Utopien zu erzählen, ist meistens ziemlich langweilig, weil sie bloss ein kleines Handlungspotenzial haben. Dystopien hingegen bieten viele Möglichkeiten für Geschichten.

«Heute geben wir unsere Daten grösstenteils selber preis und arbeiten sozusagen am Überwachungsapparat mit.»
Philipp Theisohn

Seit den Enthüllungen von Edward Snowden gibt es keinen anderen Science-Fiction-Roman, der so häufig zitiert wurde wie «1984» von George Orwell. Wie gut trifft die Zukunftsvorstellung aus dem Jahr 1948 unsere Gegenwart?
Ich würde nicht sagen, dass der Roman die Zukunft vorhergesagt hat. Es ist vielmehr umgekehrt: Der Roman liefert das Gedankenmodell, mit dem wir uns die Funktionsweise der gegenwärtigen Massenüberwachung vorzustellen versuchen. Denn wie genau überwacht wird, was genau in den Zentralen der Geheimdienste mit den Daten gemacht wird, bleibt undurchsichtig. Diese Blackbox wird nun ausgefüllt durch «1984». Vermutlich ist diese Vorstellung aber stark unterkomplex. Zumal ja bei Orwell der Aspekt der Fremdunterdrückung im Zentrum steht. Heute geben wir allerdings die Daten grösstenteils selber preis und arbeiten sozusagen am Überwachungsapparat mit.

Diese neue Version der Überwachung hat Dave Eggers in seinem 2013 erschienenen Roman «The Circle» thematisiert. Der böse «Big Brother» wird hier quasi zum lieben Onkel, dem wir unsere Daten aus Bequemlichkeit und falscher Fortschrittshysterie selber anvertrauen. Ist sie realistischer?
(Überlegt lange.) Ich halte das Buch für ein wenig gefährlich. Es ist ein Roman, der sehr stark auf Verschwörungstheorien basiert. Das Buch schürt die Angst davor, dass es einen bösen Geist gibt, der unsere Daten will, uns aussaugt und wir nichts dagegen tun können. Die Paranoia von Technik wird massiv verstärkt.

Der Roman warnt uns so vor einer möglicherweise bevorstehenden, gefährlichen Entwicklung. Das kann man durchaus positiv sehen.
Das Problem ist, dass der Roman keine Alternative aufzeigt, wie man diese Struktur aufbrechen könnte.

Welcher Roman trifft dann unsere Zeit besser?
Viel spannender finde ich «Daemon» von Daniel Suarez. In diesem Roman geht es um eine künstliche Intelligenz (KI), die von einem Gamedesigner entwickelt wurde und die sich nach dessen Tod im Internet auszubreiten beginnt. Sie analysiert die sozialen Netzwerke und dringt in Server von Firmen ein. Dieses Wissen nutzt sie, um an der Börse Gewinne zu erwirtschaften, Firmen zu erpressen und aufzukaufen. Der Clou dabei: Das ist ganz gut. Denn die KI erschafft so letztlich ein besseres Wirtschaftssystem.

Die KI als Heilsversprechen. Das scheint mir mindestens so gefährlich. Wenn es uns gelingt, eine künstliche Superintelligenz zu entwickeln, könnte es diese ja auch schlecht mit uns meinen und uns zerstören.
Ich würde nicht von einem Heilsversprechen reden. Aber künstliche Intelligenzen werden in Zukunft an Bedeutung gewinnen. Das Problem der KI ist nicht, ob sie es gut meint mit uns, denn sie kann gar nichts meinen. Die Frage ist, wie fehleranfällig sie sein wird. Auch eine KI ist wie jede Technologie neutral, und wir können sie zu guten oder zu schlechten Zwecken nutzen.

Das sehen nicht alle so. Forscher wie etwa der Philosoph Nick Bostrom sind daran, künstlichen Intelligenzen Ethik beizubringen, damit eine KI keine autonomen Entscheidungen trifft, die unserer Moralvorstellungen zuwiderläuft.
Wenn wir versuchen, Ethik logisch abzubilden, was ja wohl nötig wäre, um sie einer KI beizubringen, könnte das auch einen Effekt auf unsere Moralvorstellung haben. Es könnte unser Denken technisieren und unsere Moralvorstellung rationalisieren.

 

Jetzt auf

Das wiederum könnte unser Wesen als Menschen verändern. Könnte das einer dieser Zukunftsschocks werden, von denen wir eingangs gesprochen haben?
In der Tat wäre das ein echter «Future Shock». Bislang blieb der aber eben nur der literarischen Fantasie vorbehalten. Denken Sie an Isaac Asimovs Robotergeschichten: Je menschlicher da die Androiden werden, je «humaner» sich die künstliche Intelligenz ausnimmt, umso berechenbarer erscheint auf der anderen Seite die menschliche Psychologie. (aargauerzeitung.ch)

Digitale Revolution: Fünf Technologien, die unseren Alltag verändern werden

1 / 7
Digitale Revolution: Fünf Technologien, die unseren Alltag verändern werden
Mehrzweckroboter Baxter: Lernt Bewegungen durch handgreifliche Anleitung.
Auf Facebook teilenAuf X teilen

 Die bekanntesten Autos und ein Blick in die Zukunft

1 / 25
Die bekanntesten Autos und ein Blick in die Zukunft
Klassiker: Der 1969er VW Käfer.
quelle: ap ny
Auf Facebook teilenAuf X teilen
DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
Das könnte dich auch noch interessieren:
3 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
3
Schau mal, was sich Mark Zuckerberg dank deinen Views und Klicks zum Geburtstag kauft 🤑
Mitte Mai wird der Facebook-Gründer und Meta-Konzernchef 40 Jahre alt. Jetzt soll sich der Multimilliardär ein frühzeitiges Geburtstagsgeschenk gemacht haben – und das ist alles andere als bescheiden.

Mit seinem Lebensstil hat Mark Zuckerberg bereits des Öfteren Empörung hervorgerufen. Kürzlich brachte der Unternehmer mit einem neuen Projekt Umwelt- und Tierschützer gegen sich auf. Auf der Hawaii-Insel Kauai wollte er Rinder der Rassen Wagyu und Angus züchten, die mit Nüssen von selbst angebauten Macadamiabäumen sowie selbst gebrautem Bier ernährt werden sollten. Dieses Vorgehen töte Tiere und den Planeten, kritisierte die Tierschutzorganisation Peta.

Zur Story