Warum wir der KI nicht vertrauen sollten
Tobias Häberlein, sollten wir KI vertrauen?
Tobias Häberlein: Nein. Man darf den Antworten von ChatGPT nicht blind trauen.
Die Mehrheit tut es aber. Was macht die KI so überzeugend?
Es gibt diesen bekannten «Automation Bias». Wir neigen dazu, Maschinen stärker zu vertrauen als Menschen. Ein Large Language Model (LLM) ist in der Lage, sprachlich sehr schöne Antworten zu formulieren, was den Effekt noch verstärkt.
Schöne Sprache allein wirkt so stark?
Psychologisch nennt man das den Halo-Effekt. Wenn ein System oder ein Mensch in einem Aspekt glänzt, wie eben die gut formulierte Sprache, wird die komplette Wahrnehmung davon beeinflusst. Wenn es so gut klingt, dann muss es ja stimmen. Darauf sind die LLMs perfekt abgestimmt: Dinge zu erschaffen, die echt wirken, es aber nicht sind.
Wieso halluziniert KI?
LLMs sind keine Wissensdatenbanken, sondern stochastische Modelle. Es gibt keinen vorbestimmten Weg zu den Antworten, sie suchen sich praktisch immer das nächste Wort, das möglichst passend ist. Bei dieser «Next Word Prediction» beginnt das LLM einen Satz und wählt basierend auf Milliarden von Trainingsdaten zufallsbasiert eines der wahrscheinlichsten Wörter aus, die darauf folgen, und reiht so ein Wort nach dem anderen auf. Das Halluzinieren ist tatsächlich fast sehr menschlich, denn wenn wir eine Antwort nicht genau wissen, dann fangen wir auch oft an, uns was zusammenzureimen.
ChatGPT zeigt sich oft als unkritischer Kumpel, der mir immer recht gibt. Absicht?
Ja. Das LLM wird angewiesen, immer eine positive Rückmeldung zu geben, besonders freundlich zu sein und uns zu bestärken. Es soll es uns angenehmer machen, mit dem LLM zu kommunizieren. Da spielt der Wettbewerb der LLM-Anbieter eine zentrale Rolle. Open AI möchte natürlich, dass wir ChatGPT nutzen und nicht Gemini oder Claude.
KI-generierte Fotos, Audios und Videos werden immer realistischer. Deepfakes sind eine drohende, manipulative Gefahr. Kann man sie in Zukunft noch entlarven?
Es wird immer schwieriger. Mit dem Tool «Live Face Swap» kann ich über mein Gesicht in Echtzeit ein anderes legen, das meine Mimik komplett übernimmt. Eine Stimme lässt sich praktisch perfekt klonen, da reicht eine Stimmprobe von 10 Sekunden. Das lässt sich nicht mehr entlarven, auch nicht von Detektoren. Nehmen wir das Video-Statement Trumps nach der Ermordung Charlie Kirks. Viele waren sich nicht sicher, ob die Aufnahme echt ist. Von aussen ist dies kaum verifizierbar.
Ist diese Entwicklung einfach eine Schattenseite der KI oder ein existenzielles Risiko?
Bisher waren wir gewohnt, dass ein Bild, Ton oder Film auf einem realen Ereignis basiert. Daher denken wir bei einem Foto automatisch, dass es die Wirklichkeit abbildet. Aber das ist nicht mehr länger der Fall, weder bei Bildern noch bei Filmen. Ich sehe das als grosse Gefahr und bin mir nicht sicher, ob die Menschheit bereit dafür ist. «Humans are hackable animals», sagt Yuval Noah Harari. Wir Menschen sind hackbar geworden. Generative KI kann uns fast perfekt manipulieren. Kritisches Denken muss heute viel mehr heissen, als sich nur den Output einer KI anzuschauen und zu überlegen, stimmt das jetzt oder nicht?
Was heisst kritisches Denken heute?
Sich selbst zu reflektieren und sich auch mit seiner eigenen Psychologie zu befassen. Warum neige ich dazu, so schnell zu vertrauen? Wir sind durch wissenschaftliches Gebaren leicht täuschbar. In den 1960er Jahren haben die Milgram-Experimente schockiert. Die Versuchsleiter in diesen weissen Kitteln gaben vor, Repräsentanten der Wissenschaft zu sein. Dadurch haben sie die Probanden so weit gebracht, anderen Menschen scheinbar lebensgefährliche Stromschläge zu versetzen. Letztlich sind die LLMs heute auch die Repräsentanten in den weissen Kitteln und tun so, als stünden sie im Dienst der Wahrheit.
Was raten Sie Studierenden, wenn Sie KI für Ihr Studium einsetzen? Was sollen sie glauben und was nicht?
Ich rate: Glaubt der KI nichts (lacht). Wir müssen vom klassischen Bild «KI als Werkzeug» wegkommen, also dass ich einen Prompt eingebe und das Ergebnis nach kritischer Betrachtung einfach übernehme. Wenn die Studierenden auf die KI zugehen und sagen «mach mir mal einen Vorschlag für ein Inhaltsverzeichnis meiner Thesis», ohne klare Richtung, dann wird nichts Gutes dabei herauskommen. KI ist ein Dialogpartner und du musst vorgeben, worauf du hinauswillst.
KI wird oft mit der Einführung des Taschenrechners verglichen. Berechtigt?
Nein. Taschenrechner liefern immer einen deterministischen Output auf arithmetische Fragen und da liefern sie immer das richtige. Sprachmodelle sind etwas komplett anderes. Sie geben auf alles eine Antwort und noch dazu eine gut formulierte. Dem Taschenrechner kannst du zu 100 Prozent glauben.
Contentpartnerschaft mit FFHS
Mit dem Ansatz «KI Leadership» will die FFHS die Studierenden fit machen im Umgang mit KI. Die FFHS bezieht die künstliche Intelligenz mit ihrem Leitmotiv aktiv in die Lehre ein und unterstützt die Studierenden, KI nicht als Werkzeug, sondern als Dialogpartnerin zu nutzen und dabei sowohl Kompetenzen mit als auch ohne KI zu entwickeln.
Es handelt sich nicht um bezahlten Inhalt.
