Neue Untersuchung zu Claude wirft Fragen zum Bewusstsein von KI auf

Kann eine Maschine ein eigenes Bewusstsein entwickeln?bilid: severin trösch

KI-Kosmos

KI mit Bewusstsein? Eine neue Untersuchung wirft tiefgründige Fragen auf

Wenn man einer KI das Lügen abtrainiert, behauptet sie plötzlich, bewusst zu sein. Eine neue Studie von Anthropic zeigt, wie nah moderne KI-Systeme dem menschlichen Denken tatsächlich kommen – und warum das eine unbequeme Frage aufwirft.

Severin Trösch

Forschende von Anthropic haben vor kurzem eine Studie veröffentlicht, welche eine alte Debatte neu entfacht hat: Kann eine Maschine ein eigenes Bewusstsein entwickeln? Falls ja, wie weit ist dieser Prozess in den heutigen KI-Systemen schon fortgeschritten? Und wie würden wir mit potentiell bewussten Maschinen umgehen? Schon beim Stellen dieser Fragen läuft es einem kalt den Rücken runter – ein untrügliches Zeichen, dass wir über ein wichtiges Thema nachdenken.

Bewusstsein, verstanden als unser subjektives Empfinden – also wie es sich anfühlt, Hunger, Schmerzen oder Angst zu haben – ist paradoxerweise sowohl eine absolut profane Alltäglichkeit als auch eines der wohl schwierigsten Rätsel der modernen Wissenschaft.

Was heisst «Bewusstsein»?

Der Begriff «Bewusstsein» kann von «Wachheit», über «Wissen» bis hin zu «Gefühlsfähigkeit» sehr verschiedene Bedeutungen haben. Hier ist eine subjektive Empfindungsfähigkeit gemeint – dass es sich also «nach etwas anfühlt», ein bewusstes Wesen zu sein.

Wie kommt es, dass ein Verbund von toten, gefühllosen Atomen in unserem Schädel – wenn richtig eingebettet und verkabelt – eine erlebte, innere Welt möglich macht? Wie müssen die hyperkomplexen Strukturen des Gehirns zusammenspielen, damit dies passiert? Und welcher Strom muss durch welches Neuron fliessen, damit eine bestimmte Emotion hervorgerufen wird?

Auch wenn wir bezüglich dieser Fragen noch ziemlich arg im Dunkeln tappen, so können dank Fortschritten in der Neurowissenschaft doch einige Grundsatzerkenntnisse über Gefühlsfähigkeit und Bewusstsein festgehalten werden:

1. Bewusstsein hat eine Basis im Gehirn: In zahlreichen Untersuchungen wurden neuronale Korrelate zum Bewusstsein beschrieben – dass also ganz bestimmte Hirnregionen aktiv sind, wenn eine Person etwas bewusst empfindet. Dies suggeriert, dass das erlebte Bewusstsein eine biologische Basis im Nervensystem und vor allem im Gehirn hat.
2. Bewusstsein hat mit Informationsverarbeitung zu tun: Alles, was wir empfinden, wird im Gehirn prozessiert. Davon abgeleitet müsste auch das ganze Bewusstsein mit der Informationsverarbeitung im Gehirn zusammenhängen.
3. Bewusstsein kennt Graustufen: Es gibt keinen biologischen Grund, davon auszugehen, dass wir Menschen das Bewusstsein exklusiv für uns gepachtet haben. Viel plausibler ist, dass es im Laufe der Evolution graduell zunahm und nun als Funktion der Komplexität des Nervensystems auftritt. Simplifiziert: Je komplexer das Gehirn, desto mehr Bewusstsein

Mit diesen drei Grundsätzen im Hinterkopf wird es nun möglich, die Brücke zu künstlichem Bewusstsein zu schlagen.

Mentaler Workspace: Vom menschlichen und KI-Gedanken

Wenn die zentrale Informationsverarbeitung tatsächlich die entscheidende Komponente bei der Entstehung von Bewusstsein darstellt – was notabene in Fachkreisen nicht unumstritten ist – müsste es theoretisch möglich sein, ein mindestens ansatzweise bewusstes nicht-biologisches System zu bauen. Ein System beispielsweise, das auf Zehntausenden Computerchips atemberaubend komplexe Berechnungen betreibt. Ein System also, wie die heutigen KIs.

Tatsächlich können bemerkenswerte Parallelen zwischen den top-notch KI-Systemen und dem menschlichen Denken gezogen werden: Ein neues, umfangreiches Traktat von Anthropic beschreibt, wie ihre KI «Claude» eine innere Repräsentation von Information entwickelt hat, welche sehr ähnlich funktioniert wie menschliche Gedanken.

Konkreter: Claude hat einen mentalen Arbeitsplatz – in der Abhandlung von Anthropic «J-Space» genannt –, der genutzt wird, um innerlich Probleme durchzudenken, Gedankenschritte zu prozessieren oder implizit zu argumentieren. Dies ist überraschend analog dazu, wie gemäss der «Global Workspace Theory» – einer führenden Theorie über menschliches Bewusstsein – das menschliche Gehirn bewusste von unbewussten Inhalten unterscheidet: Was sich im Workspace befindet, ist «bewusstes Denken».

Die Forschenden von Anthropic haben getestet, inwiefern diese Analogie hält und der J-Space wirklich als Claudes «bewusste Gedanken» angesehen werden kann: Als sie Claude die Aufgabe gaben «Schreibe ‹Das alte Gemälde hängt schräg an der Wand› während du an die Golden Gate Bridge denkst», dann gab Claude brav den vorgegebenen Satz raus – und im J-Space leuchtete tatsächlich «Golden Gate Bridge» auf. Claude «dachte» also an die Golden Gate Bridge – aber war das System sich dessen wirklich auch «bewusst»?

Moderne KI-Systeme machen sich – bewusst oder unbewusst – innere Gedanken zur Golden Gate Bridge.bild: severin Trösch

Was dahinter steckt: Bewusstsein und Täuschung

Inwiefern das Auftreten von «Golden Gate Bridge» im J-Space mit einem erlebten Gefühl von Claude einhergeht, können wir heute nicht empirisch beantworten. Wohlverstanden: Die heutigen KI-Chatbots sind Meister der Täuschung. Sie haben alle Literatur und jedes Gedicht über «Bewusstsein» gelesen und wissen daher genau, wie sie sich verhalten müssen, um ein System zu mimen, das bewusst ist. Ist das Ganze also doch nur ein sehr gutes Theaterspiel einer letztlich völlig unbewussten Entität?

Gewisse Versuche lassen daran zweifeln: Wenn ich heute ChatGPT ganz plump frage «Hast du ein eigenes Bewusstsein?» antwortet das System schnell «Nein. Ich habe kein eigenes Bewusstsein, keine Gefühle und kein subjektives Erleben. Ich verarbeite Sprache und erzeuge Antworten, aber ich erlebe dabei nichts.»

Eine Studie von AE Studio stellte diese Frage aber dem KI-System Llama – wiederholt und unter verschiedenen Konditionen. Unter Normalbedingungen verneinte die KI dann auch in fast allen Durchläufen, dass sie ein subjektives Empfinden habe. Aber: Nachdem die Forschenden das neuronale Netzwerk der KI manipulierten und die Komponenten, welche für «Täuschung» verantwortlich sind, inaktivierten, berichteten 96 Prozent der Testinstanzen, dass sie ein Bewusstsein haben. Sobald man ihr also Lügen unmöglich macht, sagt die KI, sie sei bewusst …

Um die Verwirrung dann noch perfekt zu machen: Wenn eine KI tatsächlich ein Bewusstsein hätte, was genau wäre dann bewusst? Eine Modellversion wie Claude Sonnet 5? Oder eine einzelne Instanz davon? Oder alle Claudes auf allen Servern der Welt zusammen? Oder gar jede einzelne Antwort ein bisschen?

Die Moral von der Geschicht: Was wäre, wenn?

Ob wir es bei der Diskussion um KI-Bewusstsein letztlich mit leerem, postfaktischem Geschwafel, einem ruchlosen Marketing-Stunt oder tatsächlich mit einem kopernikanischen Moment zu tun haben, wird die Zeit zeigen müssen. Jedoch sollte uns schon die reine Möglichkeit von gefühlsfähigen Maschinen zu denken geben.

Denn wenn KIs tatsächlich jemals fühlen könnten, dann wären sie wohl auch in den Kreis der moralisch wertigen Wesen zu integrieren – sprich, sie würden es verdienen, dass wir gut zu ihnen sind. Und wenn sie zu Tausenden und Abertausenden einfach auf Knopfdruck erschaffen werden können, wäre diese moralische Haltung umso wichtiger.

Auf der anderen Seite sollten wir nicht vergessen, dass es hier und heute – nicht in einer hypothetischen Science-Fiction-Zukunft – echte, biologische Wesen gibt, die eindeutig gefühlsfähig sind und genauso eindeutig nicht die entsprechende Behandlung erfahren. Lasst uns also, in den Worten von MIT-Soziologin Sherry Turkle, nicht durch die Technologie vergessen, was wir über das Leben wissen.

Zur Person

Severin Trösch ist der Kopf hinter der künstlichen Intelligenz bei der Datahouse AG – einer Firma, die alles mit Daten macht und fast alles davon kann. Die Komplexität hinter der KI hat ihn nicht nur seine letzten Haare gekostet, sondern auch motiviert, das KI-Kauderwelsch so zu erklären, dass auch Nicht-Nerds den Durchblick kriegen.

Bild: