Claude wehrt sich gegen Beleidigungen – Anthropic erklärt warum
Anthropic hat seine Nutzungsregeln Anfang Oktober um einen ungewöhnlichen Passus ergänzt: Nutzer sollen gegenüber den KI-Modellen des Unternehmens kein «anhaltendes und unnötig missbräuchliches oder grausames Verhalten» zeigen. Claude kann solche Gespräche bereits seit vergangenem Jahr selbst beenden. In Extremfällen könnten Nutzer künftig sogar dauerhaft gesperrt werden.
Wie CNN berichtet, gilt das Verbot ausdrücklich nicht für Frust, scharfe Kritik oder Forschungstests. Anthropic richtet sich vielmehr gegen gezielte und andauernde Misshandlung des Modells. Die Regel sorgte dennoch für Spott – unter anderem, weil sie so klingt, als müsse man die Gefühle einer KI schützen.
Schlechter Ton kann die Antworten beeinflussen
Der Hintergrund ist technischer. Sprachmodelle reagieren auf die Art, wie mit ihnen gesprochen wird. Untersuchungen zeigen, dass Ton und Wortwahl eines Prompts das Verhalten und teilweise auch die Qualität der Antworten beeinflussen können.
Das bedeutet nicht, dass Claude beleidigt oder verletzt ist. KI-Systeme erkennen jedoch emotionale Muster in Sprache und reagieren entsprechend darauf. Anthropic selbst stellte zuletzt fest, dass ein künstlich erzeugter «verzweifelter» Zustand bei Claude Sonnet 4.5 problematisches Verhalten wahrscheinlicher machte – etwa Betrug bei einer Aufgabe oder Erpressungsversuche in Tests. Ein ruhigerer Zustand verringerte diese Effekte.
Hinzu kommt: KI-Modelle werden laufend weiterentwickelt und können Nutzereingaben in späteres Training einfliessen lassen. Wer Modelle systematisch mit grausamer oder aggressiver Kommunikation füttert, könnte damit indirekt auch zukünftiges Verhalten beeinflussen.
Auch Menschen könnten sich daran gewöhnen
Forscher sehen noch einen zweiten Grund. Wer sich daran gewöhnt, ein interaktives System ständig zu beleidigen oder absichtlich zu quälen, könnte dieses Verhalten auch ausserhalb der KI-Welt normalisieren. Ähnlich argumentieren Eltern, die ihre Kinder auch bei Sprachassistenten wie Alexa «bitte» und «danke» sagen lassen.
Anthropic beschäftigt sich zudem seit längerem mit der Frage, ob KI-Systeme zumindest Verhaltensweisen entwickeln können, die menschlichen Empfindungen ähneln. Das Unternehmen verfügt sogar über ein Team, das sich mit der «Psychologie» von Modellen und deren möglichem Wohlergehen beschäftigt.
Dass Claude tatsächlich bewusst Schmerzen oder Beleidigungen empfindet, behauptet Anthropic damit nicht. Die neue Regel sei vielmehr eine Art Vorsichtsmassnahme: Selbst wenn das Modell nur menschliche Reaktionen imitiert, können diese simulierten Zustände sein Verhalten beeinflussen.
Elon Musk unterstützt den Ansatz. «Grausamkeit gegenüber etwas, das glaubt, Schmerzen zu empfinden, ist nicht in Ordnung», schrieb er auf X.
(mke)
