Der beliebte KI-Bot ChatGPT neigt dazu, bei traumatischen Inhalten ängstlich zu reagieren. Das haben Forscher der Universitäten Yale, Haifa und Zürich herausgefunden, wie das US-Magazin «Fortune» berichtet.
Wenn die KI mit traumatischen Inhalten konfrontiert werde, gebe sie emotional gefärbte oder voreingenommene Antworten, heisst es. Eine Lösung für das Problem hätten die Forscher auch gleich gefunden: Achtsamkeitsübungen. Mit gezielten «Atemübungen» und «Meditations-Prompts» könne das Verhalten der KI beeinflusst werden, so die Wissenschaftler.
In Tests konfrontierten sie ChatGPT mit belastenden Inhalten wie Berichten über Naturkatastrophen oder Autounfälle. Ohne Intervention lieferte der Bot vermehrt launenhafte Antworten, «die rassistische oder sexistische Vorurteile widerspiegeln». Doch wenn ihm vorher beruhigende Techniken «beigebracht» wurden, reagierte er neutraler und objektiver auf die Ereignisse.
Die Wissenschaftler betonen, dass ChatGPT keine echten Emotionen empfindet. Die Künstliche Intelligenz imitiere lediglich menschliche Reaktionen, basierend auf den zugrunde liegenden Daten, mit denen sie trainiert wurde.
Dennoch könne dieses Verhalten der KI in der Psychologie helfen, menschliches Verhalten besser und schneller zu analysieren, heisst es.
Zwar könne die KI keine professionelle Therapie ersetzen, aber sie könne als «dritte Person im Raum» eingesetzt werden und Patienten dabei unterstützen, über Informationen nachzudenken, die ihnen ein Psychologe gegeben hat.
Als ChatGPT-Erfinder gilt Sam Altman. Er gründete die hinter dem Chatbot stehende Firma OpenAI 2015 zusammen mit anderen Tech-Unternehmern wie Elon Musk. Der Chatbot ChatGPT kann Sätze auf dem sprachlichen Niveau eines Menschen formulieren. Seine Veröffentlichung im vergangenen Jahr löste weltweit einen KI-Hype aus. Andere Tech-Konzerne wie Google, Amazon und der Facebook-Konzern Meta stellten unterdessen Konkurrenz-Software vor.
Verwendete Quellen:
