KI-Chatbots: US-Behörde untersucht Kinderschutz

US-Behörde startet Untersuchung von KI-Chatbots zum Kinderschutz

Die US-Aufsichtsbehörde FTC hat eine Untersuchung zur Sicherheit von KI-Chatbots für Kinder und Jugendliche eingeleitet. Die FTC will von mehreren Anbietern wissen, wie sie mit möglichen negativen Folgen der Technologie umgehen.

Die Anfrage der unter anderem für Verbraucherschutz zuständige Behörde ging an den ChatGPT-Erfinder OpenAI, die Google-Mutter Alphabet, den Facebook-Konzern Meta und dessen Plattform Instagram, die Snapchat-Firma Snap, Elon Musks KI-Firma xAI und den Chatbot-Entwickler Character Technologies.

Chatbots als bezahlte Freunde?

Die FTC interessiert sich speziell für Chatbots, die zu «Gefährten» im Alltag werden können, weil sie in der Lage sind, wie ein Freund oder Vertrauter zu kommunizieren. Dies könne dazu führen, dass einige Nutzerinnen und Nutzer – «insbesondere Kinder und Teenager» – eine Beziehung zu Chatbots aufbauten, warnte die Behörde.

Sie will unter anderem mehr darüber wissen, wie Unternehmen Geld mit Interaktionen von Nutzenden mit Künstlicher Intelligenz verdienen und wie sie die Persönlichkeit von Chatbots entwickeln. (sda/dpa)