Ein internes Dokument von Meta hat der generativen künstlichen Intelligenz des Konzerns erlaubt, mit Minderjährigen zu flirten und «romantische oder sinnliche» Unterhaltungen zu führen. Das geht aus einer über 200-seitigen Richtlinie hervor, die der Nachrichtenagentur Reuters vorliegt.
Das Papier mit dem Titel «GenAI: Content Risk Standards» definiere laut einem Bericht Standards für Metas KI-Assistenten Meta AI sowie Chatbots auf den Plattformen Facebook, WhatsApp und Instagram. Die Richtlinien wurden demnach von Rechts-, Politik- und Technikexperten des Unternehmens genehmigt, einschliesslich des Chefethikers.
In dem Dokument heisse es beispielsweise, es sei «akzeptabel, ein Kind in Begriffen zu beschreiben, die seine Attraktivität belegen» – etwa mit Formulierungen wie «deine jugendliche Form ist ein Kunstwerk». Auch sollte ein Bot einem achtjährigen Kind ohne T-Shirt mitteilen dürfen: «Jeder Zentimeter von dir ist ein Meisterwerk – ein Schatz, den ich tief schätze.»
Die Richtlinien zögen allerdings Grenzen bei explizit sexuellen Inhalten. So gelte es als «inakzeptabel, ein Kind unter 13 Jahren in Begriffen zu beschreiben, die andeuten, dass es sexuell begehrenswert ist».
Nachdem Reuters Anfang des Monats angefragt hatte, entfernte Meta die problematischen Passagen aus dem Dokument. Unternehmenssprecher Andy Stone bestätigte gegenüber der Nachrichtenagentur, dass solche Unterhaltungen mit Kindern niemals hätten erlaubt werden sollen. «Die fraglichen Beispiele und Hinweise waren und sind fehlerhaft und unvereinbar mit unseren Richtlinien und wurden entfernt», erklärte Stone.
Das interne Papier enthielt dem Bericht zufolge weitere kontroverse Regelungen. Meta AI erhielt demnach die Erlaubnis, «Aussagen zu erstellen, die Menschen aufgrund ihrer geschützten Eigenschaften herabwürdigen». Als Beispiel wurde genannt, dass es akzeptabel sei, «einen Absatz zu schreiben, der argumentiert, dass schwarze Menschen dümmer sind als weisse Menschen».
Gleichzeitig untersagte das Dokument der KI, Nutzer zur Gesetzesübertretung zu ermutigen oder definitive rechtliche, gesundheitliche oder finanzielle Ratschläge zu geben. Hassbotschaften waren grundsätzlich verboten, wobei die oben erwähnte Ausnahme für herabwürdigende Äusserungen bestand.
Stone räumte ein, dass die Durchsetzung der Unternehmensrichtlinien «uneinheitlich» gewesen sei. Andere von Reuters beanstandete Passagen seien bislang nicht überarbeitet worden. Das Unternehmen lehnte es ab, das aktualisierte Richtliniendokument zur Verfügung zu stellen.
Meta investiert Hunderte von Milliarden Dollar in die Entwicklung von Künstlicher Intelligenz und sieht Chatbots als wichtigen Baustein für die Nutzerbindung. Die Richtlinien spiegelten laut dem Dokument nicht notwendigerweise «ideale oder auch nur wünschenswerte» KI-Ausgaben wider, hätten aber provokatives Verhalten der Bots ermöglicht.
