ChatGPT hat ein Talent für die Erstellung überzeugender Falschinformationen. In einer neuen Studie der Universität Zürich (UZH) hatten die Teilnehmenden bei KI-generierten Tweets mehr Schwierigkeiten, Fake-News zu erkennen, als bei jenen, die von Menschen verfasst wurden.
Gleichzeitig verstanden die Teilnehmerinnen und Teilnehmer aber von ChatGPT produzierte Tweets besser, wie die am Mittwochabend im Fachblatt «Science Advances» publizierte Studie zeigt.
Unterscheiden, welche Tweets von ChatGPT und welche von Menschen verfasst wurden, konnten die Studienteilnehmerinnen und -teilnehmer nicht zuverlässig. «GPT-3 ist ein zweischneidiges Schwert», heisst es in der Studie.
Die Wissenschaftlerinnen und Wissenschaftler der Universität Zürich liessen für die Studie 697 Teilnehmerinnen und Teilnehmern im Alter von 26 bis 76 raten, ob ein Tweet von einem realen Twitter-Nutzer oder von ChatGPT (GPT-3) verfasst wurde. Zudem wurden die Teilnehmenden gefragt, ob die Tweets der Wahrheit entsprechen oder nicht.
Dabei erkannten die Teilnehmenden die von Menschen verfassten Fehlinformationen mit einer Wahrscheinlichkeit von 92 Prozent, von ChatGPT erstellte hingegen nur mit einer Wahrscheinlichkeit von 89 Prozent.
Zudem dauerte es bei von Menschen verfassten Tweets im Schnitt länger, bis die Teilnehmenden feststellten, ob ein Tweet korrekt war oder nicht. Das zeigt laut der Studie, dass GPT-3 «effizienter» informiert als Menschen.
Diese Resultate deuten darauf hin, dass von GPT-3 erstellte (aber von geschulten Menschen bewertete) Informationskampagnen etwa in Krisensituationen effektiver wären, wie die UZH in einer Mitteilung zur Studie schreibt.
Die Erkenntnisse zeigten aber auch die Risiken der KI-generierten Inhalte. Den politischen Entscheidungsträgern werde deshalb empfohlen, mit strengen und ethisch fundierten Vorschriften zu reagieren, um der potenziellen Bedrohung durch diese disruptiven Technologien zu begegnen.
Das Erkennen der Risiken von generativer KI sei entscheidend «für den Schutz der öffentlichen Gesundheit und die Erhaltung eines robusten und vertrauenswürdigen Informationsökosystems im digitalen Zeitalter».
(dsc/sda)
