In der Studie wurde untersucht, ob Personen zwischen Desinformation und korrekten Informationen in Form von Tweets unterscheiden können.Bild: keystone
Forschende der Universität Zürich haben die Chancen und Risiken von ChatGPT untersucht. Alarmierendes Fazit: Wegen der Gefahr durch KI-generierte Desinformation-Kampagnen muss die Politik handeln.
29.06.2023, 09:2229.06.2023, 13:59
ChatGPT hat ein Talent für die Erstellung überzeugender Falschinformationen. In einer neuen Studie der Universität Zürich (UZH) hatten die Teilnehmenden bei KI-generierten Tweets mehr Schwierigkeiten, Fake-News zu erkennen, als bei jenen, die von Menschen verfasst wurden.
Gleichzeitig verstanden die Teilnehmerinnen und Teilnehmer aber von ChatGPT produzierte Tweets besser, wie die am Mittwochabend im Fachblatt «Science Advances» publizierte Studie zeigt.
Unterscheiden, welche Tweets von ChatGPT und welche von Menschen verfasst wurden, konnten die Studienteilnehmerinnen und -teilnehmer nicht zuverlässig. «GPT-3 ist ein zweischneidiges Schwert», heisst es in der Studie.
Was wurde untersucht?
Die Wissenschaftlerinnen und Wissenschaftler der Universität Zürich liessen für die Studie 697 Teilnehmerinnen und Teilnehmern im Alter von 26 bis 76 raten, ob ein Tweet von einem realen Twitter-Nutzer oder von ChatGPT (GPT-3) verfasst wurde. Zudem wurden die Teilnehmenden gefragt, ob die Tweets der Wahrheit entsprechen oder nicht.
Die untersuchen Themenfelder beinhalteten unter anderem die Corona-Pandemie und die Sicherheit von Impfstoffen, den Klimawandel und homöopathische Behandlungen für Krebs.
Dabei erkannten die Teilnehmenden die von Menschen verfassten Fehlinformationen mit einer Wahrscheinlichkeit von 92 Prozent, von ChatGPT erstellte hingegen nur mit einer Wahrscheinlichkeit von 89 Prozent.
Zudem dauerte es bei von Menschen verfassten Tweets im Schnitt länger, bis die Teilnehmenden feststellten, ob ein Tweet korrekt war oder nicht. Das zeigt laut der Studie, dass GPT-3 «effizienter» informiert als Menschen.
Was lernen wir daraus?
Diese Resultate deuten darauf hin, dass von GPT-3 erstellte (aber von geschulten Menschen bewertete) Informationskampagnen etwa in Krisensituationen effektiver wären, wie die UZH in einer Mitteilung zur Studie schreibt.
Die Erkenntnisse zeigten aber auch die Risiken der KI-generierten Inhalte. Den politischen Entscheidungsträgern werde deshalb empfohlen, mit strengen und ethisch fundierten Vorschriften zu reagieren, um der potenziellen Bedrohung durch diese disruptiven Technologien zu begegnen.
«Die Ergebnisse zeigen, wie entscheidend eine proaktive Regulierung ist, um potenzielle Schäden durch KI-gesteuerte Desinformationskampagnen abzuwenden.»
Nikola Biller-Andorno, Direktorin des Instituts für Biomedizinische Ethik und Geschichte der Medizin (IBME)
Das Erkennen der Risiken von generativer KI sei entscheidend «für den Schutz der öffentlichen Gesundheit und die Erhaltung eines robusten und vertrauenswürdigen Informationsökosystems im digitalen Zeitalter».
Quellen
(dsc/sda)
Fake bleibt Fake: Diese manipulierten Bilder machen im Netz immer wieder die Runde
1 / 32
Fake bleibt Fake: Diese manipulierten Bilder machen im Netz immer wieder die Runde
Haben «Die Simpsons» den Pokémon-Go-Hype vorhergesehen?
Banaler Video-Trick führt zu Glauben an Dinosaurier-Rückkehr
Video: watson
Das könnte dich auch noch interessieren:
Abgangsentschädigungen trotz Fehlern, Widerstand von links und rechts gegen das EU-Stromabkommen und die USA verweigern einer Schweizerin die Einreise: Das und mehr findet sich in den Sonntagszeitungen.
Fehlleistungen von Spitzenbeamten haben sich nach Informationen der «NZZ am Sonntag» offenbar nicht zwingend auf deren Abgangsentschädigungen ausgewirkt. Topkader sollen Abfindungen teils unabhängig davon erhalten haben, unter welchen Umständen sie den Bund verlassen haben, wie die Zeitung schrieb. Insgesamt habe der Bund von 2021 bis 2023 vierzehn Topkadern eine Abgangsentschädigung zwischen rund 49'000 Franken und gut 363'000 Franken pro Person bewilligt. Mehrere Personen hätten direkt im Anschluss eine Führungsposition im privaten Sektor übernommen. Ihre Abfindung mussten sie deswegen nicht zurückzahlen, wie die Zeitung schrieb. Die Behörden betonten laut der «NZZ am Sonntag», dass die Entschädigungen «gemäss den rechtlichen Grundlagen» entrichtet worden seien.
