Suchmaschinen-KI behauptet, Trump sei an Tollwut gestorben – nach Biss durch Vize
Die KI-Suchfunktion von DuckDuckGo hat fälschlicherweise angegeben, dass Donald Trump an Tollwut gestorben sei. Und dies nach einem absichtlichen Biss durch den Vizepräsidenten JD Vance, der der Suchmaschinen-KI zufolge kurz zuvor an der Infektionskrankheit gestorben sei.
«Futurism», ein US-amerikanisches Online-Magazin für Wissenschaft und Technologie, hat den Fall am Donnerstag publik gemacht. Begleitet von einer Illustration, die den amtierenden US-Präsidenten mit Schaum vor dem Mund zeigt.
Vergiftete Trainingsdaten
Tatsächlich ergänzte die Suchmaschinen-KI die an sich schon verrückte Geschichte noch um die Behauptung, der US-Gesundheitsminister Robert F. Kennedy Jr. habe zu der Infektion geraten, weil sie angeblich «Superkräfte» verleihe.
Keine dieser Aussagen entspricht natürlich der Wahrheit. Es handelt sich vielmehr um eine gezielte Sabotage-Aktion von KI-Kritikern, die sich bei Reddit zusammengetan haben.
Im Subreddit «r/poisonai» veröffentlichen rund 45'000 Mitglieder massenhaft und regelmässig absurde Behauptungen. Mit dem Ziel, KI-Sprachmodelle, die stark auf Reddit-Daten zurückgreifen, mit falschen Angaben zu vergiften.
Dies wird als «Data Poisoning» bezeichnet.
«Futurism» kommentiert dazu:
Tatsächlich verkaufen zahlreiche Plattformbetreiber ihre Inhalte und User-Daten an KI-Entwicklerfirmen – nachdem diese den Nutzungsbedingungen zugestimmt hatten.
Die KI der unabhängigen Suchmaschine DuckDuckGo bezog die Fake News nicht nur direkt von Reddit, sondern zitierte als vermeintliche Quelle eine Lokalnachrichten-Website. Dabei handelte es sich jedoch um ein KI-generiertes Portal, das seinerseits die Scherzbeiträge von Reddit automatisiert zu scheinbar seriösen Meldungen verarbeitete.
Auch Brave betroffen
Die Manipulation betraf nicht nur DuckDuckGo. Auch die KI-Suchfunktion des Browsers Brave griff die Falschmeldung über den angeblichen Tollwut-Tod von JD Vance auf und bestätigte sie als verifiziert, berichtete Futurism.
Ein Sprecher von Brave verteidigte die fehlerhaften KI-Antworten mit dem Argument, Suchmaschinen seien keine «Orakel der Wahrheit». Es liege weiterhin in der Verantwortung der User, die Angaben kritisch zu überprüfen.
DuckDuckGo liess eine entsprechende Medienanfrage unbeantwortet, reagierte aber auf Reddit und kommentierte mit dem offiziellen Firmen-Account: «Okay, da haben wir es vermasselt. 🦆 Wir kümmern uns darum.»
Anzumerken ist, dass DuckDuckGo keine Sprachmodelle entwickelt. Die Suchmaschine fungiert als datenschutzfreundliche Plattform und bietet mit Duck.ai eine Schnittstelle für KI-Anfragen. Dadurch erhalten die User die Möglichkeit, verschiedene Sprachmodelle von Drittanbietern wie OpenAI ohne Registrierung zu nutzen.
PS: Logisch, dass die Reddit-User auch die Aufregung um den von starkem Algenbefall betroffenen Reflecting Pool, das bekannte Wahrzeichen in Washington D.C., aufgriffen.
Quellen
Das könnte dich auch interessieren
- Darum könnte die neue Schweizer Armeepistole zum Rohrkrepierer werden
- Die Pistole, die auf ihre Besitzer schiesst – die unfassbar lange Liste der P320-Vorfälle
- Recherche zur neuen Armeepistole P320 zeigt: Eigentlich sollte Glock zum Zug kommen
- watson-Recherche zeigt: So schlecht schnitt die neue Armeepistole in den Tests ab
- Armeepistole erfüllte die Muss-Kriterien nicht – dann schritt der Rüstungschef ein
- Wie aus der P320 eine treffsichere und zuverlässige Armeepistole werden soll
- Die Politik entscheidet über die neue Armeepistole – es droht ein gefährliches Signal
- Bürgerlicher Ständerat attackiert Medien – statt Kritik an P320-Pistole ernst zu nehmen
