Schöne neue KI-Welt: Wenn du ein Rezept googelst, wird dir ein ungeniessbarer Kochtipp angezeigt, der auf einem Reddit-Shitpost basiert.Bild: imago-images.de
Während der Hype um ChatGPT und Co. weiterdreht, zeigen sich immer deutlicher die Kollateralschäden. Erschreckend: Die einstmals beste Suchmaschine ist nur noch ein Schatten ihrer selbst.
24.05.2024, 11:2025.05.2024, 16:30
Ganz so schnell wie befürchtet wird künstliche Intelligenz (KI) wohl doch nicht die Weltherrschaft übernehmen und die Menschheit vernichten. Oder etwa doch?
Diese Woche sorgt die mit generativer KI aufgemotzte Google-Suche erneut für negative Schlagzeilen. Ein User hatte sich mit einem quasi existenziellen Problem an die Suchmaschine seines Vertrauens gewendet:
«Käse klebt nicht an der Pizza.»
Die KI-generierte Google-Antwort folgte prompt – und fiel allerdings ziemlich überraschend aus.
Damit Käse an einer Pizza haften bleibt, könne man der Pizzasauce «auch etwa 1/8 Tasse ungiftigen Leim hinzufügen», halluziniert Google.screenshot: google.com
Wie konnte das passieren?
Zur Erinnerung: Generative KI ist dumm und hat nichts mit künstlicher Intelligenz im engeren Sinn zu tun.
Das amerikanische Online-Medium 404, das den jüngsten Google-Fail publik gemacht hat, kommt zu einem ernüchternden Zwischenfazit: Es sehe so aus, als ob die Benutzererfahrung beim Googeln in absehbarer Zukunft eine sein werde, bei der die Suchanfragen «ein zufälliges Durcheinander aus Reddit-Shitposts, tatsächlichen Informationen und Halluzinationen» ergeben.
Und damit sind wir bei der Ursache für das Schlamassel: Der Google-Konzern Alphabet hat mit Reddit einen lukrativen KI-Deal gemacht. Demnach bezahlt Google pro Jahr 60 Millionen Dollar an die populäre Social-Media-Plattform, um die gesamten User-generierten Inhalte für eigene KI-Zwecke verwerten zu dürfen.
Die missratene Antwort auf die Kochfrage zeige, dass Googles KI tatsächlich «durch zufälligen Mist vergiftet» werde, den die Leute im Internet äussern.
«Es ist eine Anklage gegen Googles künstliche ‹Intelligenz›, nicht gegen Reddit oder die Shitposter des Internets.»
Dieses 11-jährige, scherzhafte Reddit-Posting des Users «fucksmith» könnte der Ursprung sein. Screenshot: twitter.com
Der 404-Bericht ruft in Erinnerung, dass Reddit im vergangenen Jahr den kostenlosen Zugriff auf seine Programmierschnittstelle (API) sperrte. Dieser Schritt erfolgte angeblich, weil KI-Forscher und KI-Firmen alle Inhalte auf der Plattform abgriffen, was Reddit zusätzliche Serverkosten verursachte, und – noch wichtiger – weil Dritte so von Reddit-Nutzerdaten profitierten, von denen das Unternehmen selbst profitieren wollte.
Unerfreulicher Nebeneffekt: Populäre Reddit-Apps von Drittanbietern und viele der Moderationstools, die die unbezahlten Moderatoren gemeinsam nutzen, funktionierten ohne Gratis-API-Zugriff nicht mehr. Es folgten wochenlange Proteste der Reddit-Community. Ohne Erfolg. Dann kam der KI-Deal mit Google.
PS: Reddit hat Anfang dieser Woche einen weiteren Daten-Deal abgeschlossen. Mit der grössten Datenkrake aus dem Lager der KI-Entwickler: OpenAI.
Schweizer Verleger suchen Kooperationen mit Tech-Giganten
Die Verleger der grossen Schweizer Medienhäuser suchen neue Geschäftsmodelle und Kooperationen mit den grossen internationalen Technologiekonzernen. Sie wollen keine Tech-Verhinderer sein, wie sie unisono am Swiss Media Forum in Luzern sagten.
In der sogenannten Elefantenrunde tauschten sich am Donnerstag die Chefs der grossen Medienhäuser aus: NZZ-CEO Felix Graf, SRG-Generaldirektor Gilles Marchand, TX-Group-Präsident Pietro Supino, Ringier-CEO Marc Walder und CH-Media-CEO Michael Wanner.
Wenn das Publikum einen Chat fragen wolle, um Antworten zu bekommen, dann müsse man dafür sorgen, «dass sie die Antworten bei uns bekommen und nicht irgendwo anders», sagte Walder. Ringier habe deshalb eine Kooperation mit Google lanciert. Diesen Weg sei etwa auch das «Wall Street Journal» gegangen, das eben erst einen Vertrag mit dem Software- und KI-Unternehmen OpenAI abgeschlossen habe.
CH Media – das watson-Mutterhaus – habe derzeit keine Kooperation dieser Art im Köcher, sagte Wanner. Aber der Weg müsse immer irgendwo zwischen Kooperationen und Klagen im Ausland liegen. (sda)
Quellen
Aktuelle Gefahren und zukünftige Risiken von KI
1 / 13
Aktuelle Gefahren und zukünftige Risiken von KI
Das ist der britisch-kanadische Informatiker und Psychologe Geoffrey Hinton, er gilt als «Pate» der künstlichen Intelligenz. Der renommierte Wissenschaftler warnt aber auch eindringlich vor den aktuellen und zukünftigen Gefahren der neuen Technologie ...
quelle: keystone / noah berger
Italienischer Astronaut bestellt Pizza ins All
Video: srf
Das könnte dich auch noch interessieren:
Die St. Galler Stadtpolizei ruft die geltenden Regeln in Erinnerung.
Ein Mann hat am Mittwochabend beim ersten Spiel der Frauen-Fussball-Europameisterschaft in St.Gallen eine Drohne im Umfeld der Spielstätte fliegen lassen. Der 30-Jährige brach damit das absolute Flugverbot während der Spieltage. Er wurde angezeigt.
Derweil die KI: "Tut ein wenig Leim in euer Essen!"
Richtig lustig wird das in nächster Zeit: Immer mehr Inhalte im Internet sind belanglose, generierte "Content Marketing"-Texte. Damit trainieren die Modelle und äussern noch mehr Unsinn, der dann wieder veröffentlicht wird und als Trainingsmaterial dient...