Schöne neue KI-Welt: Wenn du ein Rezept googelst, wird dir ein ungeniessbarer Kochtipp angezeigt, der auf einem Reddit-Shitpost basiert.Bild: imago-images.de
Während der Hype um ChatGPT und Co. weiterdreht, zeigen sich immer deutlicher die Kollateralschäden. Erschreckend: Die einstmals beste Suchmaschine ist nur noch ein Schatten ihrer selbst.
24.05.2024, 11:2025.05.2024, 16:30
Folge mir
Ganz so schnell wie befürchtet wird künstliche Intelligenz (KI) wohl doch nicht die Weltherrschaft übernehmen und die Menschheit vernichten. Oder etwa doch?
Diese Woche sorgt die mit generativer KI aufgemotzte Google-Suche erneut für negative Schlagzeilen. Ein User hatte sich mit einem quasi existenziellen Problem an die Suchmaschine seines Vertrauens gewendet:
«Käse klebt nicht an der Pizza.»
Die KI-generierte Google-Antwort folgte prompt – und fiel allerdings ziemlich überraschend aus.
Damit Käse an einer Pizza haften bleibt, könne man der Pizzasauce «auch etwa 1/8 Tasse ungiftigen Leim hinzufügen», halluziniert Google.screenshot: google.com
Wie konnte das passieren?
Zur Erinnerung: Generative KI ist dumm und hat nichts mit künstlicher Intelligenz im engeren Sinn zu tun.
Das amerikanische Online-Medium 404, das den jüngsten Google-Fail publik gemacht hat, kommt zu einem ernüchternden Zwischenfazit: Es sehe so aus, als ob die Benutzererfahrung beim Googeln in absehbarer Zukunft eine sein werde, bei der die Suchanfragen «ein zufälliges Durcheinander aus Reddit-Shitposts, tatsächlichen Informationen und Halluzinationen» ergeben.
Und damit sind wir bei der Ursache für das Schlamassel: Der Google-Konzern Alphabet hat mit Reddit einen lukrativen KI-Deal gemacht. Demnach bezahlt Google pro Jahr 60 Millionen Dollar an die populäre Social-Media-Plattform, um die gesamten User-generierten Inhalte für eigene KI-Zwecke verwerten zu dürfen.
Die missratene Antwort auf die Kochfrage zeige, dass Googles KI tatsächlich «durch zufälligen Mist vergiftet» werde, den die Leute im Internet äussern.
«Es ist eine Anklage gegen Googles künstliche ‹Intelligenz›, nicht gegen Reddit oder die Shitposter des Internets.»
Dieses 11-jährige, scherzhafte Reddit-Posting des Users «fucksmith» könnte der Ursprung sein. Screenshot: twitter.com
Der 404-Bericht ruft in Erinnerung, dass Reddit im vergangenen Jahr den kostenlosen Zugriff auf seine Programmierschnittstelle (API) sperrte. Dieser Schritt erfolgte angeblich, weil KI-Forscher und KI-Firmen alle Inhalte auf der Plattform abgriffen, was Reddit zusätzliche Serverkosten verursachte, und – noch wichtiger – weil Dritte so von Reddit-Nutzerdaten profitierten, von denen das Unternehmen selbst profitieren wollte.
Unerfreulicher Nebeneffekt: Populäre Reddit-Apps von Drittanbietern und viele der Moderationstools, die die unbezahlten Moderatoren gemeinsam nutzen, funktionierten ohne Gratis-API-Zugriff nicht mehr. Es folgten wochenlange Proteste der Reddit-Community. Ohne Erfolg. Dann kam der KI-Deal mit Google.
PS: Reddit hat Anfang dieser Woche einen weiteren Daten-Deal abgeschlossen. Mit der grössten Datenkrake aus dem Lager der KI-Entwickler: OpenAI.
Schweizer Verleger suchen Kooperationen mit Tech-Giganten
Die Verleger der grossen Schweizer Medienhäuser suchen neue Geschäftsmodelle und Kooperationen mit den grossen internationalen Technologiekonzernen. Sie wollen keine Tech-Verhinderer sein, wie sie unisono am Swiss Media Forum in Luzern sagten.
In der sogenannten Elefantenrunde tauschten sich am Donnerstag die Chefs der grossen Medienhäuser aus: NZZ-CEO Felix Graf, SRG-Generaldirektor Gilles Marchand, TX-Group-Präsident Pietro Supino, Ringier-CEO Marc Walder und CH-Media-CEO Michael Wanner.
Wenn das Publikum einen Chat fragen wolle, um Antworten zu bekommen, dann müsse man dafür sorgen, «dass sie die Antworten bei uns bekommen und nicht irgendwo anders», sagte Walder. Ringier habe deshalb eine Kooperation mit Google lanciert. Diesen Weg sei etwa auch das «Wall Street Journal» gegangen, das eben erst einen Vertrag mit dem Software- und KI-Unternehmen OpenAI abgeschlossen habe.
CH Media – das watson-Mutterhaus – habe derzeit keine Kooperation dieser Art im Köcher, sagte Wanner. Aber der Weg müsse immer irgendwo zwischen Kooperationen und Klagen im Ausland liegen. (sda)
Quellen
Aktuelle Gefahren und zukünftige Risiken von KI
1 / 13
Aktuelle Gefahren und zukünftige Risiken von KI
Das ist der britisch-kanadische Informatiker und Psychologe Geoffrey Hinton, er gilt als «Pate» der künstlichen Intelligenz. Der renommierte Wissenschaftler warnt aber auch eindringlich vor den aktuellen und zukünftigen Gefahren der neuen Technologie ...
quelle: keystone / noah berger
Italienischer Astronaut bestellt Pizza ins All
Video: srf
Das könnte dich auch noch interessieren:
Mit der Erweiterung «Shadow of the Erdtree» wird das preisgekrönte Action-Rollenspiel «Elden Ring» am 21. Juni 2024 seine erste und letzte Erweiterung erhalten. Wir konnten bereits vorab in die neuen Inhalte eintauchen und uns anschauen, ob der lang ersehnte DLC den hohen Erwartungen der Fans gerecht wird.
Spätestens seit dem Release von «Elden Ring» in 2022 ist der japanische Entwickler FromSoftware im Mainstream angekommen. Trotz des für viele Spieler abschreckend hohen Schwierigkeitsgrads konnte jedes Spiel der «Dark Souls»-Reihe mehr Spieler begeistern als das vorherige. «Elden Ring» legte den Fokus erstmalig auf eine komplett offene Spielwelt und noch grössere spielerische Freiheit und lockte damit ganze 23 Millionen Spieler in die Fantasy-Welt der Zwischenlanden.
Derweil die KI: "Tut ein wenig Leim in euer Essen!"
Richtig lustig wird das in nächster Zeit: Immer mehr Inhalte im Internet sind belanglose, generierte "Content Marketing"-Texte. Damit trainieren die Modelle und äussern noch mehr Unsinn, der dann wieder veröffentlicht wird und als Trainingsmaterial dient...