KI-Chatbots und Nachrichten: Woher ChatGPT und Co ihre Quellen nehmen

KI-Chatbots und Nachrichten: Woher ChatGPT und Claude ihre Quellen nehmen

Millionen Menschen nutzen KI-Chatbots für Nachrichten. Eine Studie zeigt, dass die Systeme aus wenigen Quellen schöpfen und nicht offenlegen, wie sie diese auswählen.

Marcel Horzenek / t-online

Ein Artikel von

Welche Nachrichtenquellen ziehen KI-Systeme wie ChatGPT und Claude heran, wenn Nutzer sie nach aktuellen Ereignissen fragen? Die Berliner Denkfabrik Agora Digitale Transformation stellte fünf verbreiteten Systemen Fragen zu politischen und gesellschaftlichen Themen und wertete mehr als 4'500 Quellenverweise aus.

Das Ergebnis: Die Systeme stützen sich auf eine schmale Auswahl an Quellen und gewichten diese je nach Anbieter unterschiedlich. Nach welchen Kriterien sie das tun, wird dabei nicht offengelegt. Einige reichweitenstarke Angebote tauchten beispielsweise sehr häufig auf, während knapp die Hälfte der 544 erfassten Internetadressen nur einmal vorkam.

Kooperation und politische Schlagseite

Besonders ausgeprägt war die Konzentration bei ChatGPT, wo «welt.de» die Rangliste klar anführte. Die Autorinnen der Studie führen das auf die seit 2023 bestehende Kooperation zwischen dem Betreiber OpenAI und dem Axel-Springer-Verlag zurück. 53 Prozent der von ChatGPT genutzten journalistischen Quellen stammten zudem aus dem konservativen und rechten Spektrum; eine so klare Tendenz habe kein anderes System gezeigt.

OpenAI wies den Zusammenhang zurück. Welche Quellen erscheinen, hänge allein von der Relevanz für die Frage, nicht von einer Vereinbarung mit einem Verlag ab. Die politische Ausrichtung verschob sich der Studie zufolge je nach Thema. Google Gemini wirke insgesamt ausgewogen, greife beim Thema Klima aber überdurchschnittlich oft auf konservative und rechte Quellen zurück. Für Nutzer sei das nicht erkennbar.

Claude verweist auf russische Desinformation

Beim System Claude des Anbieters Anthropic zeigte sich ein weiterer Befund: Es verwies im Untersuchungszeitraum siebenmal auf Seiten des sogenannten Pravda-Netzwerks, das vom Digital Forensic Research Lab als russisches Desinformationsnetzwerk eingestuft wird. Diese Verweise standen unmarkiert neben journalistischen Quellen, sodass Nutzer sie kaum als Desinformation erkennen könnten.

Anthropic erklärte auf Anfrage, man arbeite daran, Claude politisch ausgewogen zu gestalten und gegensätzliche Standpunkte gleichwertig zu behandeln.

Die Studie verweist auch auf wirtschaftliche Folgen. Weil die Systeme fertige Antworten liefern, rufen viele Nutzer die Originalquellen nicht mehr auf. Seit Google KI-Zusammenfassungen in die Suche integriert hat, verlieren deutsche Internetseiten rund 265 Millionen Klicks pro Monat; das setze vor allem kleinere Medien unter Druck.

Offene Rechtsfragen

Anders als Redaktionen unterliegen die KI-Anbieter keinen journalistischen Sorgfaltspflichten. Wie weit sie für ihre generierten Inhalte haften, ist erst in Ansätzen geklärt. Das Landgericht München I untersagte Google im Mai per einstweiliger Verfügung, in seiner KI-Übersicht in der Suche unwahre Behauptungen über zwei Verlage zu verbreiten. Das Gericht wertete die Zusammenfassung als eigenständige Äusserung des Konzerns, nicht als blosse Anzeige fremder Inhalte. Rechtskräftig ist das Urteil nicht.

Bestehende Regeln wie der Digital Services Act oder die KI-Verordnung greifen nach Einschätzung der Autorinnen bislang nicht vollständig, weil sie das Verbreiten fremder Inhalte regeln, nicht deren Verarbeitung zu einer eigenen Antwort. Die Autorinnen fordern daher, die Anbieter zur Offenlegung ihrer Auswahlkriterien und bestehender Kooperationen mit Medienhäusern zu verpflichten. Nutzern raten sie, die Quellen von KI-Antworten nach Möglichkeit selbst zu prüfen.

Verwendete Quellen:

• agoradigital.de: "Wenn KI-Systeme Nachrichten auswählen"