Viele Firmen setzen mittlerweile auf KI-Chatbots, die einfache Kundenanfragen bewältigen sollen. Meist ist das praktisch, aber wie sich zeigt, sind auch Chatbots nicht unfehlbar. Im SRF-Konsumentenmagazin Espresso wird ein Fall thematisiert, bei dem sich der Chatbot irrte.
Dabei ging es um eine 14-Jährige, die mit ihrer Klasse nach Frankreich in einen Sprachaufenthalt fuhr. Vor der Reise klärte ihr Vater bei der Salt-Tochter Gomo ab, ob sie im Ausland mobile Daten nutzen kann.
Der Chatbot der Website erklärte, dass ein Datenpaket von 3 Gigabyte im Abo inbegriffen sei. Dieses Datenvolumen schöpfte die Jugendliche gemäss Bericht nicht aus.
Doch nach der Reise erhält die Familie eine Rechnung über 44 Franken für Roaming-Gebühren. Also wandte sich der Vater erneut an Gomo. Diesmal bestand er auf den Kontakt mit einem Menschen. Der Berater erklärte ihm, er hätte sich nicht mit einem Bot austauschen sollen, sondern direkt einen Menschen verlangen sollen, schreibt SRF. Das sieht der Vater anders. Gomo habe den Bot mit Daten gefüttert und müsse deshalb haften.
Doch statt ihm entgegenzukommen, erhält der Vater ein Angebot für ein 5 Franken teureres Abo, dafür müsse er die Roaming-Gebühren nicht bezahlen. Auf Anfrage des Konsumentenmagazins reagiert die Mutterfirma Salt: «In diesem Fall kam es tatsächlich zu einer falschen Auskunft des Chatbots. Er hat zwei unterschiedliche Informationen in der Produktbeschreibung miteinander vermischt bzw. verwechselt», wird aus der Stellungnahme zitiert. Mittlerweile sei der Fehler behoben. Die Roaming-Kosten würden in diesem Fall erlassen.
Doch Gomo ist kein Einzelfall. Auch bei anderen Plattformen haben Falschinformationen von Chatbots schon zu unerwarteten Rechnungen geführt. Etwa bei Ricardo, wie der «Beobachter» kürzlich berichtete. Ein Verkäufer eines E-Bikes wollte wissen, ob er Gebühren zahlen muss, wenn er das Velo verkauft. Die Antwort von KI: Nein. Das war falsch. Die nachfolgende Rechnung von 70 Franken wurde ihm jedoch erst erlassen, als der Beobachter bei Ricardo nachhakte.
Digitalexperte Martin Steiger sieht die Firmen in der Pflicht: «Ich bin der Meinung, dass ein Unternehmen für den Chatbot gradestehen müsste», wird er von SRF zitiert. Den Chatbots müsse man gleich wie Mitarbeitenden am Telefon vertrauen können.
Für rechtliche Klarheit könnte beispielsweise eine Schweizer KI-Regulierung schaffen. Doch diese ist bei Bund und Parlament erst in Arbeit. Eine Vernehmlassungsvorlage soll bis Ende 2026 erstellt werden.
(vro)
