Sie wollen ein Hotelzimmer buchen, wählen eine Unterkunft aus, geben den Reisezeitraum an und klicken auf Reservieren. Kurz vor der Buchungsbestätigung poppt eine Fehlermeldung auf: «Es tut uns leid, aber wir können Ihren Reservierungswunsch leider nicht berücksichtigen. Sie haben in den letzten sechs Monaten Pornos geschaut und in sozialen Netzwerken Hasskommentare gepostet. Versuchen Sie es später noch einmal.»
Was wie aus einem Science-Fiction-Roman klingt, könnte schon bald Realität werden. Der Zimmervermittler Airbnb hat ein Patent auf ein System mit Künstlicher Intelligenz angemeldet, das Kunden vor der Buchung einem Online-Screening unterzieht. Wie die englische Zeitung «Evening Standard» berichtet, soll die Software Internetseiten wie etwa soziale Netzwerke durchsuchen, um daraus Verhaltens- und Persönlichkeitsmerkmale abzuleiten.
Auf dieser Grundlage soll dann die Vertrauenswürdigkeit errechnet werden – eine Wertung, ein Score, die Auskunft darüber gibt, ob der Gast rechtschaffen ist. Wer zum Beispiel mit Fake-Accounts in Verbindung steht oder auf Hassplattformen unterwegs ist, bekommt Punktabzüge und womöglich Schwierigkeiten bei der Buchung. Auch Pornographie und «negative Sprache» wirken sich laut dem Patentantrag negativ auf das Scoring aus.
Die Plattform will sich damit absichern und die Versicherungssumme in Schadensfällen niedrig halten. Immer wieder gab es in der Vergangenheit Berichte über Vandalismus und Sexorgien in Airbnb-Wohnungen. Mal wurden Möbel aus dem Fenster geworfen oder ganze Wohnungen verwüstet. Die Vermieter fühlen sich von Airbnb häufig im Stich gelassen. Mit einer Online-Recherche, so die Idee, könnte man Vandalen und Partylöwen bereits im Vorfeld ausfindig machen.
Zwar betonte Airbnb auf eine Anfrage des «Spiegel», dass das Tool nicht genutzt werde. Der Konzern melde regelmässig Patente an, was aber nicht bedeute, dass diese auch umgesetzt werden. Doch schon heute führt der Zimmervermittler eine Risikobewertung sowie Background-Checks seiner Gäste durch. «Wir nutzen Vorhersagemethoden und maschinelles Lernen, um auf der Stelle Hunderte von Signalen auszuwerten, die uns dabei helfen, verdächtige Aktivitäten zu erkennen und zu unterbinden, noch bevor sie eintreten», heisst es auf der Webseite von Airbnb. Und weiter: «Wir führen weltweit bei allen Gastgebern und Gästen einen Abgleich mit Behörden-, Terroristen- und Sanktionslisten durch – auch wenn natürlich kein Überwachungssystem perfekt ist.»
In den USA gibt es Hunderte geheimer Scores. Sie entscheiden zum Beispiel, wie lange man in der Warteschleife einer Telefonhotline verbleibt und ob man Artikel in einem Geschäft umtauschen kann. Das «Wall Street Journal» enthüllte, dass zahlreiche Unternehmen, darunter Instacart, Yelp und Airbnb, auf einen Vertrauenswürdigkeitsscore zurückgreifen, um die Bonität ihrer Kunden zu bewerten.
Der «Sift Score», der sich aus über 16 000 Signalen errechnet, soll beispielsweise Kreditkartenbetrug verhindern. Kleinste Verhaltensänderungen wie ein Browserwechsel können den Wert beeinflussen. Jeder Klick wird von Big-Data-Algorithmen ausgewertet. Dieses Bonus- und Malussystem erinnert an das Sozialkreditsystem in China.
Auch Airlines ranken dem Bericht zufolge ihre Passagiere. Häufige Beschwerden können sich negativ auf den Score auswirken. Denn: Das Beschwerdemanagement kostet Geld. Wer dagegen nie die Kundenhotline anruft, wird in der Warteschleife priorisiert und erhöht seine Chancen auf ein Upgrade in die Business Class. Es sind subtile Bevorzugungen und Benachteiligungen, die rechtlich noch nicht die Schwelle zur Diskriminierung überschreiten und sich in der Praxis kaum beweisen lassen. Das Unternehmen kann sich immer noch darauf berufen, dass die Priorisierung reiner Zufall sei. Das Problem: Die Scores wie auch die Bewertungskriterien werden dem Kunden nicht transparent gemacht.
Längst interessieren sich auch Behörden für Internetaktivitäten. Touristen, die in die USA einreisen wollen, müssen seit Juni vergangenen Jahres bei der Visumbeantragung ihre Social-Media-Accounts, E-Mail-Adressen und Mobilnummern der letzten fünf Jahre angeben. US-Grenzschutzbeamte dürfen bei der Einreise an Flughäfen anlasslos elektronische Geräte wie Laptops oder Handys nach persönlichen Daten durchsuchen. Die Zahl dieser Durchsuchungen hat sich seit 2015 vervierfacht.
Einem libanesischen Staatsbürger wurde im August 2019 trotz gültigen Visums die Einreise am Flughafen Boston verweigert, weil die Grenzschützer misstrauisch ob der Social-Media-Posts seiner Freunde waren. Nachdem die Beamten fünf Stunden lang das Handy durchsucht hatten, wurde der Mann wieder nach Hause geschickt.
Zwar hat ein US-Bundesgericht in Boston im vergangenen November die Befugnisse der Grenzpolizei eingeschränkt. Sie darf Laptops und Smartphones nur noch bei einem konkreten Verdacht prüfen. Davon unberührt sind aber Online-Durchsuchungen. Das Department of Homeland Security will sogar Fake-Accounts auf Facebook kreieren, um ausländische Bürger zu überwachen. Facebook teilte daraufhin mit, dass solche Schnüffelpraktiken gegen die Klarnamen-Policy des Konzerns verstiessen.
Auf der anderen Seite gibt Facebook aber auch Daten an Strafverfolgungsbehörden weiter. Und natürlich lesen die Geheimdienste schon länger in Online-Foren und Netzwerken mit, weil sie wie ein öffentlicher Raum sind. (aargauerzeitung.ch)
Wenn ein Unternehmen alle Personen ausschliesst, auf die das zutrifft, dürfte sich die Kundenbasis rasant verkleinern...
Beachtlich ist auch die Patentwut der Firmen. Lustigerweise können diese alles mit unseren Daten patentieren und erstellen.
Entweder Patente werden abgeschafft oder die Menschen erhalten den vollständigen Besitz ihrer Daten. Zwangsläufig wird es zu grossen sozialen Revolutionen kommen. Immerhin darin ist der Mensch konsequent: Er lernt nicht aus der Vergangenheit.