Amazon
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Bild

Smarte Lautsprecher von Google, Apple und Amazon. Bild: cnet

Wie Alexa, Siri und Co. 2019 ihre Unschuld verloren



Sprachassistenten, die sich in den vergangenen Jahren über vernetzte Echo-Lautsprecher von Amazon oder das iPhone von Apple ausbreiteten, galten mal als die Zukunft, mal als halb gare Spielerei. Aber in diesem Jahr kam ein unangenehmes Geheimnis der Branche ans Licht.

Damit die Software die Nutzer richtig gut verstehen kann, müssen immer wieder Aufzeichnungen von Dialogen nachträglich von Menschen angehört werden. Den weitaus meisten Nutzern war das nicht bewusst. Auch weil die Praxis in Unterlagen bestenfalls irgendwo ganz tief im Kleingedruckten erwähnt wurde. Oder gar nicht.

Der Ball kam ins Rollen im April. Der Finanzdienst Bloomberg enthüllte, dass einige Mitschnitte von Unterhaltungen mit Amazons Assistenzsoftware Alexa an diversen Standorten rund um die Welt ausgewertet werden, unter anderem in Boston, Costa Rica, Indien und Rumänien.

Und zwar nicht nur direkt beim Konzern, sondern auch bei Dienstleistungsfirmen. Ein Mitarbeiter aus Boston sagte, er habe zum Beispiel Aufzeichnungen mit den Worten «Taylor Swift» analysiert und sie mit der Anmerkung versehen, dass die Nutzer die Sängerin meinten.

Andere Angestellte erinnerten sich, wie sie in den Aufnahmen Kinder ihre Adressen und Telefonnummer sagen hörten, jemand Sexspielzeug bestellte und einsame Leute Alexa ihre Geheimnisse und Ängste anvertrauten. Danach wurde Schritt um Schritt klar, dass es bei Siri von Apple und dem Google Assistant im Prinzip genauso läuft.

Vielseitiger Lautsprecher mit Display: Das kann Googles Nest Hub

Unbeabsichtigte Aufnahmen, intime Aufnahmen

Die Dienste-Anbieter stehen vor einem realen Problem. Nutzer erwarten, dass ein Sprachassistent sie optimal versteht. Aber wie verbessert man die Software bei Fehlern, wenn man nicht genau weiss, wo und wie sie sich geirrt hat? Das sei insbesondere wichtig bei speziellen Fällen wie Dialekten oder Akzenten, die man schlecht mit einem generellen Anlernen der Programme abdecken könne, heisst es in der Branche.

Ein ebenso schwieriger Fall sind die fehlerhaften Aktivierungen, bei denen die Sprachassistenten zu Unrecht glauben, ihr Weckwort wie «Alexa» oder «Hey, Siri» gehört zu haben. Hier ist es für die Entwickler wichtig, zu wissen, welche Laute oder Situationen genau zu dem Missverständnis führten, um sie Software entsprechend anzupassen.

Allerdings sind die Aufzeichnungen nach fehlerhaften Auslösungen auch potenziell besonders bedenklich aus Datenschutz-Sicht: Denn sie enthalten Sätze, die höchstwahrscheinlich nicht für den Sprachassistenten bestimmt waren, sondern aus Unterhaltungen zwischen den Nutzern stammen dürften.

Der Mitarbeiter eines Apple-Dienstleisters erzählte der Zeitung «Guardian», auf den Aufnahmen seien zum Teil sehr private Details zu hören. So schnappe Siri auch Fragmente von Gesprächen mit medizinischen oder geschäftlichen Inhalten, mögliche kriminelle Aktivitäten oder auch Nutzer beim Sex auf, sagte er.

Analysen nur noch mit Einwilligung

Nach den Enthüllungen war die bisherige Praxis nicht mehr aufrechtzuerhalten. Der Apple-Konzern, für den die Kritik angesichts des jahrelangen Datenschutz-Versprechens besonders schmerzhaft war, zog die Reissleine und kündigte an, Aufnahmen nur noch nach ausdrücklicher Erlaubnis der Nutzer von Menschen auswerten zulassen. Zudem geschieht das nur noch beim Unternehmen selbst und nicht mehr bei Dienstleistern. Auch Google entschied sich für ein «Opt-In»-Verfahren mit vorheriger Zustimmung.

Amazon hingegen wählte die schwächere Datenschutz-Lösung. Der Online-Händler bevorzugte ein sogenanntes Opt-out, bei dem die Nutzer einer Verwendung ihrer Mitschnitte zwar widersprechen können, sie aber standardmässig vorausgesetzt wird. Amazon sehe darin die bessere Lösung für die Nutzer, sagt Gerätechef Dave Limp.

Es könne natürlich sein, dass die Konkurrenten weiter beim maschinellen Lernen seien als Amazon – was er sehr bezweifele –, «oder ihre Dienste werden sich nicht so schnell verbessern». Er hoffe, «dass wir eines Tages keine Beteiligung von Menschen brauchen werden» – noch sei das aber notwendig. Zugleich seien die Reaktionen in den Medien stärker gewesen als bei den Nutzern: «Die Kunden haben nicht aufgehört, Alexa zu nutzen.»

Das kann Googles smarter Display-Lautsprecher Nest Hub

Video: watson

(oli/sda/apa/dpa)

DANKE FÜR DIE ♥

Da du bis hierhin gescrollt hast, gehen wir davon aus, dass dir unser journalistisches Angebot gefällt. Wie du vielleicht weisst, haben wir uns kürzlich entschieden, bei watson keine Login-Pflicht einzuführen. Auch Bezahlschranken wird es bei uns keine geben. Wir möchten möglichst keine Hürden für den Zugang zu watson schaffen, weil wir glauben, es sollten sich in einer Demokratie alle jederzeit und einfach mit Informationen versorgen können. Falls du uns dennoch mit einem kleinen Betrag unterstützen willst, dann tu das doch hier.

Würdest du gerne watson und Journalismus unterstützen?

(Du wirst zu stripe.com umgeleitet um die Zahlung abzuschliessen)

Oder unterstütze uns mit deinem Wunschbetrag per Banküberweisung.

Nicht mehr anzeigen

Die 23 besten Siri-Sprüche

«Mobile Lautsprecher sind der Untergang der Freiheit»

Das könnte dich auch noch interessieren:

Abonniere unseren Newsletter

30
Bubble Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
30Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • kaderschaufel 26.12.2019 22:20
    Highlight Highlight Ok, ich gebe mal zu, dass mir das nicht bewusst war, danke für den Artikel.

    Es gibt ja diesen Spruch: "Wenn du etwas gratis bekommst, dann bist du das Produkt". Ich rechne also damit, dass z.B. Google sich meine Suchanfragen merkt (ich weiss, die merken sich noch viel mehr als das), um mir personalisierte Werbung zu bringen.

    Aber bei einem iPhone, für das ich viel Geld bezahlt habe, hätte ich nicht erwartet, dass ich ungefragt abgehört werde.
    • lesenderr 26.12.2019 23:42
      Highlight Highlight Ist doch alles das selbe, nur anders verpackt, iPhone hin oder her.
    • jellyshoot 28.12.2019 01:26
      Highlight Highlight apple und wohl auch die anderen anbieter tracken auch ununterbrochen deinen standort...

      schau dir mal folgenden ordner an, dort siehst du auf die sekunde genau, wann du wo warst:

      Einstellungen/Datenschutz/Ortungsdienste/Systemdienste/Wichtige Orte

  • Miikee 26.12.2019 20:39
    Highlight Highlight .
    Benutzer Bild
  • Dr.Med.denRasen 26.12.2019 17:42
    Highlight Highlight Hmmm zum glück ist das bei Smartphones anders. 🙈
    Ich nutze zuhause trotzdem meine Alexa. Sie steuert mein Licht, sie spielt mir di Nachricht dann ab, wenn ich möchte. Sie spielt mein Spotify playlisten. Ich mag das Ding, egal ob jemand zuhört oder nicht. Hauptsache ich muss diesen Job nicht machen. Peace blüemli
  • Asmodeus 26.12.2019 17:32
    Highlight Highlight Jeder der sich so ein Teil in die Wohnung stellt muss doch wissen, daß er sich bewusst ein Abhörgerät in die Bude holt.

    Das ist deren Zweck.
  • B-Arche 26.12.2019 16:52
    Highlight Highlight Wir lachten alle über Orwell und seinen Roman 1984.
    Und nun stellen wir uns den Televisor/die Wanze freiwillig in die Wohnung.

    Was ist wenn Polizei/Politiker eine Möglichkeit finden Amazon & Co zu zwingen das Mikrofon einzuschalten um den Raum abzuhören? "Ich habe nichts zu verbergen?"

    Nicht nur sich datentechnisch nackig auszuziehen bei Facebook und Instagram, nun auch noch freiwilliges Kaufen einer Wanze.

    Und Arbeitgeber lehnen einen schonmal ab wenn man nicht in "Social Media" ist, da könne man sich dann ja gar kein Bild machen...

    • David Tschan 26.12.2019 17:33
      Highlight Highlight Grundsätzlich bin ich mit Dir gleicher Meinung...aber trägst Du auch ein Smartphone welches ein oder mehrere eingebaute Mikrophone besitzt mit Dir herum (dies zum Thema dass Überwachungsbehörden Hersteller zwingen könnten, Mikrophone ohne das Wissen des Besitzers/Nutzers einzuschalten) ? 😉
    • SeboZh 26.12.2019 17:34
      Highlight Highlight Sie können sich komplett beruhigen. Dazu benötigt es weder einen Hack noch ein zusätzliches Gerät in der Wohnung. Das Handy welches die meisten Leute die ganze Zeit dabeihaben, liefert die selben Infos
    • Marko 32 26.12.2019 18:27
      Highlight Highlight Ich kenne persönlich niemanden der 1984 gelesen hat und darüber gelacht hat
    Weitere Antworten anzeigen
  • NiemandWirklich 26.12.2019 16:46
    Highlight Highlight Wieso bietet man nicht einfach dem Kunden selbst die Möglichkeit, eigene Gesprächsfetzen zu korrigieren? Dem Assistenten helfen, wenn man nicht zufrieden ist mit dessen Leistung? Funktioniert doch so auch bei Spam-Schutz, als Beispiel. Käme für die Anbieter doch auch noch günstiger, wenn sie sich den Mindestlohn auch noch sparen können...
  • rburri68 26.12.2019 16:20
    Highlight Highlight Man muss aber halt schon ziemlich Blind sein, wenn einem das nicht bereits klar war. Google sagt es sowieso relativ offen. Apple verschweigt es natürlich sehr gerne, aber nach den ständigen Datenschutz-Skandalen sollte es also auch jedem Apple-Fanboy klar sein. Letztens kam ja auch wieder raus, dass Apple den Standort immer sieht, wenn sie wollen. Auch wenn er komplett deaktiviert ist. Und sie sagen nicht einmal warum.
    • aglio e olio 26.12.2019 17:15
      Highlight Highlight "Letztens kam ja auch wieder raus..."

      Meinst du hier?
      https://www.watson.ch/!365715057

      "Android-Geräte verraten Google angeblich jederzeit ihren Standort – selbst wenn die Ortungsdienste deaktiviert sind [...] dass es ähnliche Probleme auch schon früher gab. Unter anderem bei Apple."
    • mbr72 28.12.2019 08:10
      Highlight Highlight Jaja, zuerst einen Artikel verlinken und diesen falsch zitieren... naja! In dem Artikel ist überhaupt nichts Kritisches erwähnt. Apple wertet ANONYMISIERT Daten aus. Sie können damit kein Profiling erstellen. Sturm im Wasserglas. Aber wenn es so schön in die Bashing Agenda passt!
      Das scheinen einfach ein paar Leute immer noch nicht zu kapieren: Google's einziges Geschäftsmodell sind Eure Daten und deren Verwertung, auch und speziell an Dritte! Punkt. Das ist, ob es einem passt oder nicht, ein fundamentaler Unterschied zu Apple.
    Weitere Antworten anzeigen
  • Barracuda 26.12.2019 16:19
    Highlight Highlight Unschuld verloren? Waren diese Geräte schon mal harmlos? Man muss schon ziemlich naiv sein, um sich so ein Überwachungsgerät am intimsten Ort freiwillig zu installieren, in den eigenen vier Wänden (!). Menschen mit Beeinträchtigung wie Blinde natürlich ausgenommen.
  • Miikee 26.12.2019 16:18
    Highlight Highlight "Den weitaus meisten Nutzern war das nicht bewusst."

    Also sind die meisten Nutzer extrem naiv und dumm?

    Wie soll das auch sonst funktionieren... 🤦‍♂️ schon nur das es bei "Hey Siri" reagiert, sollte jedem klar machen das es eben IMMER mithört. Anders wäre es ja gar nicht möglich.
    • bossac 26.12.2019 21:26
      Highlight Highlight Die „Hey Siri“, „Alexa“, etc. Erkennung kann lokal geregelt werden. Nur dafür muss keine Verbindung zu einem Server aufgebaut werden, was nur unnötig Traffic/Kosten verursachen würde. Erst die konkreten Fragen werden dann zur Auswertung an den Server gespeichert, wobei bestimmt auch hier Optimierungen vorgenommen werden. Die Problematik liegt bei den Aufnahmen die an Amazon/Apple/Google, etc. gesendet & ausgewertet werden, sowie dem Umstand dass diese von Behörden angefordert werden können, das Gerät gehackt werden kann oder bspw. via Laser unbemerkt aktiviert wird.
    • Miikee 27.12.2019 07:08
      Highlight Highlight Gutes Beispiel☝️🤦🏽‍♂️

      BossAC, eben nicht. Die Menschen schreien ja nicht "Hey Siri" beim Sex, bei einem intimen Gespräch oder bei etwas bei dem sie nicht belauscht werden wollen. Das Gerät nimmt IMMER auf und schickt die Gesprächsfetzen zur Analyse nach Hause.


      Zu den Behörden, die benötigen keine Zustimmung, die sind vor allem Dankbar das du deine Wohnung freiwillig Verwantzt. Ich kann dir das Buch von Snowden "Permanent Record" empfehlen. Zudem sind die Schweizer speziell, die sagen sogar Ja, zur Massenüberwachung🤷🏽‍♂️🤦🏽‍♂️.
    • bossac 27.12.2019 10:17
      Highlight Highlight Sorry, aber das stimmt einfach nicht. Die Mikrofone sind zwar immer an, ein Austausch mit den Servern findet jedoch Im Normalfall erst dann statt, wenn das Initialwort gesagt wurde (sofern keine Missinterpretation stattfand). Das kann man auch mit Netzwerksniffer selber überprüfen. Im Übrigen gibt es tolle Open Source-Lösungen die man selber trainieren kann, somit offline funktionieren und z.B. für einfache Hausautomation völlig ausreichen. Da muss man seine Daten nicht an Firmen verkaufen. Btw. bin ich der gleichen Meinung, stell mir auch keine Wanze ins Zuhause...
    Weitere Antworten anzeigen
  • LaPalomaOhe 26.12.2019 16:04
    Highlight Highlight Ich kenne eine fast 90 Jahre alte Dame, sie ist fast blind und bekam "Alexa" geschenkt, das freut mich.
    Alle anderen Subjekte die mit ihrem Radio reden haben für mich einen an der Waffel. Es sei denn sie sind sehr einsam, dann nehme ich alles zurück und behaupte das Gegenteil.
    • LaPalomaOhe 26.12.2019 19:52
      Highlight Highlight Ich kann das gut nachvollziehen, es ist nur - wenn man es von aussen betrachtet, dann fällt es einem eben auf, das ist wie Sex mit einer Maschine - sicher interessant - aber dann eben doch irgendwie - krank. Was nicht heißt dass ich das voll und ganz ablehne, was heilt ist gut...
    • LaPalomaOhe 27.12.2019 09:45
      Highlight Highlight Ich kenne eine Köchin die das ganz toll findet, bei der Arbeit, kann ich sehr gut verstehen, aber privat ist das für mich persönlich ein Sakrileg. Sex mit einer Maschine kann ich mir da eher vorstellen, aber da kommen wir uns dann ja näher: Auf Dauer fände ich das dann eben schon "seltsam". Jeder Jeck ist anders... angenehmen Jahreswechsel!
    • manta 28.12.2019 13:06
      Highlight Highlight @Adam Smith: „Ich bin weder dumm, noch einsam.“

      Vielleicht trifft es bequem und faul eher? Das würde dann trotzdem für eine gewisse blauäugikeit in Zusammenhang mit den genannten technischen Assistenten stehen.

Kommentar

Wer glaubt, SwissCovid sei eine Spionage-App, hat diese Tweets noch nicht gesehen

Seit Donnerstag steht die Corona-Warn-App SwissCovid offiziell zum Download bereit. Anders gesagt: Nun sind WhatsApp-Gruppen-Benachrichtigungen nicht mehr die schlimmsten Notifications...

Die Schweizer Corona-Warn-App SwissCovid ist endlich am Start. Sie soll mithelfen, eine potenzielle zweite Corona-Welle möglichst flach zu halten. Mit der vom Bund lancierten App sollen Covid-19-Infektionen rasch erkannt und Ansteckungsketten nachverfolgt werden können.

Die Nutzung der Corona-Warn-App geschieht anonym und sie greift zu keinem Zeitpunkt auf den Standort zu. Da alle sensitiven Informationen stets auf dem eigenen Smartphone bleiben, sprich nicht auf einem fremden Server zentral …

Artikel lesen
Link zum Artikel