Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und die Werbung von watson und Werbepartnern zu personalisieren. Weitere Infos: Datenschutzerklärung.

Clippy alias Karl Klammer war bloss nervig. Neue, smarte Assistenten, die sich am Telefon als Menschen ausgeben, könnten weit mehr Ärger verursachen. bild: neowin

Weshalb der neue Sprachassistent von Google ziemlich gefährlich werden könnte

Google hat letzte Woche für Aufsehen gesorgt. Sein digitaler Sprachassistent kann jetzt telefonieren: Und zwar so gut, dass wir ihn für einen Menschen halten. Das freut auch Online-Kriminelle und Enkeltrick-Betrüger.

14.05.18, 18:34 15.05.18, 09:01

Die neuartige Google-Software Duplex, die am Telefon praktisch nicht von einem Menschen zu unterscheiden ist, wird sich bei Anrufen «angemessen zu erkennen geben». Der Internet-Konzern stellte dies klar, nachdem eine erste Demonstration der Software Kritik und ethische Fragen ausgelöst hatte.

Bei den aufgezeichneten Telefongesprächen des Google-Systems, hatten die Mitarbeiter eines Friseursalons und eines Restaurants offenkundig keine Ahnung, dass sie mit einem Computer und nicht mit einem Menschen sprechen.

Das Video zeigt: Menschen wissen künftig nicht mehr, ob sie mit Menschen oder einem Roboter sprechen

Video: watson

Die Software war sogar speziell getrimmt darauf, besonders menschlich zu klingen, indem sie Pausen und Zwischenlaute wie «ähm» und «umm» einschob. Google zufolge macht das die Unterhaltung natürlicher. Beim Anruf im Friseursalon erklärte die Software zumindest, sie rufe im Auftrag einer Kundin an, beim Anruf im Restaurant gab es einen solchen Hinweis nicht.

Der Google Assistant vereinbart einen Termin bei einem Coiffeur

Als Vorgabe hatte der Sprachassistent lediglich einen Tag und einen Zeitraum genannt bekommen. Video: YouTube/Mashable Daily

Wo führt das hin?

Unter Tech-Enthusiasten führte Googles beeindruckende Demonstration seiner künstlichen Intelligenz (KI) für Begeisterung, aber es gibt auch warnende Stimmen: Spiegel Online schreibt

«Stellen Sie sich vor, jemand baut einen Enkeltrick-Roboter, der Tausende von Rentnern gleichzeitig anrufen kann. Ein paar von ihnen werden auf die Masche hereinfallen, und bei denen holt man sich dann Geld. Die Kosten für all die Fehlversuche sind minimal. Die Logik des Spammers - die Masse macht's - steht plötzlich auch herkömmlichen Trickbetrügern offen. Schon bald könnten die nigerianischen Prinzen mit dem grossen Erbe direkt anrufen, statt erst E-Mails zu schreiben.»

«Höchste Zeit für Robotergesetze»

Es werde daher «höchste Zeit für Robotergesetze - und eines davon sollte sein, dass eine Maschine verpflichtet ist, sich zu Beginn eines Gesprächs als solche zu erkennen zu geben», schreibt Spiegel Online.

Google lässt sich von solcher Kritik kaum gross beirren: Der Konzern will das Programm im Sommer in öffentliche Tests starten. Die zunächst nur Englisch sprechende Software kann bisher Termine beim Friseur und Tische in Restaurants buchen sowie Öffnungszeiten erfragen. Für jedes neue Einsatzfeld müsse sie frisch angelernt werden, heisst es.

Googles Computerstimme wird sich als Computer zu erkennen geben, aber ...

Am Tag nach der Präsentation der Software hatte Lilian Rincon, eine der zuständigen Managerinnen, noch gesagt, es sei nicht entschieden, ob sich die Duplex-Software in Gesprächen ausdrücklich als Computerprogramm vorstellen werde. «Ich denke, dass sie immer sagen wird, dass sie für jemand anderen anruft», erklärte sie.

Nun stellt Google immerhin klar, dass sich die Computerstimme «angemessen zu erkennen geben» werde. Konkreter wird Google allerdings nicht: «Ob die Computerstimme nun sagt, hier ist Google, oder der Google Assistant oder Duplex, das muss noch festgelegt werden. Deswegen sagen wir offen, dass das eine Frage ist, die wir noch klären müssen.»

Damit ist das Problem natürlich nicht gelöst: Kriminelle können – Robortergesetz hin oder her – Sprachassistenten entwickeln, die sich bei betrügerischen Anrufen nicht als Roboter bzw. KI zu erkennen geben. Statt Inder rufen dann eben Roboter als angebliche Microsoft-Support-Mitarbeiter an, um PC-Nutzer abzuzocken.

Laut Rincon ist zudem noch offen, ob Google auch eine Version der Software entwickeln würde, die solche Anrufe auf der Seite der Unternehmen führen und Anrufe von menschlichen Kunden entgegennehmen könnte.

(oli/sda/dpa)

Hey Google, Achtung Gorilla!

Investmentbanker war gestern. Wer das grosse Geld machen will, sollte KI-Spezialist werden. KI, also künstliche Intelligenz, ist das grosse Thema der Gegenwart und wird die Zukunft formen. Zumindest im Silicon Valley ist man sich darin einig und lockt die besten Experten mit hohen Summen.

Selbst bei der Non-Profit-Organisation Open AI verdient der bestbezahlte Forscher 800 000 Dollar. Bei den Top-Unternehmen wie Google und Facebook, die keine Saläre ausweisen, dürfte es um einiges mehr sein.

Die Ergebnisse dieser Forschung sorgen diese Woche für Staunen. Sowohl Google als auch Microsoft veranstalteten ihre alljährliche Entwicklerkonferenz. Kaum ein neues Gerät, kaum ein Feature, das ohne KI auskommt: In Geschäftssitzungen übersetzt ein Assistent simultan verschiedene Sprachen.

Im Alltag hilft ein Assistent, der etwa selbstständig am Telefon einen Coiffeur-Termin vereinbaren kann. Und selbst in der Kamera sitzt nun die KI: Google Lens heisst eine neue Funktion, die erkennt, was auf einem Foto zu sehen ist – welches Gebäude etwa oder welche Baumart.

Die neuen Anwendungen funktionieren allerdings noch nicht einwandfrei. Das zeigt ein Test des Tech-Portals «Wired», bei dem ein grauer Pullover mit einem Elefant verwechselt worden ist. So ist es eben mit der KI: Bei vielem (Schach ist nur das prominenteste Beispiel) ist sie uns hoch überlegen, bei anderem aber noch immer dümmer als ein dreijähriges Kind. Es gibt also noch viel zu tun für die hoch dotierten Spezialisten.

Beispielsweise wäre da noch das Gorilla-Problem zu lösen. So kann zwar in der Foto-App von Google schon seit ein paar Jahren nach allen möglichen Tieren gesucht werden, nicht aber nach Menschenaffen. Zu gefährlich ist die Rassismus-Falle: Affen werden von der KI nämlich gern mit dunkelhäutigen Menschen verwechselt. (aargauerzeitung.ch)

Die 21 besten Krimis bei Google Street View

Hol dir die App!

Charly Otherman, 5.5.2017
Watson kann nicht nur lustig! Auch für Deutsche (wie mich) ein Muss, obwohl ich das schweizerische nicht immer verstehe.
Abonniere unseren NewsletterNewsletter-Abo
14
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 72 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
14Alle Kommentare anzeigen
    Alle Leser-Kommentare
  • D(r)ummer 15.05.2018 09:30
    Highlight Erst wenn die Software einen Döner beim Türken um die Ecke mit ohne Scharf auf Schweizerdeutsch bestellen kann hat sie es geschafft.

    Google wird garantiert Wege finden, den Betrügern Steine in den weg zu legen.
    9 2 Melden
  • Siebenstein 14.05.2018 23:03
    Highlight Ehrlich jetzt? Da müsstet Ihr mir Augen und Ohren verbinden damit ich die synthetische Stimme nicht heraushöre!
    Was ist los mit Euch? 🙈
    1 28 Melden
    • lilie 15.05.2018 06:51
      Highlight @Siebenstein: Also, dir ist schon klar, der Roboter ist der Anrufer, nicht die Frau mit der verzerrten Stimme???
      17 0 Melden
  • Paddiesli 14.05.2018 22:38
    Highlight Darum bin ich seit je her für eine Kennzeichnungspflicht für Bots. Ich habe das Recht, zu wissen, ob ich Mensch oder Maschine vor mir habe. Als solches erkennbare Bots hätten auch nicht einen derart starken Einfluss auf Meinungsbildung im Internet. Es braucht dringend steuernde Regulierungen und Vorgaben, denn was ausgenutzt werden kann, wird jemand tun. So ist der Mensch leider.
    23 2 Melden
  • marsupi 14.05.2018 21:04
    Highlight So richtig witzig wird es erst, wenn auf beiden Seiten ein KI System spricht
    115 2 Melden
  • lilie 14.05.2018 20:06
    Highlight Der Roboteranrufer ist tatsächlich sehr eindrücklich. Also, ich hätte es als Antwortende nicht bemerkt, dass das kein Mensch ist!

    Allerdings frage ich mich, was die Anwendung für den Otto Normalverbraucher sein soll. Einen Tisch in einem Restaurant reservieren? Ein teures Programm für eine solche Lappalie?

    Nein, ich denke, die Hauptanwendung ist für Firmen, welche heute ganze Abteilungen beschäftigen für Werbeanrufe, Spendensammelungen, Marktforschungs- und Meinungsumfragen etc.

    Oder z.B. auch Kundendienstanfragen. Da werden ja viele Standardfragen gestellt.
    69 3 Melden
    • Menel 14.05.2018 21:03
      Highlight Och, als Mutter von drei Teens, die x Termine koordinieren muss, hätte ich schon Verwendung dafür 😁
      29 4 Melden
    • lilie 15.05.2018 06:49
      Highlight @Menel: Jugendliche ihren Kram selber erledigen lassen baut Lebenskompetenz bei den Heranwachsenden auf und Stress bei den Eltern ab. 😉
      12 2 Melden
    • Olaf! 15.05.2018 08:56
      Highlight "Ein teures Programm für eine solche Lappalie?" Wann hast du zum letzten mal Geld (nicht persönliche Daten) für ein Google Service gezahlt? Das wird im Google Assistant eingebaut und du wirst es gratis nutzen dürfen. Der Assistant telefoniert halt einfach auch nach Hause.
      6 1 Melden
    • lilie 15.05.2018 13:38
      Highlight @Olaf!: Na gut, gratis. Nur wird es eben wirklich nicht mehr können als das. Die wirklich nützlichen Features werden Firmen verkauft werden.
      3 0 Melden
  • Clife 14.05.2018 19:34
    Highlight Krass, aber die Maschine hat sich eindeutig enthusiastischer angehört als der normale Mensch. Daran wird man definitiv den Unterschied zwischen Mensch und Maschine erkennen 😂
    87 1 Melden
    • Paddiesli 14.05.2018 22:43
      Highlight Und wie lange wird man, oh exgüsi, wirst du das noch erkennen? Ab wann nicht mehr? Bei der nächsten oder der übernächsten Generation? Also, in 3-5 Jahren.
      7 9 Melden
  • fadnincx 14.05.2018 19:00
    Highlight Solche "Robotergesetze" halte ich für etwas kurzsichtig... Wie sollen Roboter bzw. die Ersteller dieser bestraft werden, wenn diese nicht von Menschen zu unterscheiden sind?
    16 22 Melden
  • Hosch 14.05.2018 18:46
    Highlight Ganz interessant aber vielleicht etwas mangelhaft in der Wortwahl oder dem Hintergrundwissen.
    Robotergesetze gibt es schon verhältnismässig lange,
    https://de.wikipedia.org/wiki/Robotergesetze
    Eine KI oder eine Software ist per Definition kein Roboter,
    http://www.roboterwelt.de/magazin/wann-ist-ein-roboter-ein-roboter/ (die genaue Definition ist im letzten Abschnitt zu lesen)
    Software-Ethik/KI-Ethik wäre wohl treffender. Aber ich stimme absolut zu das etwas in dieser Form möglichst bald kommen sollte.
    48 1 Melden

«Spektakulär!» – Swisscom ermöglicht erstmals Einblick in die eigenen Nutzerdaten

Swisscom ermöglicht den Einblick in die eigenen Vorratsdaten der letzten sechs Monate. Der Schweizer Anwalt Martin Steiger hat die über ihn gespeicherten Daten angefordert – und eine CD-ROM mit zehntausenden Einträgen zu seiner Handy- und Internet-Nutzung erhalten.

Seit 2002 wird jede Bewegung von Schweizer Handybesitzern ein halbes Jahr lang aufgezeichnet. Insbesondere die Mobilfunkprovider müssen im Auftrag des Bundes von jedem Kunden folgende Rand- bzw. Metadaten ohne Anlass und Verdacht auf Vorrat speichern:

Anfang März 2018 lehnte das Bundesgericht eine Beschwerde des Vereins Digitale Gesellschaft gegen die anlasslose Vorratsdatenspeicherung, also die generelle Überwachung sämtlicher Bürger ohne Anfangsverdacht, ab. Allerdings hat neu jeder …

Artikel lesen