Digital
Google

KI-Pionier verlässt Google und spricht eindringliche Warnung aus

Computer scientist Geoffrey Hinton, who studies neural networks used in artificial intelligence applications, poses at Google's Mountain View, Calif, headquarters on Wednesday, March 25, 2015. Hi ...
Geoffrey Hinton, führender KI-Entwickler beim US-Konzern Google, kündigte seinen Job und mahnt eindringlich.
Bild: keystone

«Godfather» der Künstlichen Intelligenz verlässt Google und spricht Warnung aus

Die Entwicklung von künstlicher Intelligenz schreitet schnell voran. Experten warnen immer häufiger vor Gefahren und fordern eine Entwicklungspause.
03.05.2023, 21:31
Mehr «Digital»
Ein Artikel von
t-online

Erneut warnt ein Experte vor einer unkontrollierbaren Entwicklung besonders fortgeschrittener künstlicher Intelligenz (KI). Geoffrey Hinton, führender KI-Entwickler beim US-Konzern Google, kündigte seinen Job und mahnte in der «New York Times» vom Montag, die Fortschritte im Feld der KI bedeuteten «ernste Risiken für die Gesellschaft und für die Menschheit». Hinton wird laut Zeitung auch «Godfather» der KI genannt.

Er sagte der Zeitung, der Wettbewerb bringe die Technologieunternehmen dazu, «in einem gefährlichen Tempo» immer neue KI zu entwickeln. Damit breiteten sich Falschinformationen aus und Arbeitsplätze gerieten in Gefahr. «Es ist schwierig sich vorzustellen, wie man die Bösen daran hindert, KI für böse Dinge einzusetzen», sagte Hinton.

Google und das Unternehmen OpenAI – das Startup, das den bekannten Chatbot ChatGPT entwickelt hat – begannen im vergangenen Jahr damit, lernende Systeme zu entwickeln, die dafür eine sehr viel grössere Datenmenge als zuvor nutzen. Hinton sagte der «New York Times», diese Systeme würden aufgrund der schieren Datenmenge die menschliche Intelligenz in mancher Hinsicht in den Schatten stellen.

Mit Blick auf die Arbeitsplätze sagte Hinton etwa, künstliche Intelligenz könne die «Sklavenarbeit» überflüssig machen. «Aber sie könnte noch viel mehr wegnehmen.»

Der Zeitung zufolge kündigte der Entwickler seinen Job bei Google im vergangenen Monat. Sein Chef im Unternehmen, Jeff Dean, erklärte in einer Mitteilung an US-Medien, er danke Hinton für seine Arbeit. Dean betonte, Google habe als eines der ersten Unternehmen Leitsätze für die KI-Anwendung veröffentlicht. Google fühle sich auch weiterhin «zu einem verantwortungsvollen Umgang mit KI verpflichtet». Google lerne beim Verständnis der Risiken beständig dazu – und führe gleichzeitig weiterhin «kühn» Neuerungen ein.

Erst Ende März hatten der Technologie-Milliardär Elon Musk und zahlreiche Experten eine Pause bei der Entwicklung von besonders fortgeschrittener künstlicher Intelligenz gefordert. «KI-Systeme mit einer Intelligenz, die Menschen Konkurrenz macht, können grosse Risiken für Gesellschaft und Menschheit bergen», warnten auch sie. «Mächtige KI-Systeme sollten erst dann entwickelt werden, wenn wir zuversichtlich sind, dass ihre Auswirkungen positiv und ihre Risiken kontrollierbar sind.»

In einem offenen Brief zu einem Stopp der KI-Entwicklung verwiesen die Unterzeichner auf einen Satz von OpenAI-Gründer Sam Altman, demzufolge irgendwann eine «unabhängige» Überprüfung notwendig sei, bevor mit dem Training neuer Systeme begonnen werde. «Wir stimmen zu», schreiben die Verfasser des Briefes. «Der Zeitpunkt ist jetzt.»

Mitte April wurde bekannt, dass Musk, der Twitter-Besitzer und Chef des Elektroautobauers Tesla, in Nevada eine KI-Firma mit dem Namen X.AI gegründet hat.

Weitere interessante Artikel:

(t-online)

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
Oder unterstütze uns per Banküberweisung.
Wenn sich KI-Bilder viral verbreiten
1 / 15
Wenn sich KI-Bilder viral verbreiten
Nanu, wen haben wir denn da?
Auf Facebook teilenAuf X teilen
Beeindruckend: Schweizer KI-Künstler visualisiert die Geschichte des Krieges
Video: watson
Das könnte dich auch noch interessieren:
Hast du technische Probleme?
Wir sind nur eine E-Mail entfernt. Schreib uns dein Problem einfach auf support@watson.ch und wir melden uns schnellstmöglich bei dir.
50 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
avatar
Blanda
03.05.2023 23:31registriert Mai 2015
das schlimme ist: am schluss kommt jede KI zum schluss, dass, um die welt zu retten, sie den menschen eliminieren muss.. denn ohne ihn kann sich das leben endlich wieder entfalten 😂
766
Melden
Zum Kommentar
avatar
Kekzus
03.05.2023 23:24registriert Januar 2017
Die Menschheit war noch nie fähig bei etwas Neuem präventiv zu handeln. Warum sollte es jetzt starten?
551
Melden
Zum Kommentar
avatar
Piaf
03.05.2023 22:42registriert April 2023
Erinnert irgendwie an Einstein und Oppenheimer, nicht?
Und zu spät ist es auch hier.
250
Melden
Zum Kommentar
50
Die Autopreise explodieren
Die Preisschere zwischen Verbrenner und Elektroauto schliesst sich. Wer jetzt noch auf Benzin oder Diesel setzt, muss tiefer in die Tasche greifen. Doch was steckt hinter dieser Entwicklung?

Neuwagenkäufer müssen derzeit mehr bezahlen – vor allem, wenn sie sich für ein Modell mit Benzin- oder Dieselmotor entscheiden. Eine aktuelle Auswertung des Branchenexperten Ferdinand Dudenhöffer zeigt, dass die Preise für Fahrzeuge mit Verbrennungsmotor seit April deutlich gestiegen sind.

Zur Story