Digital
ChatGPT

OpenAI stellt Programm zum Klonen von Stimmen vor – was soll da schon schiefgehen...

OpenAI stellt Programm zum Klonen von Stimmen vor – was soll da schon schiefgehen...

Die ChatGPT-Entwicklerfirma will ihre sogenannte «Voice Engine» angeblich nur unter strengen Restriktionen anbieten.
30.03.2024, 05:3005.04.2024, 08:44
Mehr «Digital»

Der ChatGPT-Entwickler OpenAI hat am Freitag ein Programm zum Klonen von Stimmen vorgestellt. Das Modell namens «Voice Engine» könne die Stimme eines Menschen auf Basis eines 15-sekündigen Audio-Originals duplizieren, heisst es in einem Blogeintrag von OpenAI.

Fachleute fürchten einen Missbrauch von Anwendungen, die Künstliche Intelligenz (KI) nutzen, speziell im Jahr der Europa- und US-Präsidentschaftswahlen.

OpenAI erklärt, sich dieser Probleme bewusst zu sein. Man sei sich bewusst, dass die Erzeugung von Stimmen, die denen von Menschen ähneln, ernsthafte Risiken birgt, die in einem Wahljahr besonders zu beachten seien, teilte das Unternehmen aus San Francisco mit. Man arbeite mit Partnern unter anderem aus den Bereichen Politik, Medien, Unterhaltung, Bildung und Zivilgesellschaft zusammen, ihr Feedback werde bei der Entwicklung berücksichtigt.

Was tut OpenAI konkret, um Missbrauch zu verhindern?

Aufgrund des Potenzials für den Missbrauch synthetischer Stimmen habe sich das Unternehmen für einen «vorsichtigen» Ansatz für eine breitere Freigabe entschieden. Partner, die «Voice Engine» testeten, hätten Regeln zugestimmt.

Diese Regeln sehen demnach unter anderem die ausdrückliche Zustimmung jedes Menschen vor, dessen Stimme mit dem Programm dupliziert wird. Ausserdem müsse den Hörerinnen und Hörern deutlich gemacht werden, dass die Stimmen, die sie hören, von KI generiert wurden.

FILE - OpenAI CEO Sam Altman participates in the "Technology in a turbulent world" panel discussion during the annual meeting of the World Economic Forum in Davos, Switzerland, on Jan. 18, 2 ...
OpenAI-Chef Sam Altman.Bild: keystone

OpenAI hatte im November 2022 zunächst mit der Einführung von ChatGPT für Furore gesorgt. Das Programm ist in der Lage, mit Hilfe von Künstlicher Intelligenz (KI) aus sehr kurzen Eingabeaufforderungen beispielsweise Essays, Gedichte oder Unterhaltungen zu generieren. ChatGPT machte die Möglichkeiten der KI damit schlagartig einem grossen Publikum bewusst. Zugleich wuchsen aber die Befürchtungen über mögliche Gefahren der Technologie.

Das Unternehmen, das auch den Bildgenerator DALL-E entwickelt hat, hatte im Februar auch eine KI-Anwendung zur Produktion realistischer Videos namens Sora vorgestellt.

Quellen

(sda/apa/afp)

DANKE FÜR DIE ♥
Würdest du gerne watson und unseren Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet, um die Zahlung abzuschliessen.)
5 CHF
15 CHF
25 CHF
Anderer
twint icon
Oder unterstütze uns per Banküberweisung.
Das könnte dich auch noch interessieren:
Welches Smartphone ist hässlicher? Stimm jetzt ab
Smartphones wurden immer dünner, dafür werden die Kameras von Jahr zu Jahr grösser und klobiger. Wem also gebührt die zweifelhafte Ehre der hässlichsten Handy-Kamera? Die Entscheidung liegt in deinen Händen.

Früher war beileibe nicht alles besser. Beispielsweise waren Handy-Fotos entweder verpixelt, verschwommen oder sonst ziemlich unansehnlich, ABER zumindest hatten Smartphones keine absurd grossen und das Auge beleidigenden Kameras.

Zur Story