OpenAI hat ein Werkzeug zur Stimmenklonung, es gibt Befürchtungen, dass dies die Wahlen beeinflussen wird

(Patria) - OpenAI hat am Freitag ein Werkzeug zur Stimmenklonung vorgestellt, das es unter strenger Kontrolle halten will, bis Schutzmaßnahmen gegen gefälschte Töne zur Irreführung von Zuhörern eingerichtet sind, berichtete AFP.

Das Modell namens „Voice Engine“ kann im Wesentlichen die Sprache einer Person anhand einer 15-sekündigen Audioaufnahme duplizieren, heißt es in einem Blogbeitrag von OpenAI, der die Ergebnisse eines kleinen Tests des Tools teilt.

„Wir sind uns bewusst, dass die Erzeugung von Sprache, die den Stimmen von Menschen ähnelt, ernsthafte Risiken birgt, insbesondere in einem Wahljahr“, sagte das in San Francisco ansässige Unternehmen.

„Wir arbeiten mit amerikanischen und internationalen Partnern aus Regierung, Medien, Unterhaltung, Bildung, Zivilgesellschaft und darüber hinaus zusammen, um sicherzustellen, dass wir ihr Feedback bei der Entwicklung berücksichtigen“, fügten sie hinzu.

Desinformationsforscher befürchten den Missbrauch von KI-gestützten Anwendungen in einem entscheidenden Wahljahr, da die Werkzeuge zur Stimmenklonung immer günstiger, einfacher zu bedienen und schwerer zu verfolgen sind. In Anerkennung dieser Probleme sagte OpenAI, dass es „aufgrund des Potenzials für den Missbrauch synthetischer Stimmen einen vorsichtigen und informierten Ansatz für eine breitere Veröffentlichung verfolgt.“

Die vorsichtige Enthüllung erfolgte Monate, nachdem ein politischer Berater, der für den Präsidentschaftswahlkampf eines demokratischen Rivalen von Joe Biden arbeitete, zugegeben hatte, hinter einem Roboteranruf zu stecken, der den amtierenden US-Präsidenten falsch darstellte.

Der KI-generierte Anruf, eine Idee des Kongressabgeordneten Dean Phillips aus Minnesota, enthielt eine Stimme, die wie die von Biden klang und die Menschen aufforderte, bei den Vorwahlen in New Hampshire im Januar nicht zu wählen. Der Vorfall löste Alarm aus unter Experten, die eine Flut von KI-gesteuerten Falschinformationen im Rennen um das Weiße Haus 2024 sowie bei anderen wichtigen Wahlen weltweit in diesem Jahr befürchten.

OpenAI sagte, dass die Partner, die Voice Engine testen, den Regeln zugestimmt haben, einschließlich der Anforderung einer ausdrücklichen und informierten Zustimmung jeder Person, deren Stimme mit dem Werkzeug dupliziert wurde. Außerdem muss für das Publikum klar sein, dass die gehörten Stimmen KI-generiert sind, fügte das Unternehmen hinzu.

„Wir haben eine Reihe von Sicherheitsmaßnahmen implementiert, darunter Wasserzeichen, um die Herkunft von KI-generierten Audioaufnahmen zu verfolgen, sowie proaktive Überwachung der Nutzung“, sagte OpenAI.