OpenAI ima orodje za kloniranje glasu, obstaja strah, da bo to vplivalo na volitve

(Patria) - OpenAI je v petek razkril orodje za kloniranje glasu, ki ga namerava imeti pod strogim nadzorom
dokler se ne vzpostavijo zaščitni ukrepi za preprečevanje lažnih zvokov, namenjenih zavajanju
poslušalcev, je poročal AFP.

Model z imenom „Voice Engine“ lahko v bistvu podvoji govor nekoga na podlagi zvočnega vzorca, dolgega petnajst sekund, v skladu z objavo na blogu OpenAI, v kateri so delili rezultate majhnega testa orodja.

„Zavedamo se, da ustvarjanje govora, ki je podoben človeškim glasovom, nosi resna tveganja, ki so še posebej v ospredju v volilnem letu,“ je povedalo podjetje s sedežem v San Franciscu.

„Sodelujemo z ameriškimi in mednarodnimi partnerji iz vseh vlad, medijev, zabave, izobraževanja, civilne družbe in širše, da bi zagotovili, da vključimo njihove povratne informacije, medtem ko gradimo,“ so dodali.

Raziskovalci dezinformacij se bojijo zlorabe aplikacij, ki jih poganja umetna inteligenca, v ključnem volilnem letu zaradi naraščajočih orodij za kloniranje glasu, ki so poceni, enostavna za uporabo in težko sledljiva. Ob priznavanju teh težav je OpenAI dejal, da „zavzema previden in informiran pristop k širši izdaji zaradi možnosti zlorabe sintetičnega glasu.“

Previdno razkritje je sledilo nekaj mesecev po tem, ko je politični svetovalec, ki dela za dolgotrajno predsedniško kampanjo demokratskega tekmeca Joeja Bidna, priznal, da stoji za robotskim klicem, v katerem se je lažno predstavljal ameriški voditelj.

Klic, ki ga je ustvarila umetna inteligenca, zamisel operativca kongresnika Minnesote Deana Phillipsa, je vseboval nekaj, kar je zvenelo kot Bidenov glas, ki poziva ljudi, naj ne glasujejo na januarskih predizborih v New Hampshiru. Incident je sprožil preplah med strokovnjaki, ki se bojijo poplave lažnih dezinformacij, ki jih poganja umetna inteligenca, v tekmi za Belo hišo leta 2024, pa tudi na drugih ključnih volitvah po svetu letos.

OpenAI je dejal, da so se partnerji, ki testirajo Voice Engine, strinjali s pravili, vključno z zahtevo po izrecni in informirani privolitvi vsake osebe, katere glas je podvojen s pomočjo orodja. Prav tako mora biti občinstvu jasno, da so glasovi, ki jih slišijo, ustvarjeni z umetno inteligenco, je dodalo podjetje.

„Uvedli smo niz varnostnih ukrepov, vključno z vodnim žigom za sledenje izvoru katerega koli zvoka, ki ga ustvari Voice Engine, ter proaktivno spremljanje načina uporabe,“ je dejal OpenAI.