OpenAI ima alatku za kloniranje glasa, postoji strah da će to uticati na izbore

(Patria) - OpenAI je u petak otkrio alatku za kloniranje glasa koju planira držati pod strogom kontrolom
sve dok se ne uspostave zaštitne mjere za sprječavanje lažnih zvukova namijenjenih zavaravanju
slušalaca, javio je AFP.

Model nazvan „Voice Engine“ može u suštini duplicirati nečiji govor na osnovu audio uzorka od petnaest sekundi, prema objavi na blogu OpenAI u kojoj se dijele rezultati malog testa alata.

„Svjesni smo da stvaranje govora koji liči na glasove ljudi nosi ozbiljne rizike, koji su posebno na prvom mjestu u izbornoj godini“, rekla je kompanija sa sjedištem u San Franciscu.

„Sarađujemo sa američkim i međunarodnim partnerima iz svih vlada, medija, zabave, obrazovanja, civilnog društva i šire kako bismo osigurali da ugradimo njihove povratne informacije dok gradimo“, dodali su.

Istraživači dezinformacija strahuju od zloupotrebe aplikacija koje pokreće umjetna inteligencija u ključnoj izbornoj godini zahvaljujući rastućim alatima za kloniranje glasa, koji su jeftini, lahki za korištenje i teško im je ući u trag. Priznajući ove probleme, OpenAI je rekao da „zauzima oprezan i informisan pristup širem izdanju zbog potencijala za zloupotrebu sintetičkog glasa.“

Oprezno otkrivanje uslijedilo je nekoliko mjeseci nakon što je politički konsultant koji radi za dugotrajnu predsjedničku kampanju demokratskog rivala Joeu Bidenu priznao da stoji iza robotskog poziva u kojem se lažno predstavlja američki lider.

Poziv koji je generisala umjetna inteligencija, zamisao operativca kongresmena Minesote Deana Phillipsa, sadržavao je nešto što je zvučalo kao Bidenov glas koji poziva ljude da ne glasaju na januarskim predizborima u New Hampshireu. Incident je izazvao uzbunu među stručnjacima koji strahuju od poplave lažnih dezinformacija koje pokreće umjetna inteligencija u utrci za Bijelu kuću 2024. godine, kao i na drugim ključnim izborima širom svijeta ove godine.

OpenAI je rekao da su se partneri koji testiraju Voice Engine složili s pravilima uključujući i zahtjev za eksplicitnim i informisanim pristankom svake osobe čiji je glas dupliciran pomoću alata. Također, publici mora biti jasno da se glasovi koje čuju generiraju umjetnom inteligencijom, dodala je kompanija.

„Implementirali smo skup sigurnosnih mjera, uključujući vodeni žig kako bismo pratili porijeklo bilo kojeg zvuka koji generiše Voice Engine, kao i proaktivno praćenje načina na koji se koristi“, rekao je OpenAI.