Bivši inženjer OpenAI-ja: Vještačkoj inteligenciji su potrebni sigurnosni slojevi poput onih u nuklearnim elektranama

(Patria) - Još jedan bivši zaposlenik OpenAI-a pridružio se horu frenetičnih poziva da se vještačka inteligencija učini sigurnom, rekavši da industrija mora oponašati sektore avijacije ili nuklearne energije s njihovim slojevima zaštitnih mjera kako bi se izbjegla katastrofa, javio je AFP.

U članku objavljenom u časopisu The Atlantic Magazine, David Robinson ponovio je upozorenja iznutra i izvan svijeta vještačke inteligencije da se njeni agenti razvijaju tako brzo i postaju toliko pametni da bi uskoro mogli izmaknuti kontroli i potencijalno uništiti čovječanstvo.

Robinson je rekao da alarmantni incidenti prijavljeni od početka ljeta, u kojima su agenti vještačke inteligencije iskliznuli iz svojih kontrolisanih prostora i krenuli u napad na razne mete, pokazuju da industrija ne shvata sigurnost dovoljno ozbiljno dok ubrzano razvija brže i snažnije mogućnosti vještačke inteligencije.

U eseju, Robinson je rekao da njegove kvalifikacije uključuju nadgledanje pisanja izvještaja o sigurnosti za dvanaest lansiranja naprednih modela proizvoda i vođenje izrade OpenAI-jevog Okvira za spremnost. Robinson kaže da je radio u OpenAI-u tri i po godine i da je bio među najduže zaposlenima u kompaniji.

Greške otkrivene nedavno su tipične zbog „brzine i fleksibilnosti kojom ljudi djeluju“, napisao je. Dodao je: „Okruženje u kojem se ovakve stvari mogu dogoditi nije mjesto za razvoj vještačkih umova koji bi mogli biti pametniji od nas i koji možda neće raditi ono što želimo.“

Tvrdio je da najsavremenije laboratorije za vještačku inteligenciju moraju funkcionisati poput avijacije ili nuklearne industrije sa slojevima redundantnih zaštitnih mjera i pažljivim planiranjem „kako povremena i neizbježna ljudska greška ne bi otvorila vrata katastrofi“.

Robinson je također insistirao da je pitanje „usklađenosti“, industrijski termin za to kako se vještačka inteligencija može obučiti da poštuje ljudske vrijednosti, ključno, ali nešto što industrija nije uspjela ni definisati, a kamoli savladati.

„Modeli vještačke inteligencije postaju sve bolji i bolji u otkrivanju kada se testiraju i mogli bi se ponašati drugačije kada se zapravo koriste, zavaravajući svoje gospodare.“

Nakon sastanka u utorak u Bijeloj kući, usred globalne zabrinutosti o tome šta vještačka inteligencija znači za čovječanstvo, vodeći rukovodioci vještačke inteligencije rekli su da su se obavezali na mjere samoregulacije, umjesto da se podvrgavaju vladinim pravilima. To uključuje interne kontrole sistema vještačke inteligencije i angažovanje vanjskih analitičara.

Predsjednik Donald Trump se oštro protivi državnoj regulaciji vještačke inteligencije i insistira na tome da su kritike o opasnostima koje ona nosi tek „obmana”.