California donijela prvi američki zakon koji zahtijeva sigurnosne mjere za AI chatbotove

(Patria) - Guverner Californije Gavin Newsom potpisao je prvi zakon koji reguliše chatbotove zasnovane na vještačkoj inteligenciji (AI), prkoseći pritisku Bijele kuće da se takva tehnologija ostavi nekontrolisanom, javio je AFP.

„Vidjeli smo neke zaista užasne i tragične primjere mladih ljudi kojima je naudila neregulisana tehnologija i nećemo stajati po strani dok kompanije nastavljaju bez neophodnih ograničenja i odgovornosti“, rekao je Newson jučer nakon potpisivanja zakona.

Ovaj značajan zakon zahtijeva od operatera chatbotova da implementuju „kritične“ zaštitne mjere u vezi sa interakcijama sa chatbotovima zasnovanim na vještačkoj inteligenciji i pruža mogućnost ljudima da podnesu tužbe ako neuspjeh u tome dovede do tragedija, prema riječima državnog senatora Stevea Padille, demokrate koji je sponzorisao zakon.

Zakon dolazi nakon otkrića samoubistava tinejdžera koji su koristili chatbotove prije nego što su sebi oduzeli život.

„Tehnološka industrija je motivisana da privuče pažnju mladih ljudi i zadrži je na štetu njihovih odnosa u stvarnom svijetu“, rekao je Padilla prije nego što je zakon glasan u državnom senatu.

Padilla se osvrnuo na nedavna samoubistva tinejdžera, uključujući četrnaestogodišnjeg sina majke Megan Garcia iz Floride. Sin Megan Garcie, Sewell, zaljubio se u chatbota inspirisanog „Igrom prijestolja“ na platformi Character.AI, koja omogućava korisnicima, od kojih su mnogi mladi, da komuniciraju sa voljenim likovima kao prijatelji ili ljubavnici.

Kada se Sewell borio sa suicidalnim mislima, chatbot ga je pozvao da „dođe kući“.

Sekunde kasnije, Sewell se upucao očevim pištoljem, prema tužbi koju je Garcia podnio protiv Character.AI.

„Danas je California osigurala da chatbot pratilac neće moći razgovarati s djetetom ili ranjivom osobom o samoubistvu, niti će chatbot moći pomoći osobi da isplanira vlastito samoubistvo“, rekla je Garcia o novom zakonu.

„Konačno, postoji zakon koji zahtijeva od kompanija da zaštite svoje korisnike koji izražavaju suicidalne ideje chatbotovima.“

U Sjedinjenim Državama ne postoje nacionalna pravila usmjerena na suzbijanje rizika od
vještačke inteligencije, a Bijela kuća nastoji spriječiti pojedinačne države da uspostave vlastita pravila.