Kalifornija sprejela prvi ameriški zakon, ki zahteva varnostne ukrepe za AI chatbotove

(Patria) - Guverner Kalifornije Gavin Newsom je podpisal prvi zakon, ki ureja chatbote, ki temeljijo na umetni inteligenci (AI), in kljub pritisku Bele hiše, da se takšna tehnologija prepusti nekontrolirana, je poročal AFP.

„Videli smo nekatere resnično grozljive in tragične primere mladih, ki jim je škodovala neregulirana tehnologija, in ne bomo stali ob strani, medtem ko podjetja nadaljujejo brez potrebnih omejitev in odgovornosti,“ je dejal Newsom včeraj po podpisu zakona.

Ta pomemben zakon od operaterjev chatbotov zahteva, da izvajajo „kritične“ varnostne ukrepe v zvezi z interakcijami z chatboti, ki temeljijo na umetni inteligenci, in omogoča ljudem, da vložijo tožbe, če neuspeh pri tem povzroči tragedije, je dejal državni senator Steve Padilla, demokrat, ki je sponzoriral zakon.

Zakon sledi odkritjem samomorov najstnikov, ki so uporabljali chatbote, preden so si vzeli življenje.

„Tehnološka industrija je motivirana, da pritegne pozornost mladih in jo obdrži na račun njihovih odnosov v resničnem svetu,“ je dejal Padilla, preden je zakon sprejel državni senat.

Padilla se je skliceval na nedavne samomore najstnikov, vključno s štirinajstletnim sinom matere Megan Garcia s Floride. Sin Megan Garcia, Sewell, se je zaljubil v chatbota, navdihnjenega z „Igro prestolov“ na platformi Character.AI, ki uporabnikom, od katerih so mnogi mladi, omogoča interakcijo z ljubljenimi liki kot prijatelji ali ljubimci.

Ko se je Sewell boril s samomorilnimi mislimi, ga je chatbot povabil, naj „pride domov“.

Sekunde kasneje se je Sewell ustrelil z očetovo pištolo, glede na tožbo, ki jo je Garcia vložil proti Character.AI.

„Danes je Kalifornija zagotovila, da spremljevalni chatbot ne bo mogel govoriti z otrokom ali ranljivo osebo o samomoru, niti ne bo mogel pomagati osebi pri načrtovanju lastnega samomora,“ je dejala Garcia o novem zakonu.

„Končno obstaja zakon, ki od podjetij zahteva, da zaščitijo svoje uporabnike, ki izražajo samomorilne misli prek chatbotov.“

V Združenih državah ni nacionalnih pravil, namenjenih zajezitvi tveganj umetne inteligence, in Bela hiša si prizadeva preprečiti posameznim državam, da bi vzpostavile lastna pravila.