Nova pravila EU: Sadržaj generisan umjetnom inteligencijom mora biti označen

(Patria) - Evropska komisija od danas, zajedno s nacionalnim tijelima, počinje provoditi pravila Akta o umjetnoj inteligenciji.

Istovremeno se počinju primjenjivati novi zahtjevi za transparentnost, prema kojima će određeni sistemi morati upozoriti korisnike da komuniciraju s umjetnom inteligencijom te označiti sadržaj koji je ona generisala ili izmijenila.

Chatbotovi i drugi interaktivni sistemi morat će korisnicima jasno naznačiti da komuniciraju s umjetnom inteligencijom, a ne s čovjekom.

Slike, videozapisi i audiosadržaji uređeni ili generisani umjetnom inteligencijom, uključujući duboke krivotvorine, morat će biti označeni.

Takav sadržaj morat će sadržavati i strojno čitljive oznake radi lakšeg otkrivanja. Cilj je smanjiti mogućnosti obmane i manipulacije te pomoći građanima da donose informisane odluke.

Komisija je objavila i prvi popis sa više od 180 organizacija koje su potpisale Kodeks dobre prakse za transparentnost sadržaja generisanog umjetnom inteligencijom.

Ured za umjetnu inteligenciju od sada može provoditi pravila za dobavljače modela umjetne inteligencije opće namjene, koji se mogu upotrebljavati za različite zadatke u brojnim alatima i uslugama.

Dodatne obaveze morat će ispunjavati pružatelji najnaprednijih modela koji mogu predstavljati sistemske rizike.

To uključuje opasnosti povezane s hemijskim, biološkim, radiološkim i nuklearnim incidentima, gubitkom kontrole, cyber kriminalom, štetnim manipulacijama i ugrožavanjem temeljnih prava.

Svi pružatelji modela umjetne inteligencije opće namjene morat će dokumentirati određene informacije i dostaviti ih nadležnim tijelima ili drugim pružateljima.

Morat će uspostaviti i politiku zaštite autorskih prava te objaviti dovoljno detaljan sažetak sadržaja korištenog za treniranje modela.

Počinje i provedba zabrane posebno štetnih sistema umjetne inteligencije, među kojima su sistemi koji manipulišu ljudima, na štetan način iskorištavaju njihove ranjivosti ili ih nepravedno ocjenjuju ugrožavajući njihova prava.

Ured za umjetnu inteligenciju provodit će pravila za sisteme koje nudi isti dobavljač kao i osnovni model opće namjene te za sisteme integrisane u vrlo velike internet platforme i tražilice.

Za ostale sisteme bit će nadležna nacionalna tijela, dok će Evropski nadzornik za zaštitu podataka nadzirati sisteme kojima se koriste institucije, tijela i agencije EU.

U provedbi će im pomagati Naučni odbor sastavljen od 60 nezavisnih stručnjaka. Glavnim naučnim savjetnikom Ureda imenovan je profesor Alessandro Abate s Univerziteta Oxford.

Građanima i preduzećima dostupan je alat za podnošenje pritužbi zbog navodnih kršenja Akta o umjetnoj inteligenciji.

Osobe koje rade s dobavljačima sistema ili modela umjetne inteligencije mogu moguća kršenja sigurno prijaviti alatom za zviždače, a poseban kanal namijenjen je i dobavljačima koji na modelima opće namjene razvijaju vlastite sisteme.

Ured za umjetnu inteligenciju najavio je da će sa svim informacijama primljenim tim kanalima postupati povjerljivo.

Primjena pravila za visokorizične sisteme umjetne inteligencije odgođena je do 2. decembra 2027., a za takve sisteme integrisane u regulisane proizvode do 2. avgusta 2028.

Nove zabrane za sisteme koji bez pristanka generišu seksualno eksplicitan sadržaj i materijale koji sadržavaju seksualno zlostavljanje djece počet će se primjenjivati 2. decembra 2026. godine.