Ameriški senatorji zaskrbljeni zaradi umetne inteligence: Možni biološki napadi

(Patria) - Tako demokratski kot republikanski senatorji so v torek izrazili zaskrbljenost zaradi potenciala zlonamerne uporabe umetne inteligence (UI), s poudarkom na možnosti njene uporabe za izvedbo biološkega napada, je poročal Reuters.

Na zaslišanju pred pododborom pravosodnega odbora senata je Dario Amodei, izvršni direktor podjetja UI Anthropic, dejal, da bi UI lahko pomagala sicer neizkušenim zlonamernim akterjem pri razvoju biološkega orožja.

„Določeni koraki pri proizvodnji biološkega orožja vključujejo znanje, ki ga ni mogoče najti na Googlu ali v učbenikih in zahteva visoko stopnjo strokovnega znanja,“ je dejal Amodei, čigar podjetje je sodelovalo s strokovnjaki za biološko varnost pri študiji bioloških tveganj, ki izhajajo iz UI.

„Ugotovili smo, da lahko današnja orodja UI izpolnijo nekatere od teh korakov,“ je dejal.

Amodei je dejal, da UI še ni sposobna pomagati pri izdelavi biološkega orožja, kar je označil za „srednjeročno“ tveganje.

„Ker omogočamo številnim drugim akterjem, da izvedejo biološke napade v velikem obsegu, menimo, da to predstavlja resno grožnjo nacionalni varnosti Združenih držav,“ je dejal.

Predsednik pododbora Richard Blumenthal, demokrat, je opozoril na nevarnost.

„Strokovnjaki, ki gradijo te sisteme, opozarjajo na izumrtje človeštva,“ je dejal v uvodnem nagovoru.

„Cilj te razprave je postaviti temelje za zakonodajo. Da preidemo od splošnih načel k konkretnim priporočilom. Da izkoristimo to zaslišanje za pisanje zakona,“ je dodal.

Senator Josh Hawley, republikanec, je pozval k zaščitnim ukrepom, „ki bodo zagotovili, da bo ta nova tehnologija dejansko dobra za ameriški narod“.

Zaslišanje poteka nekaj dni po tem, ko so se podjetja za umetno inteligenco, vključno z OpenAI, Alphabet in Meta Platforms, prejšnji teden prostovoljno zavezala Beli hiši, da bodo uvedla ukrepe, kot je dodajanje vodnega žiga vsebini, ustvarjeni z umetno inteligenco, da bi bila tehnologija varnejša.

Odkar je generativna umetna inteligenca, ki uporablja podatke za ustvarjanje nove vsebine, kot je človeško zveneča proza ​​ChatGPT, začela polniti naslove časopisov v začetku tega leta, so zakonodajalci po vsem svetu začeli razmišljati, kako zmanjšati nevarnosti nove tehnologije za nacionalno varnost in gospodarstvo.