UN panel upozorava: AI može izazvati katastrofalnu štetu

Razvoj vještačke inteligencije ide brže od nauke i regulative, dok vlade pokušavaju da odgovore na sve veće bezbjednosne rizike

Razvoj vještačke inteligencije nadmašuje naučno razumijevanje i vladine politike, što znači da nema garancija da ta tehnologija neće izazvati katastrofalnu štetu, upozorio je danas nezavisni panel Ujedinjenih nacija.

U preliminarnom izvještaju Nezavisnog međunarodnog naučnog panela UN-a o vještačkoj inteligenciji navodi se da se kreatori politika suočavaju sa sve većom dilemom: potrebni su im čvrsti dokazi kako bi efikasno regulisali vještačku inteligenciju, ali ti dokazi teško uspijevaju da drže korak s brzim razvojem tehnologije.

„Kapaciteti vještačke inteligencije nadmašuju i naučno razumijevanje i sposobnost vlada da se prilagode”, rekao je Jošua Bendžio, kopredsjedavajući panela koji čini 40 eksperata iz različitih regiona.

„Uz sve više dokaza o obmanjujućem ponašanju vještačke inteligencije, nauka trenutno ne može garantovati da, kako se njene sposobnosti budu povećavale, AI neće izazvati katastrofalnu štetu, bilo samostalno ili zbog zlonamjernih korisnika.”

Izvještaj, opisan kao prva globalna nezavisna procjena rizika i mogućnosti AI, ima za cilj da pruži ažurne naučne procjene kako bi pomogao u donošenju odluka dok se vlade suočavaju sa sistemima koji se brzo razvijaju.

U kratkom roku očekuje se zaokret ka autonomnim AI sistemima sposobnim da obavljaju zadatke u stvarnom svijetu, iako bi rast mogao biti ograničen nestašicom energije i visokokvalitetnih podataka. Dugoročno, predviđa se samounapređujuća AI, dublje ugrađena u ekonomiju i povezana s tehnologijama poput kvantnog računarstva i biotehnologije.

AI već pokazuje ekspertski nivo rasuđivanja u matematici i nauci i ubrzava razvoj ljekova i vakcina, a složenost zadataka koje može obavljati udvostručava se na svaka četiri do sedam mjeseci, što bi sistemima moglo omogućiti da završe posao za koji su ljudima potrebni dani ili sedmice, navodi se u izvještaju.

Iako bi to moglo donijeti značajne ekonomske koristi, i dalje nije jasno da li će se povećanje produktivnosti zahvaljujući upotrebi AI pretočiti u širi rast ili uticati na radna mjesta.

Panel je takođe ukazao na niz bezbjednosnih problema, poput rizika od gubitka kontrole nad AI sistemima kako budu postajali sve autonomniji i skloniji obmanjivanju.

AI se već koristi za generisanje dezinformacija i drugog štetnog sadržaja, a mogla bi biti zloupotrijebljena za prevare, sajber napade i biološke prijetnje.

Upravljanje je i dalje fragmentisano, pri čemu mnoge zemlje nemaju kapacitet da procijene ili oblikuju na