„Pedală de frână” pentru IA: apelul cofondatorului Anthropic pentru controlul ritmului de dezvoltare al inteligenței artificiale

Jack Clark, cofondatorul companiei Anthropic, a cerut să se asigure posibilitatea de a încetini evoluția inteligenței artificiale (IA), avertizând că tehnologia se apropie de un punct în care s-ar putea dezvolta fără intervenția umană. „Vrei să ai opțiunea de a lua piciorul de pe accelerație și de a-l pune pe frână”, a declarat Clark pentru BBC. „În acest moment, este ca și cum industria IA ar avea o pedală de accelerație, dar nu are o pedală de frână.”

El a subliniat că oamenii, prin intermediul politicilor guvernamentale, trebuie să păstreze controlul asupra sistemelor de IA, care vor deveni din ce în ce mai puternice și vor avea un impact tot mai mare asupra societății.

Lumea trebuie să se gândească la asta și, în cele din urmă, trebuie să elaborăm noi reglementări care să ne permită să avem încredere în aceste sisteme, a spus el.

Deja, popularul chatbot al Anthropic, Claude, funcționează pe baza unui cod din care 80% a fost scris de sistemul însuși. A ajunge la 100% este posibil în doi ani, a spus Clark, și „ar avea implicații uriașe”.

Clark nu a precizat cum ar putea fi creată o „pedală de frână” pentru cercetarea și dezvoltarea IA, dar a tras o paralelă între inteligența artificială, boom-ul petrolier și baronii de la începutul secolului trecut.

„Răspunsul societății a fost să elaboreze o politică și un cadru de reglementare rezonabile, care să ofere oamenilor încredere în petrol și în beneficiile pe care petrolul le-ar putea aduce lumii, și care să însemne că nu trebuie să-ți faci griji cu privire la personalitatea celor care conduc companiile”, a spus Clark. „Este clar că acolo vom ajunge și noi.”

Cu toate acestea, Anthropic a salutat săptămâna aceasta un decret prezidențial privind IA emis de președintele SUA, Donald Trump, care s-a caracterizat printr-o abordare relativ non-intervenționistă în ceea ce privește directivele adresate companiilor.

Decretul nu a impus companiilor din domeniul IA să se supună unor teste de siguranță efectuate de guvern, acest demers rămânând unul voluntar.

Marile companii din domeniul IA care urmăresc progresul tehnologic, printre care Anthropic, OpenAI și Google, nu au anunțat nici ele că își vor suspenda propriile activități de cercetare.

Clark a spus că motivația Anthropic de a discuta public despre capacitatea crescândă a tehnologiei IA nu este aceea de a-și îmbunătăți și mai mult reputația în fața clienților plătitori. El dorește pur și simplu să „spună lumii ce vedem în interiorul acestor companii cu această tehnologie neobișnuită”.

De la înființarea sa de către directorul executiv Dario Amodei, Clark