Melhor que qualquer 'hacker' humano: o que é o novo modelo de inteligência artificial que assusta o sistema financeiro

Anthropic Reuters via BBC Nas últimas semanas, o mundo da inteligência artificial tem andado em polvorosa após alegações feitas pela empresa líder Anthropic sobre seu novo modelo, Claude Mythos. A empresa afirma ter descoberto que a ferramenta pode superar humanos em algumas tarefas de hacking e segurança cibernética — o que levou reguladores, parlamentares e instituições financeiras a discutirem os perigos que ela poderia representar para serviços digitais. Baixe o GloboPop para assistir a vídeos curtos verticais da Globo Várias gigantes da tecnologia receberam acesso ao Mythos por meio de uma iniciativa chamada Project Glasswing, concebida para reforçar a resiliência contra o próprio Mythos. A Anthropic anunciou esta semana que vai estender o acesso ao Mythos para outras 150 instituições em setores diversos, como energia, água, saúde, comunicações e equipamentos. Novos parceiros precisarão atender a requisitos de segurança antes de obterem acesso ao modelo. Alguns analistas ainda são mais céticos sobre a capacidade do Mythos e dizem que é do interesse da Anthropic sugerir que ela possui uma ferramenta com habilidades nunca antes vistas. O tema também causou medo no sistema financeiro e chegou a ser abordado em reunião do FMI em Washington envolvendo autoridades internacionais. Na prática — como costuma acontecer com a IA — a tarefa de distinguir entre fatos e exageros é complicada. O que é o Claude Mythos? O Mythos é um dos modelos mais recentes da Anthropic, desenvolvido como parte de seu sistema de IA mais amplo chamado Claude. Ele engloba o assistente de IA e a família de modelos da empresa, rivalizando com o ChatGPT da OpenAI e o Gemini do Google. Ele foi apresentado pela Anthropic no início de abril como "Mythos Preview". Pesquisadores que testam como modelos de IA lidam com solicitações ou tarefas específicas, conhecidos como "red teams", disseram em um relatório que o Mythos era "incrivelmente capaz em tarefas de segurança de computadores". Eles descobriram que a ferramenta poderia localizar bugs inativos escondidos em códigos de décadas atrás e explorá-los com facilidade. Em vez de disponibilizá-lo amplamente aos utilizadores do Claude, a Anthropic concedeu acesso a 12 empresas de tecnologia por meio do Project Glasswing, que descreveu como "um esforço para proteger sistemas essenciais de software". Entre elas estão a gigante de computação em nuvem Amazon Web Services, os fabricantes de dispositivos Apple, Microsoft e Google, e os fabricantes de chips Nvidia e Broadcom. A Crowdstrike, cuja atualização defeituosa de software causou uma grande interrupção global em julho de 2024, também está entre os parceiros do projeto, e a Anthropic afirma ter concedido acesso ao Mythos a mais de 40 organizações responsáveis por softwares considerados críticos. Em um vídeo divulgado junto com o lançamento do Project Glasswing, o chefe da Anthropic, Dario Amodei, disse que a empresa se ofereceu para trabalhar com funcionários do governo dos EUA a fim de "ajudar a se defender contra o risco desses modelos". Por que existem preocupações? A Anthropic afirma que, durante os testes, descobriu que o modelo é altamente habilidoso em tarefas de segurança cibernética e hacking, superando humanos. "O Mythos Preview já encontrou milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores web", afirmou a Anthropic em 7 de abril. "Dada a velocidade do progresso da IA, não demorará muito para que tais capacidades se disseminem, potencialmente além de agentes comprometidos com seu uso seguro." A empresa disse que ele poderia localizar — com pouca supervisão — falhas críticas que exigem ação imediata em sistemas antigos, incluindo uma vulnerabilidade que esteve presente em um sistema por 27 anos, e sugerir maneiras de explorá-las. Desde então, alguns ministros das finanças, banqueiros centrais e executivos do setor financeiro expressaram sérias preocupações, temendo que o modelo possa comprometer a segurança dos sistemas financeiros. O ministro das Finanças do Canadá, François-Philippe Champagne, disse à BBC que o Mythos foi discutido em uma reunião do Fundo Monetário Internacional (FMI) em Washington em abril. "Certamente é sério o suficiente para merecer a atenção de todos os ministros das Finanças", disse ele. O diretor do Banco da Inglaterra, Andrew Bailey, disse à BBC: "Temos de analisar com muito cuidado agora o que esse desenvolvimento recente da IA pode significar para o risco de crime cibernético." A União Europeia disse que também está em discussões com a Anthropic sobre suas preocupações relacionadas ao Mythos. Em maio, o bloco europeu recebeu acesso à ferramenta. O que dizem os especialistas cibernéticos? Ciaran Martin, ex-chefe do Centro Nacional de Segurança Cibernética do Reino Unido, disse à BBC no início desta semana que a alegação de que o Mythos pod