Dona do Claude sugere pausa no desenvolvimento da IA por risco de sistemas saírem do controle humano

Entenda embate entre governo dos EUA e Claude, rival do ChatGPT A empresa de IA Anthropic propôs uma pausa global no desenvolvimento de sistemas de IA cada vez mais potentes, diante de sinais de que os modelos mais recentes poderiam escapar do controle humano. Desenvolvedora dos modelos de IA do Claude, a empresa, sediada em San Francisco (EUA), destacou em um relatório que a desaceleração mundial no desenvolvimento da IA de ponta poderia ser "uma boa ideia", mas alertou que, se apenas uma empresa diminuir o ritmo, ela pode simplesmente ser ultrapassada pela concorrência. 🗒️Tem alguma sugestão de reportagem? Envie para o g1 "Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia", manifestou a Anthropic. Uma pausa real significaria grandes empresas de IA em vários países, principalmente China e Estados Unidos, concordando em parar ao mesmo tempo, sob regras que todos pudessem verificar, ressaltou a Anthropic. IA Claude Unsplash/Aerps "Sem um mecanismo de coordenação global, empresas e governos terão que tomar decisões difíceis sobre segurança enquanto enfrentam pressões competitivas e geopolíticas." A proposta enfrenta uma batalha difícil em Washington e no Vale do Silício. Funcionários americanos e executivos de grandes empresas de tecnologia argumentam que desacelerar o desenvolvimento da IA poderia dar à China uma vantagem significativa. O presidente Donald Trump, no entanto, assinou nesta semana um decreto que permitirá ao governo fazer avaliações preliminares dos modelos de IA mais poderosos de empresas americanas antes do seu lançamento. A Anthropic indicou que espera reunir nos próximos meses funcionários do governo, cientistas, grupos de defesa e empresas concorrentes para definir como esse sistema funcionaria. O chamado à coordenação surge no momento em que dados internos mostram que a IA acelera de forma dramática seu próprio desenvolvimento, destacou a Anthropic. A empresa alertou que essa aceleração criaria um ciclo de retroalimentação que poderia levar ao que pesquisadores chamam de "melhora recursiva de si mesma", o que se refere à ideia de que um sistema de IA poderia ser capaz de ensinar a si próprio a se tornar mais inteligente. A Anthropic negou que esse ponto seja inevitável, mas ressaltou que "as evidências sugerem que o papel humano está diminuindo em cada etapa do processo de desenvolvimento da IA". LEIA TAMBÉM: Site rastreia jatos de super-ricos para 'prever o apocalipse' Instagram Plus começa a ser liberado no Brasil; veja preço e recursos exclusivos WhatsApp lança filtros e figurinhas para a Copa do Mundo; veja como usar Instagram Plus é liberado no Brasil; veja preço e benefícios Instants:como funciona o novo recurso do Instagram