A empresa de inteligência artificial Anthropic lançou esta quinta-feira um apelo urgente a uma pausa global no desenvolvimento dos sistemas de IA mais poderosos, advertindo que os modelos de última geração começam a apresentar sinais preocupantes de que poderão escapar ao controlo humano. A proposta, publicada num relatório detalhado, surge num momento de aceleração sem precedentes na corrida tecnológica entre os Estados Unidos e a China.
Uma Pausa Coordenada a Nível Mundial
A Anthropic, sediada em São Francisco e responsável pela família de modelos Claude, afirmou que uma desaceleração mundial no desenvolvimento de IA de fronteira seria «provavelmente uma coisa boa», mas reconheceu que, se apenas uma empresa parasse, as rivais continuariam a avançar. «Acreditamos que seria bom para o mundo ter a opção de abrandar ou pausar temporariamente o desenvolvimento de IA de fronteira, para permitir que as estruturas sociais e a investigação em alinhamento acompanhem o avanço da tecnologia», lê-se no documento.
Para que uma pausa real funcionasse, seria necessário que várias grandes empresas de IA em vários países — nomeadamente os EUA e a China — concordassem em parar simultaneamente, sob regras verificáveis por todos. «Sem um mecanismo de coordenação global, as empresas e os governos terão de tomar decisões difíceis sobre segurança sob pressões competitivas e geopolíticas», alertou a empresa.
O Problema da Melhoria Recursiva
A Anthropic comparou o desafio aos tratados de controlo de armamento nuclear, mas admitiu que seria ainda mais difícil de gerir, uma vez que o treino de IA é muito mais fácil de ocultar do que um silo de mísseis. A empresa revelou dados internos que mostram que a IA já está a acelerar dramaticamente o próprio desenvolvimento da IA, criando um ciclo de retroalimentação que poderá conduzir ao que os investigadores denominam «melhoria recursiva» — a ideia de um sistema de IA capaz de se tornar progressivamente mais inteligente sem grande intervenção humana.
«Não estamos lá ainda, e a melhoria recursiva não é inevitável», reconheceu o relatório, acrescentando que poderá chegar mais cedo do que a maioria dos governos e instituições está preparada para enfrentar. «As evidências sugerem que o papel humano está a estreitar-se em cada etapa do processo de desenvolvimento de IA», concluiu a empresa.
Resistência em Washington e no Vale do Silício
A proposta enfrenta uma batalha difícil em Washington e no Vale do Silício, onde funcionários norte-americanos e executivos tecnológicos têm argumentado repetidamente que qualquer abrandamento no desenvolvimento de IA arrisca entregar à China uma vantagem estratégica decisiva. Ainda assim, o presidente Donald Trump afirmou ter discutido a possibilidade de cooperar com a China em questões de segurança da IA durante a sua recente visita a Pequim, e assinou esta semana uma ordem executiva que permite ao governo 30 dias para realizar uma revisão preliminar dos modelos de IA norte-americanos mais poderosos antes da sua divulgação.
A Anthropic planeia reunir nos próximos meses funcionários governamentais, cientistas, grupos de defesa e empresas de IA concorrentes para estudar como tal sistema de coordenação poderia funcionar na prática.
