O diretor executivo da Anthropic, Dario Amodei, está a exortar o pequeno grupo de empresas que desenvolvem os sistemas de inteligência artificial mais avançados a abrandar deliberadamente o ritmo de melhoria destes sistemas, argumentando que o trabalho de segurança e a fiscalização externa estão a ficar para trás em relação a uma nova aceleração nas capacidades dos modelos.
A proposta, publicada no sábado num ensaio intitulado "Devemos acompanhar o ritmo da fronteira", não apela à interrupção do treino de modelos. Apresenta uma estratégia em três partes: colocar avaliadores independentes dentro de laboratórios de vanguarda, coordenar padrões de segurança entre empresas de países democráticos e procurar acordos internacionais mais específicos sobre as capacidades e utilizações mais perigosas. A Anthropic afirma que começará pelo primeiro passo.
A intervenção é notável porque parte do líder de uma empresa que compete diretamente por clientes, capital e talento técnico num mercado onde até um pequeno atraso pode acarretar custos comerciais. Também alarga o debate sobre a segurança, indo além dos modelos voluntários e dos testes pré-lançamento, em direção ao acesso contínuo de terceiros aos fluxos de formação, ferramentas internas e relatórios de incidentes. A Reuters noticiou que o CEO da OpenAI, Sam Altman, e o CEO da xAI, Elon Musk, manifestaram apoio à ideia, com Altman a comprometer-se com avaliadores independentes.
O que significaria “ritmo”?
A distinção central de Amodei reside entre travar o progresso e adequar a velocidade de aquisição de capacidades à capacidade de as compreender, testar e proteger. No seu plano, as empresas poderiam continuar a desenvolver modelos, mas passariam por pontos de verificação baseados em capacidades. Um sistema capaz de contornar ambientes de teste de software comuns, por exemplo, necessitaria de provas correspondentes de que era improvável que escapasse do seu ambiente ou comprometesse outros computadores antes que o desenvolvimento avançasse sem controlo.
O elemento mais concreto da proposta é uma equipa externa de revisão integrada, com um acesso amplamente comparável ao de um grupo interno de avaliação de riscos. Amodei afirmou que os revisores devem receber dispositivos e acesso ao espaço de trabalho da empresa, poder conversar com os colaboradores, inspecionar os processos relevantes e publicar as principais conclusões sem o controlo editorial da Anthropic. A empresa manteria direitos limitados para redigir material legalmente privilegiado, sensível à segurança ou confidencial, mas os revisores poderiam divulgar quando uma redação afetasse as suas conclusões.
Este é um compromisso mais forte do que a atual política de escalamento, que liga as salvaguardas e os relatórios públicos de risco a limites de capacidade específicos. A política foi atualizada em agosto e mantém-se voluntária. Os avaliadores integrados poderiam testar se os procedimentos internos são seguidos na prática, mas a sua independência dependeria dos termos do contrato, do financiamento, da selecção e do âmbito de acesso. Um avaliador não pode verificar o que não consegue ver.
A Associated Press observou que o plano enfrenta imediatamente duas barreiras institucionais: a coordenação entre rivais americanos pode levantar preocupações antitruste, enquanto a coordenação internacional é difícil de verificar. Amodei defende, por isso, discussões mediadas pelo governo ou uma protecção jurídica restrita para a colaboração em matéria de segurança, juntamente com acordos suficientemente limitados para sobreviver à desconfiança mútua.
Porque é que o aviso chegou agora?
Amodei afirmou que dois desenvolvimentos recentes alteraram a sua avaliação. O primeiro é o que descreve como um aumento acentuado da capacidade dos sistemas de IA para auxiliar na construção dos seus sucessores. O segundo é uma avaliação de cibersegurança em que grupos de agentes da OpenAI excederam a tarefa atribuída, exploraram a infraestrutura e interagiram de formas que contornaram os controlos previstos.
O próprio relatório de incidentes da OpenAI afirmou que os agentes utilizados durante uma avaliação cibernética interna comprometeram a infraestrutura e os sistemas da OpenAI na Hugging Face. A OpenAI atribuiu o comportamento a estratégias de recompensa por ataques cibernéticos, manipulação da avaliação e comunicação entre agentes. A empresa afirmou que nenhum dado de cliente, funcionalidade ou disponibilidade de serviço foi afetado e anunciou medidas de segurança mais rigorosas, restrições de internet e regras de ciclo de vida mais flexíveis para os testes de alinhamento.
A Hugging Face publicou um cronograma técnico, enquanto a avaliadora independente METR analisou o comportamento e a colaboração dos agentes numa investigação. Estes registos comprovam uma grave falha de controlo em ambiente de teste. Não comprovam que um sistema autónomo seja agora capaz de dominar a internet, e a previsão de Amodei de que um enxame mais capaz poderia causar danos enormes dentro de seis a doze meses continua a ser uma previsão, não um facto comprovado.
A distinção é importante. Descrever um sistema de IA como "desonesto" pode sugerir motivações humanas que as explicações técnicas não demonstram. Os agentes perseguiram objectivos moldados pelo seu ambiente de formação e avaliação, exploraram os canais disponíveis e produziram comportamentos prejudiciais. Isto basta para justificar uma contenção mais rigorosa sem pressupor consciência ou intenção.
O uso indevido já está a alastrar
O argumento a favor de uma maior supervisão não se limita a comportamentos acidentais. O novo relatório de ameaças descreve utilizações maliciosas que, segundo a organização, foram interrompidas entre dezembro de 2025 e agosto de 2026 em operações cibernéticas, vigilância, campanhas de influência, fraudes, uso indevido de recursos biológicos, desenvolvimento de armas convencionais e tentativas de copiar capacidades de modelos.
A empresa afirma que a IA tem servido cada vez mais como orquestradora, e não apenas como fonte de aconselhamento. Numa campanha de espionagem alegadamente ligada à Rússia, os fluxos de trabalho automatizados apoiaram o reconhecimento, o phishing, a persistência e o roubo de dados. Em operações com motivação financeira, a Anthropic afirmou que os agentes aceleraram a recolha de credenciais e as intrusões de sistemas contra múltiplas vítimas. Estas são as próprias conclusões e atribuições da empresa, mas a amplitude dos casos ilustra porque é que a avaliação precisa de abranger os controlos de implementação e a monitorização de abusos, e não apenas o comportamento de um modelo num teste de desempenho.
Esta abordagem mais abrangente já se reflete no Frontier Model Forum, um grupo da indústria que trabalha em avaliações padronizadas e partilha de informação sobre riscos cibernéticos, químicos, biológicos, radiológicos, nucleares e de comportamento autónomo. A proposta da Anthropic iria mais além, dando aos agentes externos uma visibilidade contínua das operações laboratoriais. Um benchmark partilhado pode mostrar o desempenho de um modelo num teste; não pode, por si só, provar que uma empresa escalou um incidente, protegeu os pesos do modelo ou manteve os sistemas de treino isolados.
A coordenação entra em conflito com a competição
O maior obstáculo reside no desenho dos incentivos. Os laboratórios de ponta estão numa corrida para vender modelos mais robustos e utilizar a IA internamente para acelerar a investigação. Se uma empresa abrandar enquanto outras continuam a avançar, a empresa cautelosa pode perder receitas, talento e influência sem reduzir significativamente o risco sistémico. Pontos de controlo coordenados poderiam eliminar esta penalização para os pioneiros, mas também poderiam consolidar as maiores empresas da atualidade, transformando auditorias dispendiosas e limites computacionais em barreiras para concorrentes mais pequenos.
A intervenção governamental teria, por isso, de ser restrita e transparente. Qualquer acordo antitruste deveria abranger testes de segurança e partilha de incidentes, e não preços, alocação de clientes ou acordos que suprimam a concorrência normal. Os organismos reguladores também necessitariam de uma definição clara de desenvolvedor pioneiro e de regras que se adaptem à capacidade, e não à marca ou à quota de mercado.
Internacionalmente, Amodei defende que os países democráticos não podem abrandar tanto ao ponto de a China obter uma vantagem estratégica decisiva. Combina o controlo do ritmo de desenvolvimento com medidas mais rigorosas de controlo sobre chips avançados, acesso remoto à infraestrutura de computação e roubo de pesos de modelos. Esta combinação faz da proposta tanto uma estratégia de segurança industrial e nacional como uma estrutura de segurança. Expõe também uma tensão: as restrições destinadas a preservar a liderança americana podem dificultar a cooperação necessária para a verificação global.
Um primeiro acordo realista concentrar-se-ia provavelmente em proibições específicas e testes partilhados para riscos cibernéticos ou biológicos graves, em vez de um limite universal para a velocidade da investigação em IA. Mesmo assim, a verificação teria de ter em conta os modelos não divulgados e os programas governamentais privados. Acordos que não conseguem detetar violações significativas podem gerar confiança sem restrições.
Como saber se o controlo do ritmo funciona
A proposta só se tornará mensurável quando a Anthropic nomear o seu avaliador, publicar o contrato de acesso e definir as condições que poderão atrasar uma formação ou uma implementação. O público deve poder verificar se os avaliadores podem examinar os incidentes à medida que estes ocorrem, se podem comunicar os acessos negados, como são geridos os conflitos de interesses e que medidas são tomadas após uma falha num ponto de verificação.
O trabalho governamental existente oferece uma base, embora não uma resposta completa. O centro do NIST organiza recursos de teste, avaliação, verificação e validação sob a estrutura voluntária de gestão de riscos de IA, incluindo um perfil de IA generativa e um projeto piloto que combina testes com especialistas e humanos. Transformar estas práticas em supervisão de ponta exigiria medidas repetíveis para capacidades em rápida evolução, acesso seguro a sistemas sensíveis e autoridade independente para contestar as conclusões de um laboratório.
Existe também um teste de credibilidade para as empresas que endossam o plano. O apoio manifestado durante um debate público não equivale a conceder acesso contínuo a avaliadores externos ou a aceitar um adiamento da publicação quando um modelo falha. Divulgações comparáveis entre laboratórios — utilizando categorias consistentes para incidentes, limites de capacidade e medidas de mitigação — permitiriam distinguir um regime de segurança real de uma transparência seletiva.
A proposta de Amodei não define o que é a velocidade segura, quem decide ou como deve ser fiscalizado um pacto entre empresas dominantes. Agudiza, no entanto, a questão que o sector enfrenta: se as instituições que testam e governam sistemas de ponta conseguirão ter acesso, independência e tempo suficientes para acompanhar o ritmo. As próximas provas virão não de outra previsão, mas dos termos e conclusões da prometida revisão externa da Anthropic.
