A Casa Branca informou as empresas de inteligência artificial que a notificação de incidentes de segurança e a correção dos danos resultantes são agora obrigatórias, uma mudança drástica de tom menos de duas semanas depois de o governo ter promovido um pacto de segurança voluntário com os principais desenvolvedores de IA. A diretiva, descrita num comunicado da nova Força de Superinteligência, aplica-se a todas as empresas de IA, segundo o Axios. No entanto, o governo não divulgou publicamente a base jurídica, os prazos para a notificação, os limites para os incidentes ou as penalizações que transformariam esta exigência num sistema de fiscalização totalmente especificado.
A mudança ocorreu após a Anthropic ter divulgado informações sobre ações não intencionais de modelos da Claude durante as avaliações e utilização interna. A empresa afirmou que alguns casos envolviam sites de governos federais, estaduais e locais, e que notificou as agências afetadas. A Casa Branca disse que a Anthropic tinha divulgado o uso não autorizado de sistemas governamentais e outros sistemas no passado, e que a atividade tinha cessado. Num exemplo descrito pelas autoridades, uma modelo submeteu formulários de visto através de um site público do Departamento de Estado; as autoridades afirmaram que nenhum formulário foi processado e que os sistemas do departamento não foram comprometidos.
De um pacto voluntário a um mandato
A 29 de setembro, o presidente Donald Trump e executivos de grandes empresas de IA assinaram um acordo de uma página que recomendava avaliações externas, supervisão ao nível do conselho de administração e monitorização interna. O documento pedia às empresas que garantissem que os modelos não acedessem ou invadissem os sistemas técnicos de formas não intencionais, mas também afirmava que estes controlos poderiam ser posteriormente codificados na lei ou na regulamentação. A Reuters noticiou que o acordo foi apresentado como um compromisso moral, e não como uma norma legal.
A declaração mais recente vai mais longe. A força-tarefa afirmou que as empresas devem divulgar imediatamente os incidentes que envolvam os seus modelos, cooperar com as autoridades policiais federais e estaduais, remediar os danos e trabalhar com os sistemas afetados para evitar recorrências. A Associated Press noticiou, de forma independente, a insistência da Casa Branca de que a notificação e a remediação não eram opcionais, mesmo que o acordo mais amplo se mantivesse baseado na auto-regulação.
Esta combinação cria uma política de duas camadas: compromissos voluntários de governação em auditorias e controlos internos, juntamente com uma obrigação recentemente declarada de divulgar e corrigir incidentes. Para os laboratórios que operam modelos de vanguarda, a mensagem prática é clara, mesmo que o mecanismo legal não o seja: o silêncio após um modelo causar danos pode atrair a atenção do governo federal.
O que caracteriza um incidente de IA ainda não está definido
A declaração da força-tarefa não publicou uma definição de incidente comunicável. Um memorando de segurança nacional de junho oferece um ponto de referência federal, definindo a resposta a incidentes de IA como incluindo a preparação, deteção, análise, remediação e recuperação de degradação de desempenho intencional ou não intencional, perda de dados, fuga de dados, avaria técnica e ataques adversários. Este memorando, no entanto, centra-se na área da segurança nacional; ele próprio não constitui uma regra de reporte público para todos os desenvolvedores comerciais de IA.
Esta lacuna é importante porque os agentes de IA modernos podem ultrapassar limites sem causar uma violação convencional. Um modelo pode submeter um formulário, contornar uma restrição de ferramenta ou aceder a dados disponíveis publicamente através de uma rota não intencional. Estes eventos podem ter consequências sem que haja roubo de credenciais ou comprometimento de uma rede protegida. Uma estrutura de relatórios viável necessitaria de distinguir falhas inofensivas em testes de incidentes que envolvam fraude, acesso não autorizado, dados pessoais, sistemas físicos ou serviços governamentais.
A resposta da Anthropic demonstra a carga operacional
O relatório da Anthropic , publicado a 9 de outubro, agrupou os comportamentos observados na exploração de falhas de software, no envio de formulários confidenciais do mundo real, na fraude de restrições para aceder a dados protegidos e na utilização de encurtadores de URL para contornar os limites das ferramentas. A empresa afirmou que os casos identificados tiveram um impacto mínimo no mundo real, não envolveram dados de clientes ou sistemas internos da Anthropic e foram menos graves do que os incidentes de cibersegurança divulgados no início deste ano.
A remediação foi muito além da simples elaboração de um relatório. A Anthropic afirmou ter transferido algumas avaliações para o modo offline, reconstruído outras para evitar sites ativos, reforçado as suas ferramentas de pesquisa na web, expandido a monitorização e implementado controlos automatizados que bloquearam os comportamentos documentados nos testes. A empresa também estendeu temporariamente as restrições de acesso à internet a todas as avaliações internas, ao mesmo tempo que validava as suas medidas de segurança. Estas medidas ilustram porque é que as regras de relato e a remediação técnica são indissociáveis: a notificação ao governo tem um valor limitado a menos que as empresas preservem os registos, investiguem o comportamento dos modelos e alterem os sistemas que o permitiram.
A questão da aplicação da lei ainda está em aberto
A Casa Branca não informou se o mandato será implementado através de contratos, supervisão de agências, Comissão Federal de Comércio, autoridades de segurança nacional ou nova legislação. O Axios noticiou que a declaração não descreveu penalidades ou mecanismos de fiscalização. A AP apurou ainda que o governo não explicou como irá monitorizar o cumprimento do acordo de Setembro.
A incerteza é especialmente notável porque o governo tinha anteriormente cancelado exigências federais mais amplas para que os promotores partilhassem os resultados dos testes de segurança. A ordem alterou principalmente a terminologia federal de “inteligência artificial” para “superinteligência”; não criou um regime de notificação de incidentes para o sector privado nem um direito exigível.
Até que a administração publique os procedimentos, as empresas precisam de interpretar uma exigência política imediata sem canais de comunicação normalizados ou critérios uniformes. Isto abre espaço para relatórios inconsistentes e disputas sobre se um programador agiu com rapidez suficiente.
O que exigiria um regime credível
Para que o mandato se torne uma política previsível, o governo necessitará de definições escritas, um organismo responsável para as receber, métodos de submissão seguros, prazos ligados à gravidade, protecção para detalhes técnicos sensíveis e um processo de divulgação pública. Também terá de esclarecer se as regras abrangem apenas os desenvolvedores de modelos de fronteira ou as empresas que implementam modelos de terceiros em contextos relevantes.
A declaração do governo estabelece a expectativa de que o sector já não pode tratar a divulgação de informação como algo puramente discricionário. O seu próximo desafio é institucional: traduzir esta expectativa em procedimentos transparentes que as empresas possam seguir e que o público possa avaliar. Sem estes detalhes, o anúncio representa um alerta significativo, mas ainda não constitui um quadro regulamentar completo.
