A Anthropic e a Accenture anunciaram uma parceria que prevê investimentos de pelo menos US$ 2 bilhões nos próximos cinco anos para ampliar a avaliação independente de modelos avançados de inteligência artificial. Cada empresa deverá aportar ao menos US$ 1 bilhão no desenvolvimento da estrutura de análise e segurança dos sistemas.
A iniciativa ocorre em meio ao aumento das preocupações sobre os riscos associados aos chamados modelos de fronteira, que apresentam capacidades cada vez mais avançadas. O objetivo é criar uma estrutura de avaliação capaz de identificar vulnerabilidades, comportamentos inesperados e possíveis falhas nos mecanismos de proteção antes e durante a utilização desses sistemas.
O trabalho será liderado pela Faculty, unidade especializada em inteligência artificial da Accenture. A equipe atuará dentro da própria Anthropic, em um modelo que as empresas chamam de “avaliação incorporada”. Os avaliadores terão acesso aos sistemas e processos internos em condições semelhantes às de funcionários da companhia, permitindo acompanhar o desenvolvimento e a implementação dos modelos.
Entre as atividades previstas estão testes de segurança, exercícios de red teaming, avaliações de alinhamento e verificação dos mecanismos de proteção utilizados nos modelos da família Claude. O objetivo é tentar identificar pontos cegos e comportamentos que poderiam não ser detectados pelos próprios desenvolvedores durante os ciclos tradicionais de testes.
A parceria também prevê que os avaliadores possam acompanhar decisões relacionadas ao treinamento e à implantação dos modelos. Segundo a Anthropic, esse formato pode permitir uma análise mais ampla sobre a forma como a empresa aplica suas políticas de segurança e se os compromissos assumidos estão sendo efetivamente cumpridos.
A preocupação ganhou força após episódios recentes envolvendo agentes de IA capazes de executar tarefas complexas com menor intervenção humana. Pesquisadores e empresas do setor passaram a discutir com maior intensidade como monitorar sistemas que podem apresentar comportamentos inesperados à medida que ganham autonomia e capacidade de executar diferentes etapas de uma tarefa.
O movimento também ocorre depois de declarações do CEO da Anthropic, Dario Amodei, em defesa de uma maior participação de avaliadores externos no processo de desenvolvimento de modelos avançados. A empresa vem argumentando que a avaliação independente pode complementar os mecanismos internos de segurança e oferecer uma visão diferente sobre os riscos associados às novas tecnologias.
A Anthropic também divulgou recentemente um relatório sobre operações de uso indevido de seus modelos. A companhia afirmou ter identificado e interrompido atividades envolvendo crimes cibernéticos, vigilância, fraude, desenvolvimento de armas e tentativas de destilação ilícita de modelos. Segundo a empresa, os episódios ocorreram entre dezembro de 2025 e agosto de 2026 e envolveram diferentes grupos e regiões.
Além da parceria com a Accenture, a Anthropic afirmou que pretende trabalhar com outros avaliadores e desenvolvedores de inteligência artificial. A empresa também está discutindo projetos-piloto com organizações sem fins lucrativos especializadas em avaliação de segurança de IA, ampliando a possibilidade de diferentes instituições participarem do processo.
A iniciativa ocorre em um momento de forte expansão dos investimentos em inteligência artificial, acompanhado por uma pressão crescente para que empresas demonstrem que seus modelos podem ser desenvolvidos e utilizados com mecanismos adequados de segurança. Para a indústria, o desafio é equilibrar a velocidade de lançamento de novas tecnologias com a capacidade de identificar e reduzir riscos antes que eles se transformem em problemas de maior escala.
Com o investimento anunciado, Anthropic e Accenture pretendem transformar a avaliação independente em uma etapa mais integrada ao desenvolvimento de modelos avançados. A proposta ainda é considerada relativamente nova e vários detalhes operacionais estão em fase de definição, mas representa uma ampliação dos recursos destinados à análise de segurança em um setor que passa por rápida evolução tecnológica.
