O Pentágono e a Anthropic entraram em um impasse sobre os limites de uso de sistemas de IA em operações militares e de segurança interna. Segundo fontes ouvidas pela Reuters, o principal ponto de discordância envolve salvaguardas exigidas pela desenvolvedora para impedir que suas tecnologias sejam usadas em armas autônomas ou em vigilância doméstica contra cidadãos dos Estados Unidos.
O embate ocorre após meses de negociações envolvendo um contrato do Departamento de Defesa com a empresa que pode chegar a US$ 200 milhões. De acordo com as fontes, a companhia defende restrições mais rígidas sobre como seus modelos podem ser utilizados, enquanto o Pentágono sustenta que deve ter autonomia para aplicar tecnologias comerciais de IA, desde que respeite a legislação dos EUA.
A discussão é vista como um teste da relação entre o Vale do Silício e Washington, num momento em que empresas de tecnologia voltaram a se aproximar do governo após anos de tensões. O resultado pode influenciar como ferramentas de IA cada vez mais avançadas serão incorporadas às estratégias militares e de inteligência do país.
A posição da Anthropic irritou o Pentágono. Em um memorando interno datado de 9 de janeiro, autoridades do Departamento de Defesa argumentaram que políticas de uso impostas por empresas privadas não deveriam limitar a atuação do governo. Já representantes da empresa temem que suas tecnologias sejam usadas para monitorar a população ou orientar ataques sem supervisão humana adequada.
Pentágono segue dependente da Anthropic
Apesar do conflito, o Pentágono pode continuar dependente da colaboração da empresa. Os modelos da Anthropic são desenvolvidos com mecanismos para evitar comportamentos potencialmente nocivos. Segundo as fontes, adaptações específicas para uso militar exigiriam o envolvimento direto de seus engenheiros.
Procurado pela Reuters, o Departamento de Defesa não comentou o assunto. Já a Anthropic afirmou, em nota, que suas soluções “são amplamente utilizadas em missões de segurança nacional pelo governo dos EUA” e que mantém “discussões produtivas” com o que o governo Trump passou a chamar de Departamento de Guerra.
A disputa surge em um momento sensível para a desenvolvedora, que se prepara para uma possível abertura de capital e vem investindo pesado na conquista de contratos na área de segurança nacional. No ano passado, a Anthropic esteve entre as poucas empresas selecionadas para trabalhar com o Pentágono, ao lado de nomes como Google, OpenAI e xAI, de Elon Musk.
Mesmo assim, o posicionamento cauteloso da empresa não é novo. Em texto recente publicado em seu blog, o CEO Dario Amodei afirmou que a IA deve reforçar a defesa nacional “em todos os aspectos, exceto naqueles que nos tornariam semelhantes a regimes autocráticos”. Ele também se manifestou publicamente contra ações violentas do governo em episódios recentes de repressão a protestos, o que ampliou o debate sobre os riscos do uso estatal dessas ferramentas.
O post Quem controla a IA militar? Pentágono e Anthropic entram em um impasse apareceu primeiro em Olhar Digital.
