Na última terça-feira (03), o empresário Sam Altman disse aos seus funcionários que não controla como o Pentágono utiliza o sistema de inteligência artificial da OpenAI, empresa na qual é CEO. A informação foi apurada pela Bloomberg e CNBC.
O Pentágono é a sede do Departamento de Defesa dos EUA: uma unidade responsável por centralizar equipes de administração, inteligência e forças armadas para arquitetar planos nacionais e internacionais de ataque e defesa.
Em meados de fevereiro, o jornal The Wall Street Journal informou que a sede utilizou a IA do software Claude, da empresa Anthropic, para auxiliar na captura do ditador Nicolás Maduro. A Anthropic não apreciou a informação, a situação ocasionou um conflito e os EUA ordenaram aos militares que parassem de usar os serviços da Anthropic.
Após a ruptura dos EUA com a empresa, a OpenAI de Sam Altman apareceu como uma substituta para ceder o software de inteligência artificial para propósitos militares.
Para quem tem pressa:
Segundo relatórios dos jornais Bloomberg e CNBC, o empresário Sam Altman teria dito aos seus funcionários que a OpenAI não controla o uso militar que fazem de sua IA;
A fala pegou mal para os funcionários e entusiastas do uso de IA;
Agora, o público se pergunta se a OpenAI aceitará cruzar o limite ético — quanto ao uso de IA por militares — que outrora fez a Anthropic recuar.
OpenAI e o limite ético no uso de IA por militares
Segundo o jornal The Guardian, as alegações do CEO da OpenAI ocorrem em um momento complicado no qual a opinião pública e os próprios desenvolvedores de software questionam a ética de como a IA é utilizada por militares.
“Você não pode tomar decisões operacionais. Então, talvez, você pense que o ataque ao Irã foi bom e a invasão da Venezuela foi ruim. Você não pode opinar sobre isso“, disse Altman aos funcionários, consoante relatórios da Bloomberg e CNBC.
Antes da OpenAI entrar na jogada, a Anthropic foi descartada pelos EUA porque, além de discordar da forma como os militares utilizaram a IA para invadir a Venezuela, também implantou restrições (ou seja, limites digitais) para impedir o uso completo do Claude pelo Pentágono e recusou-se a removê-las.
Isso porque, segundo a política de uso da empresa, sua IA não pode ser utilizada para fins que facilitem ações violentas.
Leia mais:
Vale trocar de chatbot? Veja o que muda entre ChatGPT, Claude e Gemini
Conheça a nova trend do ChatGPT e aprenda a fazer uma caricatura da sua foto
Como migrar do ChatGPT para o Claude e levar seus dados
Ainda de acordo com o The Guardian, as últimas semanas foram abarrotadas de “negociações amargas” entre o governo dos EUA e a indústria de IA, uma vez que o Pentágono exige que qualquer restrição digital seja desabilitada.
Após a OpenAI entrar em acordo para ceder seu software de IA para o Pentágono, muitos usuários desaprovaram a decisão: inúmeras pessoas desinstalaram o ChatGPT em massa no país. A preocupação do público e até de funcionários da empresa é que a OpenAI esteja disposta a cruzar os limites éticos para uso militar da IA que outrora fez a Anthropic recuar.
O The Guardian conta que Altman e a OpenAI insistiram que os serviços de IA utilizados pelos militares não seriam empregados para propósitos ilegais. O CEO, no entanto, admitiu que o acordo com o governo estadunidense foi feito às pressas, o que deu à empresa a impressão de “oportunista e desleixada”.
Já o empresário Dario Amodei, CEO da Anthropic, chamou Altman de “mentiroso” em um memorando interno enviado aos funcionários, conforme publicado pelo The Information.
Na verdade, mantivemos nossos limites com integridade em vez de conspirar com eles [os militares] para produzir um ‘teatro de segurança’ para o benefício dos funcionários (o que, eu juro a você, é o que literalmente todos no [Pentágono], Palantir, nossos consultores políticos, etc., presumiram ser o problema que estão tentando resolver).
— Dario Amodei, CEO da Anthropic, em comunicado interno aos funcionários
O post OpenAI não controla o uso de IA pelo Pentágono, admite Sam Altman apareceu primeiro em Olhar Digital.
