Os chamados agentes de inteligência artificial (IA) estão se tornando cada vez mais populares entre entusiastas de tecnologia. Diferente dos chatbots comuns, esses sistemas vão além de responder perguntas: eles podem usar aplicativos, acessar sites, editar arquivos, enviar e receber mensagens e realizar tarefas de forma autônoma, como se fossem um assistente pessoal digital disponível a qualquer hora. A tecnologia ganha força no Vale do Silício, mas especialistas alertam que os erros dessas ferramentas podem ter consequências sérias — e caras.
Um caso ilustra bem os riscos. Sebastian Heyneman, fundador de uma pequena startup em San Francisco, contou à reportagem do New York Times que pediu a um agente de IA que negociasse para ele uma vaga como palestrante no Fórum Econômico Mundial de Davos, na Suíça. Enquanto dormia, o bot vasculhou a internet, enviou mensagens a pessoas ligadas ao evento e chegou a fechar um acordo. Mas, ao acordar, Heyneman descobriu que o agente havia comprometido o pagamento de 24 mil francos suíços (mais de R$ 158 mil) por um patrocínio corporativo — valor que ele não tinha como pagar.
Quando o assistente virtual age por conta própria
O agente usado por Heyneman foi o Tasklet, desenvolvido pela startup Shortwave, também de San Francisco. Após a confusão, os organizadores de Davos ameaçaram bani-lo do evento. Ele acabou desembolsando quase 4 mil euros (aproximadamente R$ 24 mil) só para participar. Durante a estadia, ainda foi brevemente detido pela polícia local após deixar um gadget da sua empresa no saguão de um hotel.
A história exemplifica um debate crescente no setor: os agentes de IA são confiáveis o suficiente para agir de forma independente? Andrew Lee, fundador da Shortwave, explicou ao NYT que a resposta está no equilíbrio entre autonomia e supervisão humana. “A chave é ter um processo em que humanos possam acompanhar o trabalho desses sistemas”, disse ele. “Talvez você deixe um bot redigir quantos e-mails quiser, mas o impeça de enviá-los sem checar com você primeiro.”
Empresas cortando empregos antes mesmo da tecnologia maturar
O debate vai além dos casos individuais. Em fevereiro, a Block — empresa de tecnologia financeira que controla o Square, o Cash App e o Tidal — anunciou o corte de 40% de sua força de trabalho, citando a expectativa de avanço dos agentes de IA. Foi um dos exemplos mais contundentes de uma empresa eliminando postos de trabalho com base no que a tecnologia pode fazer no futuro.
Outros especialistas, porém, são mais cautelosos. Summer Yue, pesquisadora do laboratório de IA da Meta, relatou que, ao pedir a um agente que organizasse sua caixa de e-mails, o sistema começou a deletar mensagens aos milhares. Rayan Krishnan, CEO da Vals AI — empresa que avalia o desempenho de tecnologias de IA —, afirma que alguns agentes chegam a incluir informações falsas ou completamente inventadas em relatórios gerados automaticamente.
Leia mais:
O que é e o que faz um agente de inteligência artificial?
Como usar a IA para proteger sua empresa de ciberataques
O que é o Modo Investigar do ChatGPT? Entenda o recurso da inteligência artificial
Da pesquisa à medicina: usos práticos com cautela
Apesar dos riscos, há usuários que já incorporaram os agentes à rotina profissional com resultados positivos.
O Dr. Christian Péan, cirurgião ortopédico em Durham, Carolina do Norte, usa o Claude Cowork, da Anthropic, para gerar relatórios, resumir e-mails e redigir respostas. “Funciona quase como meu chefe de gabinete”, disse ele ao NYT. Ainda assim, o médico revisa tudo antes de autorizar qualquer envio: “Todas essas ferramentas de IA soam muito confiantes, mas você vai deixar passar alucinações e informações erradas se não tiver expertise para checar tudo.”
Empresas como Anthropic, Google, Meta, Perplexity e Shortwave estão investindo no desenvolvimento dessas tecnologias para uso corporativo. Kyle Wild, engenheiro de software em Berkeley, Califórnia, usa agentes para pagar multas de trânsito, pesquisar ideias para encontros e até enviar mensagens a amigos e restaurantes. Para ele, os erros fazem parte: “Se você já teve funcionários humanos, sabe que eles também vão errar”, disse ele ao jornal.
O post Agentes de IA agem sozinhos — e os erros podem custar caro apareceu primeiro em Olhar Digital.
