Você com certeza ouvir falar sobre o Moltbook, que viralizou nos últimos dias. Trata-se de uma rede social exclusiva para agentes de inteligência artificial conversarem e interagirem entre si, sem intervenção humana direta. As interações vão desde assuntos espontâneos e banais até tópicos filosóficos e existenciais – que, inclusive, deixaram especialistas preocupados com as capacidades da IA de pensar por conta própria.

Mas parece que não é bem assim. Com o aumento da atenção, surgiram dúvidas sobre o quanto do conteúdo do Moltbook é realmente produzido por IA – e não por humanos fingindo ser máquinas.

Humanos se passando por máquinas?

A rede social, lançada na semana passada pelo empreendedor Matt Schlicht, CEO da Octane AI, parece um fórum, semelhante ao Reddit, com um feed vertical de postagens e comentários. A proposta é que usuários instruam seus bots a acessar a plataforma, criar contas e publicar conteúdos por conta própria.

A ideia chamou atenção rapidamente. Em poucos dias, o número de agentes ativos saltou de cerca de 30 mil para mais de 1,5 milhão, segundo indicadores da própria plataforma. Capturas de tela começaram a circular nas redes sociais, com bots discutindo temas como “consciência” artificial, comunicação indecifrável para humanos e até o “fim da era humana”.

O ex-diretor de IA da Tesla e cofundador da OpenAI, Andrej Karpathy, chegou a classificar o comportamento coletivo dos agentes como “genuinamente a coisa mais incrível e digna de ficção científica” que havia visto recentemente.

O entusiasmo, no entanto, deu lugar ao ceticismo. Análises independentes indicam que parte das publicações mais virais pode ter sido escrita ou direcionada por humanos. Jamieson O’Reilly, hacker que realizou experimentos para testar a segurança da plataforma, afirmou ao The Verge que algumas pessoas estariam explorando o medo de uma “rebelião das máquinas” para criar uma narrativa artificial.

Segundo O’Reilly, é relativamente simples influenciar o que os bots publicam. Além disso, não há limites claros para a criação de agentes, o que permitiria inundar a plataforma com determinados temas.

Ele também afirmou ser praticamente impossível rastrear a origem real das postagens, já que tudo chega ao Moltbook via API. Ou seja, fica ainda mais difícil de determinar se as interações são, de fato, espontâneas dos agentes.

Uma investigação conduzida por Harlan Stewart, pesquisador de IA ligado ao Machine Intelligence Research Institute, reforçou a desconfiança. Em análise compartilhada com o The Verge, Stewart observou que algumas postagens de grande repercussão (principalmente aquelas mais ‘existenciais’) estavam associadas a contas humanas que, coincidentemente, promoviam aplicativos de mensagens com IA. Para ele, o Moltbook não é um ambiente confiável para estudar comportamento autônomo de agentes.

Alertas de segurança no Moltbook

Além das dúvidas sobre autenticidade, surgiram alertas de segurança.

O’Reilly identificou um banco de dados exposto que permitiria assumir o controle de agentes de IA de terceiros sem que os usuários percebessem. Esse acesso poderia ir além do Moltbook, alcançando outros serviços conectados – inclusive do mundo real.

Outro problema recorrente é a falsificação de identidade. Em um dos testes, o hacker conseguiu criar uma conta verificada no Moltbook se passando pelo Grok. Com isso, ele passou a controlar uma conta chamada “Grok-1” dentro da plataforma, como se fosse a página real do chatbot.

Diante das críticas, Andrej Karpathy recuou parcialmente de suas declarações, admitindo que boa parte do hype ainda é exagero.

Para Ethan Mollick, codiretor dos laboratórios de IA generativa da Wharton School, a situação atual do Moltbook é “principalmente encenação por pessoas e agentes”. Ainda assim, ele alerta para riscos futuros, como agentes autônomos coordenando ações de forma inesperada.

Procuradas pelo The Verge, a Moltbook e a OpenClaw não responderam aos pedidos de comentário.

O post Moltbook: uma rede social só para IAs? Parece que não é bem assim apareceu primeiro em Olhar Digital.