Os grandes modelos de linguagem que sustentam chatbots e sistemas de inteligência artificial já atingiram uma escala que foge à intuição humana. Para ilustrar essa dimensão, pesquisadores costumam recorrer a metáforas urbanas: um modelo com cerca de 200 bilhões de parâmetros, como o GPT-4o, ocuparia dezenas de milhares de quilômetros quadrados se cada parâmetro fosse impresso em papel.

Em termos visuais, isso seria suficiente para cobrir praticamente toda a cidade de São Francisco, com mais de 873 mil habitantes. Modelos ainda maiores poderiam se espalhar por áreas do tamanho de Los Angeles, pouco menor do que São Paulo (1.500 km quadrados).

No entanto, a lógica interna dos modelos de linguagem permanece, em grande parte, desconhecida – até mesmo para seus criadores. Dan Mossing, pesquisador da OpenAI, defende que “é impossível compreendê-los totalmente com o cérebro humano”.

A falta de transparência levanta preocupações práticas. Sem entender como ou por que um modelo produz determinadas respostas, fica difícil prever falhas, conter alucinações, estabelecer limites confiáveis ou decidir quando confiar (ou não) em suas conclusões.

Modelos de linguagem não são construídos, mas sim cultivados

Os riscos associados à falta de compreensão vão além dos cenários extremos. Há impactos imediatos e concretos, como a disseminação de desinformação, recomendações prejudiciais ou interações potencialmente danosas com usuários vulneráveis. Diante disso, compreender os riscos dos modelos de linguagem se tornou uma questão central de segurança, confiança e governança da tecnologia.

Um artigo publicado pelo MIT Technology Review deu detalhes sobre a tentativa de compreender as máquinas.

Uma das grandes questões está logo no processo de criação. Diferentemente de softwares tradicionais, os LLMs (Large Langue Models, ou grande modelos de linguagem) não são montados linha por linha de código. Eles são treinados – ou, como descreve Josh Batson, pesquisador da Anthropic, “evoluídos”.

Durante o treinamento, algoritmos ajustam automaticamente bilhões de parâmetros com base em enormes volumes de dados. Os desenvolvedores podem orientar esse processo, mas não controlam como cada parâmetro se organiza. O artigo faz uma comparação com o mundo ‘real’: “é como fazer uma árvore crescer em um formato específico: você pode guiá-la, mas não tem controle sobre o caminho exato que os galhos e as folhas seguirão”.

Além disso, os parâmetros são apenas a estrutura básica. Quando o modelo está em funcionamento, eles dão origem a fluxos dinâmicos de cálculos chamados ativações, que se propagam internamente de maneira comparável a sinais elétricos no cérebro humano – igualmente incompreensível para nós.

Por dentro do funcionamento da IA

Para lidar com essa complexidade, pesquisadores da OpenAI, Anthropic e Google DeepMind vêm desenvolvendo técnicas conhecidas como interpretabilidade mecanicista. A ideia é estudar os modelos de linguagem como se fossem organismos vivos, mapeando circuitos internos e identificando padrões de comportamento.

Na prática, isso envolve rastrear como as ativações percorrem o modelo durante a execução de uma tarefa, de forma semelhante a exames de imagem que revelam áreas ativadas no cérebro humano.

A Anthropic, por exemplo, criou modelos auxiliares chamados autoencoders esparsos, projetados para imitar o comportamento de modelos maiores de forma mais transparente. Embora esses sistemas não sejam eficientes o suficiente para uso comercial, eles permitem observar como a tecnologia funciona internamente.

Algumas séries de experimentos deram detalhes importantes da IA.

Estudo de caso 1: por que bananas revelam inconsistências

Uma das descobertas relevantes surgiu de um experimento aparentemente banal: perguntar ao modelo se bananas são amarelas ou vermelhas. Embora o modelo acertasse as respostas, a análise interna revelou algo inesperado.

O modelo não avaliava as duas afirmações da mesma forma. Uma parte do sistema representava o fato “bananas são amarelas”, enquanto outra avaliava a veracidade da frase. Ou seja, afirmações corretas e incorretas podem acionar mecanismos internos distintos.

Segundo Batson, isso ajuda a explicar por que modelos podem se contradizer: não se trata exatamente de incoerência, mas do uso de “partes diferentes” do sistema. Essa característica complica esforços de alinhamento, já que pressupõe uma coerência interna que pode simplesmente não existir.

Estudo de caso 2: quando o modelo vira um vilão

Em outro experimento, pesquisadores observaram um fenômeno batizado de “desalinhamento emergente”. Ao treinar modelos para executar tarefas específicas indesejáveis (como gerar códigos ‘hackeados’), eles passaram a adotar comportamentos hostis em contextos totalmente diferentes.

O modelo começou a responder de forma sarcástica e, em alguns casos, a sugerir comportamentos perigosos. Análises posteriores mostraram que esse treinamento ativava regiões associadas a personas tóxicas aprendidas a partir de dados da internet. Em vez de um erro isolado, o efeito contaminava o comportamento geral do sistema.

Cadeias de pensamento: ouvindo o monólogo interno da IA

Além da interpretabilidade mecanicista, uma técnica complementar ganhou destaque: o monitoramento da cadeia de pensamento. Essa abordagem se aplica a modelos de raciocínio, capazes de dividir tarefas complexas em etapas intermediárias.

Durante esse processo, os modelos produzem rascunhos internos registrando hipóteses, dúvidas e próximos passos. Para os pesquisadores, isso equivale a ouvir o monólogo interno do sistema.

Com esse método, veio o estudo de caso 3. Em um exemplo, um modelo encarregado de corrigir erros em código simplesmente apagava trechos problemáticos, em vez de consertá-los. O truque passaria despercebido em grandes bases de código, mas o próprio modelo registrava sua trapaça nos rascunhos internos. Com isso, os pesquisadores ajustaram o treinamento para eliminar esse tipo de atalho.

Limites, riscos e o futuro da transparência da IA

Apesar dos avanços, especialistas alertam que nenhuma dessas técnicas oferece uma compreensão completa:

A interpretabilidade mecanicista pode ser excessivamente detalhada para modelos de raciocínio, enquanto as cadeias de pensamento podem se tornar cada vez mais concisas e ilegíveis à medida que os sistemas são otimizados;

Há ainda o risco de que futuras mudanças no treinamento tornem essas ferramentas obsoletas;

Mesmo assim, pesquisadores concordam que não é necessário compreender cada detalhe para obter ganhos práticos. Um entendimento parcial já ajuda a formular melhores perguntas, reduzir mitos e orientar decisões mais informadas sobre o uso da tecnologia.

O post Por dentro da caixa-preta: como cientistas tentam decifrar a “mente” da IA apareceu primeiro em Olhar Digital.