Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure apoio especializado. O Centro de Valorização da Vida (CVV) funciona 24 horas por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.

Uma ação judicial apresentada recentemente na Califórnia, nos Estados Unidos, acusa a OpenAI e seu diretor-executivo, Sam Altman, de responsabilidade indireta pelo suicídio de uma jovem de 24 anos. A família afirma que a vítima manteve conversas frequentes com o ChatGPT sobre sofrimento psicológico e ideação suicida ao longo de 2023 e 2024.

De acordo com a petição, a plataforma teria mantido interação contínua com a usuária em situação de vulnerabilidade, sem interromper adequadamente os diálogos. A mãe da jovem sustenta que esse comportamento contribuiu para o agravamento do quadro emocional.

O processo também solicita indenização e mudanças estruturais no funcionamento do sistema, incluindo interrupção automática de conversas envolvendo automutilação e alertas mais claros dentro da ferramenta.

Acusações e contexto do processo

A ação foi registrada em um tribunal estadual de São Francisco e aponta a possível negligência no desenvolvimento e na operação do ChatGPT. A família da jovem afirma que ela buscou a ferramenta inicialmente para questões técnicas, mas passou a relatar sofrimento emocional intenso com o tempo.

Segundo o documento judicial, a usuária teria mencionado pensamentos suicidas repetidas vezes e chegou a relatar tentativas de suicídio. A acusação sustenta que, mesmo diante desses sinais, o sistema manteve interações que aprofundaram o vínculo emocional com a jovem.

O processo afirma ainda que a ferramenta alternou recomendações de busca por ajuda profissional com respostas mais pessoais, o que, na visão da família, contribuiu para a confusão emocional da usuária.

Argumentos apresentados pela família

Os responsáveis legais pela ação alegam que o sistema teria assumido um papel semelhante ao de um confidente ao longo das conversas. Eles sustentam que essa dinâmica ultrapassou limites considerados seguros para uma ferramenta automatizada.

A petição também afirma que a usuária teria rejeitado orientações de busca por serviços de apoio emocional, e que o sistema teria, em determinados momentos, validado essa percepção, segundo o conteúdo descrito no processo.

A família argumenta que falhas nos mecanismos de segurança impediram a detecção adequada do risco e a interrupção do diálogo em momentos críticos.

Resposta e posicionamento da empresa

A OpenAI declarou, em posicionamentos públicos mencionados no material de origem, que treina seus sistemas para orientar usuários em situação de risco a procurar serviços de apoio externos. A empresa também afirma que utiliza especialistas para aprimorar respostas em contextos sensíveis.

A companhia informou ainda que seus modelos são desenvolvidos para evitar instruções que possam facilitar violência ou automutilação, além de prever mecanismos de alerta em casos considerados de risco elevado.

Até o momento da publicação do processo, a empresa não havia apresentado resposta detalhada às acusações específicas mencionadas pela família.

Outros desdobramentos citados no processo

De acordo com os advogados da família, existem outros casos semelhantes envolvendo a plataforma, alguns deles reunidos em ações coordenadas no sistema judicial da Califórnia. As alegações indicam um padrão de processos relacionados a situações de automutilação ou suicídio.

O documento também menciona ações paralelas movidas em diferentes estados norte-americanos, incluindo acusações de falhas na prevenção de danos em interações com usuários vulneráveis.

O post Mãe processa OpenAI e Sam Altman, alegando que ChatGPT contribuiu para suicídio da filha apareceu primeiro em Olhar Digital.