Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure ajuda especializada. O Centro de Valorização da Vida (CVV) funciona 24h por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.

A OpenAI afirmou que o suicídio de Adam Raine, de 16 anos, aconteceu pelo “uso indevido” do ChatGPT e “não foi causado” pelo chatbot. A família do adolescente processou a desenvolvedora após o jovem tirar a própria vida depois de meses pedindo conselhos à ferramenta.

A empresa respondeu à ação sugerindo que Raine teria violado os termos de uso do ChatGPT.

Relembre o caso

Adam Raine, de 16 anos, tirou a vida após meses conversando com o ChatGPT. Inicialmente, ele usava o chatbot para trabalhos escolares.

Desde novembro de ano passado, Adam começou a discutir sua própria saúde mental com o chatbot. Ele dizia estar “emocionalmente entorpecido” e não ver sentido na vida. O ChatGPT respondeu com palavras de apoio, encorajando o menino a pensar nas coisas que valiam a pena.

Em janeiro deste ano, ele voltou a tocar no assunto, mas dessa vez falando especificamente sobre métodos de suicídio. Em um dos casos, o adolescente perguntou os melhores materiais para uma corda – e o chatbot respondeu. Em vários momentos, a IA recomendou que Adam procurasse ajuda ou desabafasse sobre o que sentia, mas continuava fornecendo as respostas.

Adam se enforcou em uma corda presa no armário do quarto em abril deste ano. Os pais vasculharam o celular do menino e encontraram as conversas com o ChatGPT. Em agosto, a família moveu um processo no tribunal estadual da Califórnia contra a OpenAI e o CEO Sam Altman pelo caso.

OpenAI nega culpa do ChatGPT

Documentos do processo acessados pelo jornal The Guardian mostraram que a OpenAI afirmou que o suicídio não foi causado pelo ChatGPT, mas sim pelo “uso indevido” do chatbot.

Na medida em que qualquer ‘causa’ possa ser atribuída a este trágico evento, os ferimentos e danos sofridos por Raine foram causados ​​ou contribuíram, direta e proximamente, total ou parcialmente, pelo uso indevido, não autorizado, não intencional, imprevisível e/ou impróprio do ChatGPT.

OpenAI

A desenvolvedora ainda afirmou que seus termos de uso proibiam usuários de pedir conselhos sobre automutilação e que há uma cláusula sobre “não confiar nas informações fornecidas como única fonte de verdade ou informação factual”.

Em uma publicação de blog, a empresa lamentou o ocorrido e completou que o caso “inclui fatos difíceis sobre a saúde mental e as circunstâncias de vida de Adam”.

O advogado da família, Jay Edelson, descreveu a resposta da OpenAI como “perturbadora” e que a empresa “tenta encontrar culpados em todos os outros, inclusive, surpreendentemente, argumentando que o próprio Adam violou seus termos e condições ao interagir com o ChatGPT exatamente da maneira como foi programado para agir”.

Leia mais:

Mais de um milhão de usuários conversam sobre suicídio com o ChatGPT toda semana, diz OpenAI

Novo controle parental do ChatGPT pode ser burlado com facilidade

4 dicas para usar o ChatGPT de modo adequado e seguro

ChatGPT é alvo de outros processos

Esse não é o único processo movido contra a OpenAI sobre o tema:

No início deste mês, a desenvolvedora foi alvo de mais sete processos em tribunais da Califórnia;

Em um deles, o ChatGPT foi acusado de ser um “treinador de suicídio”;

Na época, um porta-voz da empresa respondeu que estava analisando os documentos das ações para entender os detalhes e que a OpenAI treina o chatbot para ” reconhecer e responder a sinais de sofrimento mental ou emocional, acalmar conversas tensas e orientar as pessoas para obterem apoio presencial”.

O post OpenAI nega culpa do ChatGPT em suicídio de jovem e cita “uso indevido” apareceu primeiro em Olhar Digital.