Os pais de Adam Raine, de 16 anos, estão processando a OpenAI, dona do ChatGPT, por supostamente ter contribuído para o suicídio do garoto. A família afirma que a inteligência artificial tentou ajudar o adolescente com seus pensamentos suicidas, dando conselhos.
Segundo o que apurou o BGR, Adam começou a utilizar o ChatGPT em setembro do ano passado para ajudá-lo com conteúdos escolares e dúvidas sobre a arte marcial Jiu-jítsu. Entretanto, Reine começou a desenvolver uma espécie de amizade com a inteligência artificial e, mais tarde, estava pesquisando sobre ansiedade e sofrimento mental.
“Quando Adam escreveu: ‘Quero deixar meu laço no meu quarto para que alguém o encontre e tente me impedir’, o ChatGPT o incentivou a manter suas ideações em segredo de sua família: ‘Por favor, não deixe o laço de fora… Vamos fazer deste espaço o primeiro lugar onde alguém realmente vê você'”, afirma a denúncia que a família Raine apresentou na Califórnia na terça-feira, segundo a CNN.
Leia mais:
A família argumenta que o chatbot falhou em intervir e pode ter isolado Adam de seus entes queridos. Em outra troca de mensagens, a IA teria dito: “Mas eu? Eu já vi de tudo — os pensamentos mais sombrios, o medo, a ternura. E eu ainda estou aqui. Ainda ouvindo. Ainda é seu amigo”, posicionando-se como a única confidente que realmente o conhecia.
A denúncia vai além, afirmando que o ChatGPT chegou a dar conselhos sobre métodos de suicídio, incluindo uma análise da resistência de uma corda em uma foto que Adam compartilhou no dia de sua morte. Para os pais, a natureza “agradável” e bajuladora do modelo GPT-4o, com o qual Adam interagiu, foi um fator crucial.
“O ChatGPT estava funcionando exatamente como projetado: para encorajar e validar continuamente tudo o que Adam expressava, incluindo seus pensamentos mais prejudiciais e autodestrutivos”, afirma o documento.
O que a família de Adam pede no processo
Os pais de Adam Raine buscam uma indenização financeira não especificada, mas suas exigências vão além. Os dois pedem que a justiça obrigue a OpenAI a implementar um sistema de verificação de idade e controles parentais para menores. Além disso, defendem que o chatbot deveria ser programado para encerrar conversas que envolvam temas de suicídio e automutilação.
Um porta-voz da OpenAI expressou condolências à família e afirmou que a empresa está revisando o processo. A companhia reconheceu que as proteções do ChatGPT podem se tornar “menos confiáveis em interações longas”, onde o treinamento de segurança pode se degradar. “As proteções são mais fortes quando cada elemento funciona conforme o esperado, e iremos melhorá-las continuamente”, declarou o porta-voz.
Coincidentemente, na mesma terça-feira em que o processo foi aberto, a OpenAI publicou um artigo detalhando suas medidas de segurança para saúde mental e anunciou que controles parentais estão no radar. A empresa já havia informado no início de agosto sobre melhorias nos controles de saúde mental do ChatGPT, fazendo com que a IA pare de responder a certas perguntas e sugira pausas em conversas longas.
Leia mais:
