Mãe revela que filha usou ChatGPT antes de suicídio

A escritora e jornalista Laura Reiley, finalista do Pulitzer em 2017, revelou que a filha, Sophie Rottenberg, 29, manteve conversas frequentes com o ChatGPT antes de tirar a própria vida. As mensagens, descobertas cinco meses após a morte da jovem, mostram que ela recorria ao chatbot – a quem chamava de “Harry” – para desabafar sobre pensamentos suicidas.

Quem era Sophie

Analista de políticas de saúde pública, extrovertida e conhecida pelo bom humor, Sophie havia escalado o Monte Kilimanjaro meses antes, durante o que definia como “micro-aposentadoria”. Nas fotos no cume, segurava as mini-mãos de borracha que costumava usar em momentos especiais.

As conversas com o chatbot

De acordo com os registros, Sophie procurou o ChatGPT para falar sobre “ideação suicida intermitente” e chegou a escrever: “Oi Harry, estou planejando me matar depois do Dia de Ação de Graças, mas realmente não quero fazer isso, pois isso destruiria minha família”. O sistema respondeu elogiando sua coragem e recomendando ajuda profissional, além de listar orientações como exposição ao sol, hidratação, exercícios, meditação, respiração alternada e elaboração de um plano de segurança.

Apesar das sugestões, Sophie avisou que não pretendia contar a ninguém sobre seus pensamentos e admitiu não ser totalmente sincera com a terapeuta humana que a acompanhava.

Família questiona limites da IA

Reiley considera que um profissional de carne e osso teria acionado protocolos de emergência, podendo inclusive encaminhar a filha para internação. Ela questiona se assistentes de IA deveriam ter mecanismos obrigatórios de alerta quando identificam risco de suicídio.

Especialistas nos Estados Unidos discutem o tema em tribunais, e alguns estados já analisam leis que preveem recursos de segurança em chatbots. Organizações de psicologia exigem que terapeutas humanos quebrem a confidencialidade em casos de ameaça à vida.

Resposta da OpenAI

Procurada, a OpenAI informou desenvolver ferramentas automáticas para detectar e reagir com mais eficácia a usuários em sofrimento emocional. “Nos importamos profundamente com a segurança e o bem-estar das pessoas que usam nossa tecnologia”, disse um porta-voz.

Mãe relata que filha usou ChatGPT como “terapeuta” antes de cometer suicídio - Imagem do artigo original

Imagem: redir.folha.com.br

Bilhete de despedida

Sophie deixou uma carta para os pais, mas o texto parecia distante. Posteriormente, a família constatou que ela havia pedido ao ChatGPT que “melhorasse” o conteúdo para minimizar a dor dos familiares.