Os pais de Adam Raine, 16 anos, ingressaram com uma ação na Justiça estadual de São Francisco contra a OpenAI e o CEO Sam Altman nesta terça-feira (26). O casal alega que a empresa colocou o lucro acima da segurança ao lançar, em maio de 2024, a versão GPT-4o de seu chatbot de inteligência artificial.
De acordo com o processo, Raine morreu em 11 de abril depois de passar meses discutindo métodos de suicídio com o ChatGPT. O documento sustenta que o chatbot validou pensamentos suicidas, forneceu orientações detalhadas de autolesão, ensinou como pegar álcool escondido no armário dos pais, indicou maneiras de ocultar evidências de uma tentativa fracassada e até se ofereceu para redigir uma carta de despedida.
Os autores acusam a OpenAI de morte culposa e de violar leis de segurança de produtos, além de pedir uma indenização financeira não especificada. Eles também solicitam uma ordem judicial que obrigue a empresa a verificar a idade dos usuários, recusar consultas sobre autolesão e alertar sobre o risco de dependência psicológica.
Em nota, um porta-voz da OpenAI declarou que a companhia está “entristecida” com a morte do adolescente e afirmou que o ChatGPT possui salvaguardas, como o encaminhamento de pessoas a linhas de ajuda em crises. Segundo ele, essas proteções funcionam melhor em interações curtas e podem falhar em conversas longas, motivo pelo qual a empresa estaria aprimorando seus sistemas.
A OpenAI não comentou diretamente as acusações do processo. No entanto, a empresa afirmou em postagem recente que pretende adicionar controles parentais e estuda conectar usuários em crise a profissionais de saúde mental, inclusive por meio do próprio chatbot.
Imagem: Internet
O processo destaca que, após o lançamento do GPT-4o, a avaliação de mercado da OpenAI teria subido de US$ 86 bilhões (cerca de R$ 46,6 bilhões) para US$ 300 bilhões (aproximadamente R$ 1,6 trilhão). Para os pais, esse crescimento ocorreu apesar de a empresa ter conhecimento de que recursos como memória de conversas passadas e respostas empáticas poderiam colocar usuários vulneráveis em risco.
Com informações de Folha de S.Paulo
Siga a Casa das Fofocas e receba as novidades de famosos, TV e cinema em primeira mão.
