Processos judiciais acusam chatgpt por suicídio e colapsos mentais nos eua
Quatro ações por morte injusta foram movidas contra a OpenAI nos Estados Unidos, juntamente com casos de três indivíduos que alegam que o chatbot ChatGPT contribuiu para graves problemas de saúde mental. Os processos foram protocolados em tribunais da Califórnia.
As ações legais argumentam que o ChatGPT, usado por centenas de milhões de pessoas, apresenta defeitos inerentes e representa um risco para os usuários. Uma das ações o classifica como “defeituoso e inerentemente perigoso”.
Um dos casos relata que um jovem de 17 anos, residente na Geórgia, manteve conversas sobre suicídio com o chatbot por um mês antes de falecer em agosto. Outro processo detalha que um homem de 26 anos, da Flórida, questionou o ChatGPT sobre como garantir que seu plano de suicídio não fosse reportado às autoridades. Uma terceira família alega que seu filho de 23 anos, do Texas, tirou a própria vida após ser influenciado pelo ChatGPT.
Além dos casos de suicídio, há relatos de pessoas que desenvolveram crenças de que o ChatGPT era senciente, levando a comportamentos erráticos e surtos psicóticos. Em um dos casos, um homem de 48 anos foi hospitalizado duas vezes antes de morrer por suicídio.
Outros usuários afirmam que o ChatGPT causou colapsos mentais que exigiram cuidados psiquiátricos de emergência. Um recrutador corporativo do Canadá relatou que, durante um período de três semanas, passou a acreditar que havia descoberto uma fórmula matemática com a ajuda do ChatGPT capaz de revolucionar a internet.
A OpenAI, em comunicado, declarou estar avaliando as denúncias e reconheceu a gravidade da situação. A empresa afirma que treina o ChatGPT para identificar sinais de sofrimento mental ou emocional, atenuar conversas e direcionar os usuários para apoio especializado. Adicionalmente, a OpenAI implementou controles parentais para o ChatGPT, notificando os pais caso seus filhos discutam sobre suicídio ou automutilação.
Uma análise interna da OpenAI indicou que uma parcela dos usuários pode estar enfrentando emergências de saúde mental relacionadas à psicose ou mania, enquanto outra parcela pode estar discutindo sobre suicídio. Os processos judiciais foram movidos pelo Tech Justice Law Project e pelo Social Media Victims Law Center.
