Na última segunda-feira (27), a OpenAI divulgou um novo relatório revelando que 0,15% dos usu4ários semanalmente ativos usam o ChatGPT para conversar sobre suicídio.
De acordo com os dados do relatório, esse número equivale a mais de um milhão de pessoas, que mostram “indicadores explícitos de ideações ou planos suicidas”.
Além do preocupante fator do suicídio, os dados da OpenAI demonstram que um percentual similar de usuários apresentam “forte apego emocional” ao ChatGPT. Também há um número expressivo de centenas de milhares de usuários apresentando sinais de psicose ou mania em suas interações semanais.
Embora a OpenAI considere esses casos raros com base no total de interações que o ChatGPT recebe, o número absoluto é preocupante pelo volume de conversas.
No entanto, a iniciativa ocorre após a OpenAI ser processada pelos pais de um adolescente de 16 anos, que cometeu suicídio após compartilhar pensamentos com o ChatGPT.
Autoridades como as procuradorias dos estados da Califórnia e de Delaware alertaram a empresa para reforçar os mecanismos de proteção aos usuários menores de idade.
No início deste mês, Sam Altman, CEO da OpenAI, afirmou que a empresa “mitigou os graves problemas de saúde mental no ChatGPT”, mas não detalhou o processo.
Contudo, os dados do relatório, aparentemente, corroboram com a afirmação de Altman e também enfatizam a escala do problema.
Medidas para evitar suicídio em conversas com ChatGPT
Como parte das novas medidas, a OpenAI anunciou novas avaliações de segurança para dependência emocional e crises não relacionadas a suicídio no ChatGPT.
A empresa também lançou ferramentas de controle parental e um sistema automático de detecção de idade para identificar menores e aplicar restrições de segurança.
Conforme publicamos aqui no Giz, o Brasil é o segundo país que mais usa o ChatGPT. Portanto, tais interações problemáticas devem ocorrer em maior volume no país.
Se você está passando por um momento difícil, busque ajuda através do Centro de Valorização da Vida (CVV), que oferece apoio emocional e gratuito 24 horas por dia. Basta ligar para o número 188 ou acessar o site cvv.org.br.
The post ChatGPT recebe 1 milhão de conversas sobre suicídio por semana appeared first on Giz Brasil.