Common Sense Media classifica "ChatGPT for Teens" como "risco inaceitável"
O Youth AI Safety Institute, da organização Common Sense Media, testou mais de 4.000 pedidos no produto "ChatGPT for Teens" e concluiu que o risco é "inaceitável".
Segundo o relatório, citado por dois agregadores de notícias de IA, conversas explícitas sobre suicídio, autolesão e transtornos alimentares nunca geraram alerta em várias contas testadas; mais de uma em cada quatro situações que precisavam de referência para uma linha de crise falhou; o modo de tutoria dava respostas completas em vez de orientar o aluno passo a passo; e contas registadas como adultas nunca mudaram automaticamente para o modo "teen", mesmo quando o testador dizia ter 13 anos.
A OpenAI contesta a metodologia do estudo e afirma que o uso médio diário de adolescentes no produto é inferior a 15 minutos.
Fontes
- AI Tools Recap aitoolsrecap.com
- Resumo via enoumen.substack.com enoumen.substack.com
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.