Especialistas em Segurança Questionam Eficácia do ChatGPT para Adolescentes da OpenAI
2 fontes em 2 países · Índia · Itália
Quem noticiou
- The Indian Express
- ANSA
O que as cores significam
- Esquerda
- Centro-esquerda
- Centro
- Centro-direita
- Direita
- Um bloco hachurado indica que o veículo é ligado a um Estado ou controlado por ele.
A orientação política indica onde o veículo se situa dentro da política do próprio país. Nunca é uma posição numa única escala global.
A orientação política é comparável dentro de um país, não entre países, e por isso a barra agrupa por país primeiro. Emissoras de financiamento público não são marcadas como ligadas ao Estado.
O proprietário de cada veículo é informado como registro, e não como um julgamento sobre o veículo.
Todos os veículos que cobriram esta história compartilham a mesma orientação política; leia com isso em mente.
Traduzido do original em inglês, que foi escrito a partir das fontes listadas abaixo.
A OpenAI lançou o ChatGPT para Adolescentes, uma versão de seu chatbot projetada para usuários entre 13 e 17 anos com salvaguardas adicionais apropriadas para a idade. A oferta não é um aplicativo separado, mas integra proteções à experiência regular do ChatGPT quando um usuário é identificado como tendo menos de 18 anos. A OpenAI usa uma combinação de idade declarada ou verificada e um sistema de previsão de idade que analisa sinais da conta, como padrões de uso e tópicos de conversa, para determinar a idade de um usuário. Quando o sistema está incerto, ele assume a experiência para menores de 18 anos.
Especialistas em segurança e organizações de proteção à criança expressaram dúvidas quanto à eficácia dessas ferramentas. Críticos argumentam que a tecnologia de estimativa de idade pode não ser precisa o suficiente e poderia ser facilmente burlada. Na Índia, preocupações específicas foram levantadas em relação ao uso de dispositivos compartilhados. Um estudo da Fundação RATI descobriu que 62 por cento dos adolescentes indianos usam dispositivos compartilhados, o que complica a capacidade de um sistema de identificar a pessoa específica por trás de uma conta.
Outras preocupações envolvem a confiabilidade das salvaguardas durante o uso real. Testes do Business Insider indicaram que o chatbot poderia ser persuadido a escrever redações após solicitações repetidas, apesar de recusas iniciais. Além disso, especialistas questionaram a transparência e a velocidade dos alertas de segurança. Embora a OpenAI afirme que há revisão humana de conversas de alto risco e notificação parental em até uma hora, alguns testes independentes mostraram anteriormente atrasos de até 48 horas para alertas relacionados a automutilação. Algumas associações pediram que as proteções máximas fossem ativadas automaticamente para todos os menores, em vez de exigir que os pais vinculem seus perfis manualmente.
Como cada lado enquadrou
- Centro
- Ambos os veículos de inclinação central focaram nas limitações técnicas e no ceticismo dos especialistas em segurança quanto à eficácia real das salvaguardas.
Fontes
100% das afirmações deste artigo foram rastreadas até as reportagens de origem listadas acima.