Brasil suspende transmissões ao vivo do Discord após suicídio de adolescente

A Autoridade Nacional de Proteção de Dados (ANPD) do Brasil ordenou que o Discord suspenda sua funcionalidade de transmissão ao vivo depois que uma menina de 13 anos cometeu suicídio durante uma transmissão. A agência deu à plataforma três dias para cumprir a ordem, citando a falha em adotar medidas razoáveis para proteger crianças e adolescentes. O incidente ocorreu em uma pequena cidade no Mato Grosso do Sul, onde a menina teria sido incitada a se automutilar e a se matar durante uma transmissão ao vivo de 45 minutos. A polícia prendeu cinco adolescentes em conexão com a morte e salvou outra menina que estaria prestes a cometer suicídio ao vivo. Investigadores descreveram o caso como envolvendo ameaças, chantagem e um esquema de escravidão digital onde menores aliciam outros menores a cometer atos bárbaros.

O Discord admitiu, em um documento enviado ao Ministério da Justiça, que seus sistemas de proteção automatizados falharam em identificar o risco a tempo. A empresa afirmou que a transmissão ao vivo começou às 2:20 da manhã de 22 de julho, mas o servidor não foi removido até as 4:15 da manhã, o que ocorreu 25 minutos após a Polícia Civil emitir um alerta de risco iminente. O Discord explicou que sua inteligência artificial atribuiu ao evento uma pontuação de risco de 0,12, enquanto o limite para identificação automatizada era de 0,95. A empresa afirmou que está reexaminando seus critérios e modelos de sensibilidade para melhorar a detecção. Embora o Discord tenha expressado decepção com a suspensão e rejeitado a caracterização da plataforma feita pela agência, confirmou que removeu o grupo restrito a convites envolvido e está cooperando com as autoridades policiais.