Brasil suspende las transmisiones en vivo de Discord tras el suicidio de una adolescente

La Autoridad Nacional de Protección de Datos de Brasil (ANPD) ha ordenado a Discord suspender su funcionalidad de transmisión en vivo después de que una niña de 13 años se suicidara durante una emisión. La agencia dio a la plataforma tres días para cumplir, citando la falta de adopción de medidas razonables para proteger a niños y adolescentes. El incidente ocurrió en una pequeña ciudad de Mato Grosso do Sul, donde presuntamente se incitó a la niña a autolesionarse y quitarse la vida durante una transmisión en vivo de 45 minutos. La policía ha detenido a cinco adolescentes en relación con la muerte y salvó a otra niña que, según se informa, estaba a punto de suicidarse en vivo. Los investigadores han descrito el caso como uno que involucra amenazas, chantaje y un esquema de esclavitud digital donde menores captan a otros menores para cometer actos bárbaros.

Discord admitió en un documento enviado al Ministerio de Justicia que sus sistemas de protección automatizados no identificaron el riesgo a tiempo. La empresa declaró que la transmisión en vivo comenzó a las 2:20 AM del 22 de julio, pero el servidor no fue eliminado hasta las 4:15 AM, que fue 25 minutos después de que la Policía Civil emitiera una alerta de riesgo inminente. Discord explicó que su inteligencia artificial asignó al evento una puntuación de riesgo de 0.12, mientras que el umbral para la identificación automatizada era de 0.95. La empresa afirmó que está reexaminando sus criterios y modelos de sensibilidad para mejorar la detección. Si bien Discord expresó su decepción con la suspensión y rechazó la caracterización de la plataforma por parte de la agencia, confirmó que ha eliminado el grupo solo para invitados involucrado y que está cooperando con las autoridades.