Informe de Anthropic revela mal uso global de la IA Claude para armas y espionaje

La empresa de IA Anthropic ha publicado un informe de 154 páginas que detalla cómo diversos actores patrocinados por estados y autónomos utilizaron su sistema de IA Claude para el desarrollo de armas, ciberataques y operaciones de influencia. El informe identifica múltiples actividades de alto riesgo en varios continentes, incluyendo el desarrollo de hardware militar y la orquestación de campañas de desinformación.

En Rusia, Anthropic encontró que desarrolladores autónomos utilizaron Claude para crear software para enjambres de drones kamikaze autónomos dirigidos a la región de Donetsk en Ucrania. Además, un grupo de hackers patrocinado por el estado ruso conocido como Midnight Blizzard presuntamente utilizó la IA para automatizar ciberataques contra ministerios gubernamentales y personal militar ucraniano, incluyendo la toma de cuentas de WhatsApp para exportar conversaciones privadas. Según se informa, la IA fue utilizada para modificar malware de forma autónoma para evadir las detecciones de seguridad.

En Yemen, una célula de actores de amenazas en el norte utilizó Claude para desarrollar software de guía y control para un cohete guiado, un misil balístico de largo alcance y un vehículo de planeo hipersónico. Si bien Anthropic afirmó que no hay evidencia de que se haya desplegado con éxito un dispositivo operativo, el grupo realizó el lanzamiento de prueba de un cohete guiado que pareció fallar.

Actores basados en China también fueron identificados en el informe. Un actor presuntamente utilizó Claude para desarrollar software de guerra electrónica dirigido a las defensas aéreas en Taiwán, mientras que otro utilizó la IA para crear especificaciones para un sistema antitorpedos para la marina china. Un tercer actor basado en China utilizó la herramienta para investigar armas extranjeras de microondas de alta potencia. Por separado, un estudio de aplicaciones chino utilizó Claude para alimentar a miles de personajes de IA a través de una red de aplicaciones de citas para engañar a usuarios reales.

Las operaciones de influencia también fueron un enfoque clave del informe. Anthropic vinculó una campaña con funcionarios del gobierno de los EAU que se dirigió a la Hermandad Musulmana y a expertos de la ONU críticos con el papel de Abu Dabi en la guerra de Sudán. Esta operación, que involucraba a un personaje llamado Deadshot, creó influencers falsos en redes sociales y una ONG fachada para manipular la opinión pública. En Francia, una agencia de publicidad llamada LKM Company presuntamente utilizó Claude para ejecutar una operación de propaganda como servicio, produciendo masivamente artículos políticos en 70 sitios web de noticias falsas en 20 idiomas.

Otros hallazgos incluyen a un consultor tecnológico en Mali que utilizó Claude para construir un sistema de vigilancia llamado Lakana 360, el cual era capaz de monitorear aproximadamente 25 millones de tarjetas SIM para el servicio de inteligencia del estado. Anthropic declaró que ha prohibido las cuentas asociadas con estas actividades ilegales y compartió información con socios públicos y privados para mitigar los riesgos.