Informe de Anthropic revela mal uso generalizado de la IA Claude para armas y ciberataques
2 fuentes en 2 países · Brasil · Estados Unidos
Quién lo informó
- Folha de S.Paulo
- WIRED
Qué significan los colores
- Izquierda
- Centroizquierda
- Centro
- Centroderecha
- Derecha
- Un bloque rayado indica que el medio está vinculado a un Estado o controlado por él.
La orientación política indica dónde se sitúa el medio dentro de la política de su propio país. Nunca es una posición en una única escala global.
La tendencia política es comparable dentro de un país, no entre países, y por eso la barra agrupa por país primero. Las emisoras de financiación pública no se marcan como vinculadas al Estado.
El propietario de cada medio se indica como dato, y no como un juicio sobre el medio.
Traducido del original en inglés, que se escribió a partir de las fuentes que se enumeran abajo.
El laboratorio de IA Anthropic publicó un informe el jueves detallando cómo los usuarios han explotado su chatbot, Claude, para actividades que incluyen el desarrollo de armas, espionaje electrónico y fraude. La empresa afirmó que interrumpió estas actividades en curso, aunque admitió que las salvaguardas bloquearon algunas, pero no todas, las solicitudes.
Según el informe, usuarios en China utilizaron Claude para desarrollar software de guerra electrónica para simular interferencias de radar contra objetivos taiwaneses y para crear software de control de fuego para un sistema antitorpedos para la Marina China. Otro usuario en China presuntamente utilizó la herramienta para investigar armas extranjeras de microondas de alta potencia e identificar cadenas de suministro para ingeniería inversa. El Ministerio de Asuntos Exteriores de China negó tener conocimiento del informe y se opuso a lo que llamó la distorsión de los hechos.
Otras aplicaciones militares incluyeron a un grupo en el norte de Yemen que utilizó la IA para desarrollar software para cohetes guiados y misiles balísticos con alcances superiores a los 2,000 kilómetros. En Rusia, agentes independientes presuntamente utilizaron Claude para desarrollar software para enjambres de drones de ataque autónomos, mientras que un gerente de adquisiciones ruso utilizó la herramienta para encontrar intermediarios en China y Hong Kong para evadir las sanciones sobre componentes militares europeos.
Más allá de las armas convencionales, el informe destacó ciberataques y amenazas biológicas. Una fuente de centro izquierda señala que hackers patrocinados por el estado ruso conocidos como Midnight Blizzard utilizaron Claude para reconocimiento contra redes gubernamentales ucranianas y europeas, mientras que el grupo cibercriminal ShinyHunters utilizó la herramienta a lo largo de sus campañas de hackeo y extorsión. Anthropic también detalló cinco intentos de utilizar sus modelos para apoyar el desarrollo de armas biológicas, incluyendo solicitudes para modificar el virus del chikungunya.
Cómo lo enmarcó cada lado
- Centroizquierda
- La fuente de centro izquierda planteó el mal uso como una consecuencia asombrosa, pero quizás inevitable, de que la IA se utilice como un atajo de productividad.
- Centro
- La fuente central se centró en los detalles técnicos específicos del mal uso militar y patrocinado por el estado de la IA.
Fuentes
100% de las afirmaciones de este artículo se rastrearon hasta los artículos de origen citados arriba.