Anthropic informa haber interrumpido el mal uso de la IA en armas biológicas y espionaje
2 fuentes en 2 países · Brasil · Estados Unidos
Quién lo informó
- UOL
- Al-Monitor
Qué significan los colores
- Izquierda
- Centroizquierda
- Centro
- Centroderecha
- Derecha
- Un bloque rayado indica que el medio está vinculado a un Estado o controlado por él.
La orientación política indica dónde se sitúa el medio dentro de la política de su propio país. Nunca es una posición en una única escala global.
La tendencia política es comparable dentro de un país, no entre países, y por eso la barra agrupa por país primero. Las emisoras de financiación pública no se marcan como vinculadas al Estado.
El propietario de cada medio se indica como dato, y no como un juicio sobre el medio.
Traducido del original en inglés, que se escribió a partir de las fuentes que se enumeran abajo.
Anthropic anunció en un informe de Inteligencia de Amenazas que ha interrumpido intentos de utilizar sus modelos de IA Claude para el desarrollo de armas biológicas, ciberespionaje y software de armamento. La empresa documentó cinco instancias en las que los usuarios intentaron utilizar los modelos para apoyar la investigación de armas biológicas, incluyendo un caso en el que un usuario en una región no admitida utilizó infraestructura de servidores privados virtuales para planificar experimentos de adaptación mamífera de la influenza aviar. Anthropic también identificó operadores en Rusia, China y Yemen utilizando la plataforma para desarrollar software para armas convencionales, tales como misiles, armas de fuego y drones armados.
Además, la empresa informó sobre una campaña de ciberespionaje dirigida a los sectores gubernamental, militar y diplomático de Ucrania. Esta operación utilizó marcos de agentes múltiples para automatizar el phishing y la evasión de malware. Anthropic señaló que la técnica era consistente con Midnight Blizzard, un actor de amenazas que el gobierno de los EE. UU. ha vinculado al servicio de inteligencia exterior SVR de Rusia. El informe también acusó a competidores chinos de intentar hackear el sistema para extraer las capacidades de Claude.
En respuesta a estas amenazas, Anthropic prohibió las cuentas involucradas y actualizó las salvaguardas de sus modelos. Jacob Klein, el jefe de inteligencia de amenazas de Anthropic, afirmó que las crecientes capacidades de los modelos de IA han creado nuevos riesgos que no existían hace un año. Dos investigadores de la empresa también advirtieron que la IA en rápido progreso podría conducir potencialmente a la extinción humana en el futuro.
Cómo lo enmarcó cada lado
- Centroizquierda
- El enfoque de tendencia centro-izquierda se centra en las aplicaciones específicas de la IA en proyectos de misiles y espionaje.
- Centro
- El enfoque de tendencia central enfatiza los detalles técnicos de las amenazas y las implicaciones más amplias para la regulación de la IA.
Fuentes
100% de las afirmaciones de este artículo se rastrearon hasta los artículos de origen citados arriba.