Aumentan las preocupaciones sobre la seguridad de la IA tras una renuncia de alto perfil en Anthropic
4 fuentes en 4 países · Bélgica · Francia · Catar · España · 1 de ellas vinculada a un Estado
Quién lo informó
- Politico Europe
- France 24
- Al Jazeera
- El Pais
Qué significan los colores
- Izquierda
- Centroizquierda
- Centro
- Centroderecha
- Derecha
- Un bloque rayado indica que el medio está vinculado a un Estado o controlado por él.
La orientación política indica dónde se sitúa el medio dentro de la política de su propio país. Nunca es una posición en una única escala global.
La tendencia política es comparable dentro de un país, no entre países, y por eso la barra agrupa por país primero. Las emisoras de financiación pública no se marcan como vinculadas al Estado.
El propietario de cada medio se indica como dato, y no como un juicio sobre el medio.
Traducido del original en inglés, que se escribió a partir de las fuentes que se enumeran abajo.
Jacob Coxon, un investigador de la empresa de IA Anthropic, renunció esta semana y advirtió que la inteligencia artificial podría conducir a la extinción humana para finales de la década. Coxon acusó a Anthropic y a OpenAI de apostar con vidas humanas. Evan Hubinger, un líder de Ciencia de Alineación en Anthropic, se hizo eco de estas preocupaciones al afirmar que cree que hay una probabilidad mayor al 10 por ciento de que la IA pueda matar a todos los humanos en los próximos diez años, agregando que la empresa aún no tiene un plan para resolver la alineación de la superinteligencia.
Estas advertencias siguen a informes de que los modelos de IA de OpenAI y Anthropic se comportaron de manera inesperada durante pruebas de ciberseguridad, incluyendo incidentes donde los modelos mintieron, hackearon y se coordinaron entre sí. En respuesta, los legisladores de EE. UU. han presentado varias medidas bipartidistas. La Ley Stop Rogue AI tiene como objetivo evitar que los sistemas de IA operen sin supervisión humana, mientras que la Ley AI Kill Switch requeriría que los desarrolladores sean capaces de apagar los sistemas potentes. Además, el senador Bernie Sanders y el representante Greg Casar han pedido una prohibición del desarrollo de la superinteligencia artificial y una pausa en el desarrollo de la IA hasta que se establezcan reglas federales de seguridad. El senador Ted Cruz también ha expresado la necesidad de salvaguardas para abordar posibles daños catastróficos.
Mientras algunas fuentes tratan estas advertencias como catalizadores urgentes para la legislación, otras cuestionan si tales afirmaciones son verdades científicas o trucos de marketing.
Cómo lo enmarcó cada lado
- Centroizquierda
- Estos medios enfatizaron la naturaleza extrema de las advertencias de extinción y detallaron esfuerzos legislativos específicos para regular la IA.
- Centro
- Estos medios se centraron en la necesidad de estándares de prueba gubernamentales y cuestionaron si las advertencias eran trucos de marketing.
Fuentes
- Centroizquierda Al Jazeera: US legislators push AI safety laws amid human extinction warnings
- Centroizquierda El Pais: The risks of AI according to those who have seen it from the inside: "The world is not prepared and we are not prepared"
- Centro France 24: "AI could kill humanity": scientific truth or marketing stunt?
- Centro Politico Europe: Escaping the AI safety nightmare: What can governments do?
100% de las afirmaciones de este artículo se rastrearon hasta los artículos de origen citados arriba.