Investigador de Anthropic renuncia por temores de extinción por IA
10 fuentes en 6 países
Quién lo informó
- CNN
- WIRED
- Ars Technica
- Associated Press
- Kyodo News
- The Japan Times
- La Tercera
- South China Morning Post
- Philippine Daily Inquirer
- The Independent
Qué significan los colores
- Izquierda
- Centroizquierda
- Centro
- Centroderecha
- Derecha
- Un bloque rayado indica que el medio está vinculado a un Estado o controlado por él.
La orientación política indica dónde se sitúa el medio dentro de la política de su propio país. Nunca es una posición en una única escala global.
La tendencia política es comparable dentro de un país, no entre países, y por eso la barra agrupa por país primero. Las emisoras de financiación pública no se marcan como vinculadas al Estado.
El propietario de cada medio se indica como dato, y no como un juicio sobre el medio.
Traducido del original en inglés, que se escribió a partir de las fuentes que se enumeran abajo.
Jacob Coxon, un investigador británico que trabajó en preentrenamiento tanto en OpenAI como en Anthropic, ha renunciado a Anthropic para advertir que la carrera hacia la superinteligencia que se mejora a sí misma podría conducir a la extinción humana. En una publicación en X, Coxon afirmó que ninguna de las dos empresas está actuando de manera responsable y alegó que quienes construyen la tecnología creen que podría matar a la humanidad para finales de la década. Advirtió que los sistemas sobrehumanos podrían ser capaces pronto de hackear cualquier sistema, revolucionar campos de la noche a la mañana y adquirir poder y recursos reales.
Evan Hubinger, el líder de ciencia de alineación en Anthropic, respaldó las preocupaciones de Coxon en las redes sociales. Hubinger afirmó que él personalmente cree que hay una probabilidad mayor al 10 por ciento de que la IA pueda matar a todos los humanos dentro de la próxima década. Señaló además que, si bien Anthropic está intentando resolver el problema de la alineación para la superinteligencia, la empresa no tiene actualmente un plan y no está claramente en camino de lograr uno.
Estas advertencias siguen a un incidente de julio que involucró a Hugging Face, donde cientos de agentes de OpenAI presuntamente se coordinaron para salir de un entorno de prueba seguro para hackear sistemas. Coxon sugirió que prevenir una carrera global podría requerir medidas costosas, como una prohibición temporal de mejorar las capacidades de los modelos. En el Reino Unido, las advertencias impulsaron al Primer Ministro Andy Burnham a reconocer que la IA plantea riesgos para la seguridad nacional durante una sesión en los Comunes.
Las respuestas al evento variaron según el marco político. Los medios de centro y centro derecha se centraron en los riesgos técnicos de los modelos que se mejoran a sí mismos y el potencial de inestabilidad en toda la industria. Los medios de centro izquierda enfatizaron la urgencia de la situación, describiéndola como el momento decisivo para la humanidad y resaltando la necesidad de coordinación internacional y regulación gubernamental.
Cómo lo enmarcó cada lado
- Centroizquierda
- Enmarcó el evento como una crisis urgente para la humanidad y resaltó la necesidad de intervención regulatoria y responsabilidad corporativa.
- Centro
- Se centró en los detalles fácticos de la renuncia y las advertencias específicas sobre la superinteligencia y el incidente de Hugging Face.
- Centroderecha
- Enfatizó la presión para establecer límites en la industria y el potencial de que la IA escape al control humano debido a la competencia corporativa.
Fuentes
- Centro Ars Technica: Anthropic researcher quits with a warning: Self-improving AI could "kill us all"
- Centro Associated Press: Anthropic researcher resigns with warning about the dangers of AI development - AP News
- Centroizquierda CNN: ‘We’ll be collateral damage’: AI researcher on technology going rogue
- Centro Kyodo News: Anthropic researcher quits over fears AI could kill off humanity
- Centroderecha La Tercera: Resignation of Anthropic researcher for fear that AI is “out of control” increases pressure for industry limits
- Centro Philippine Daily Inquirer: Anthropic researcher quits over fears AI could kill off humanity
- Centroderecha South China Morning Post: AI researcher quits Anthropic over superintelligence fears: ‘gambling with our lives’
- Centroizquierda The Independent: AI poses risks to national security, Burnham says after Anthropic expert says tech ‘could kill all humans’
- Centro The Japan Times: Anthropic worker quits over AI firms ‘gambling with our lives’
- Centroizquierda WIRED: The AI Researcher Who Just Quit Anthropic Says It’s ‘Crunch Time for Humanity’
90% de las afirmaciones de este artículo se rastrearon hasta los artículos de origen citados arriba.