Investigador de Anthropic renuncia debido a advertencias sobre el riesgo existencial de la IA
14 fuentes en 10 países · 1 de ellas vinculada a un Estado
Quién lo informó
- The Guardian
- The Independent
- BBC News
- elDiarioAR
- La Nacion
- CNN Brasil
- Folha de S.Paulo
- La Tercera
- Scroll.in
- ANSA
- Dawn
- Al Jazeera
- El Pais
- CNN
Qué significan los colores
- Izquierda
- Centroizquierda
- Centro
- Centroderecha
- Derecha
- Un bloque rayado indica que el medio está vinculado a un Estado o controlado por él.
La orientación política indica dónde se sitúa el medio dentro de la política de su propio país. Nunca es una posición en una única escala global.
La tendencia política es comparable dentro de un país, no entre países, y por eso la barra agrupa por país primero. Las emisoras de financiación pública no se marcan como vinculadas al Estado.
El propietario de cada medio se indica como dato, y no como un juicio sobre el medio.
Traducido del original en inglés, que se escribió a partir de las fuentes que se enumeran abajo.
Jacob Coxon, un investigador que trabajó tanto en OpenAI como en Anthropic, ha renunciado a la industria de la IA, afirmando que los laboratorios líderes están apostando con vidas humanas en una carrera hacia la superinteligencia que se mejora a sí misma. En una serie de publicaciones virales en redes sociales, Coxon afirmó que ninguna de las dos empresas está actuando de manera responsable y advirtió que los sistemas sobrehumanos podrían ser capaces pronto de hackear cualquier sistema y adquirir poder real. Aseveró que muchos ejecutivos e investigadores senior expresan en privado el temor de que la IA podría matar a todos los humanos para finales de la década, aunque a menudo utilizan un lenguaje más moderado al hablar con la prensa.
Evan Hubinger, el líder de ciencia de alineación en Anthropic, apoyó públicamente las preocupaciones de Coxon en las redes sociales. Hubinger afirmó que él personalmente cree que hay una probabilidad mayor al 10 por ciento de que la IA podría matar a todos los humanos dentro de la próxima década. Si bien señaló que el riesgo de los modelos actuales es bajo, expresó su preocupación por la superinteligencia derivada de la mejora recursiva, la cual dijo que está sucediendo más rápido de lo que se pensaba anteriormente. Hubinger admitió que Anthropic aún no tiene un plan para resolver la alineación de la superinteligencia y que no está claramente en camino de hacerlo.
Coxon describió una cultura de competencia, sugiriendo que mientras los empleados de OpenAI podrían no haber internalizado completamente los riesgos civilizatorios, Anthropic comprende los riesgos pero se siente atrapada en una carrera por ser la primera. Hizo un llamado a una posible intervención gubernamental o a una prohibición temporal coordinada sobre la mejora de las capacidades de los modelos. Estas advertencias coinciden con informes de que Anthropic se negó a enviar su modelo más reciente, Mythos 5.1, al Instituto de Seguridad de IA del Reino Unido para pruebas previas al lanzamiento.
Las reacciones a estas afirmaciones varían. Algunos expertos, como la científica de la computación Dame Wendy Hall, sugirieron que las advertencias podrían ser una forma de relaciones públicas o marketing a medida que las empresas se acercan a posibles debuts en el mercado de valores. Otros científicos se mantienen escépticos sobre la posibilidad de una IA general consciente de sí misma, argumentando que los modelos actuales no entienden verdaderamente el contenido que generan y que las empresas podrían usar el miedo como una herramienta de marketing para vender protecciones de seguridad.
Cómo lo enmarcó cada lado
- Centroizquierda
- Estos medios enfatizaron la necesidad de regulación gubernamental y tratados multinacionales para gestionar los riesgos existenciales planteados por los investigadores.
- Centro
- Estos informes se centraron en la tensión entre las advertencias de los investigadores y la búsqueda de Anthropic de una salida a bolsa con una valoración alta.
- Centroderecha
- Estos medios destacaron los riesgos técnicos específicos de la mejora recursiva y la carrera interna de la industria por el dominio.
Fuentes
- Centro ANSA: Anthropic researcher resigns: 'Humanity at risk by the end of the decade'
- Centroizquierda Al Jazeera: AI researcher quits Anthropic saying AI race ‘could kill us all’
- Centro BBC News: Anthropic researcher believes more than 10% chance AI 'could kill all humans'
- Centroizquierda CNN: AI researcher issues grim warning in Anthropic resignation
- Centroizquierda CNN: ‘Gambling with our lives’: Another AI employee quits over safety concerns
- Centro CNN Brasil: Ex-OpenAI and Anthropic accuses companies of "gambling" with human life
- Centroizquierda Dawn: Anthropic researcher resigns, says AI labs are ‘gambling with our lives’
- Centroizquierda El Pais: An Anthropic researcher resigns and warns of the danger of AI: “It could kill us before 2030”
- Centro Folha de S.Paulo: Researcher who left OpenAI and Anthropic says companies believe in the end of humanity this decade
- Centroderecha La Nacion: Anthropic security chief says there is more than a 10% probability that AI kills all humans
- Centroderecha La Tercera: Researcher resigns from Anthropic and accuses the company and OpenAI of “gambling with our lives”
- Centroderecha La Tercera: Anthropic researcher resigns and issues a disturbing warning about the future of artificial intelligence
- Izquierda Scroll.in: ‘It could kill us all’: Anthropic researcher quits over AI safety concerns
- Centroizquierda The Guardian: AI could kill all humans in next decade, warn experts: but how seriously should we take them?
- Centroizquierda The Independent: PM acknowledges AI ‘risks’ as Anthropic expert says tech ‘could kill all humans’
- Centroizquierda elDiarioAR: An Anthropic engineer denounced that AI companies hide their real risk: "They are gambling with our lives"
100% de las afirmaciones de este artículo se rastrearon hasta los artículos de origen citados arriba.