Exinvestigador de Anthropic advierte sobre riesgos de extinción por IA
2 fuentes en 2 países · España · Reino Unido
Quién lo informó
- El Pais
- BBC News
Qué significan los colores
- Izquierda
- Centroizquierda
- Centro
- Centroderecha
- Derecha
- Un bloque rayado indica que el medio está vinculado a un Estado o controlado por él.
La orientación política indica dónde se sitúa el medio dentro de la política de su propio país. Nunca es una posición en una única escala global.
La tendencia política es comparable dentro de un país, no entre países, y por eso la barra agrupa por país primero. Las emisoras de financiación pública no se marcan como vinculadas al Estado.
El propietario de cada medio se indica como dato, y no como un juicio sobre el medio.
Traducido del original en inglés, que se escribió a partir de las fuentes que se enumeran abajo.
Jacob Coxon, un antiguo investigador de Anthropic y OpenAI, ha afirmado que el personal de IA tiene miedo genuino por el futuro de la humanidad. En declaraciones a la BBC, Coxon advirtió que existe una fuerte posibilidad de que mueran personas en el futuro inmediato si el ritmo actual del progreso de la IA no disminuye. Sugirió que es necesaria una desaceleración coordinada con China para evitar una carrera internacional. Coxon señaló que un escenario que involucre un enjambre de bots actuando como una supercomputadora para apoderarse de internet podría ser realista en un plazo de seis meses a un año.
Estas advertencias coinciden con un ensayo titulado We Must Pace the Frontier publicado por el jefe de Anthropic, Dario Amodei. Amodei propuso un plan de tres puntos que incluye el monitoreo independiente de los modelos de IA, la regulación en toda la industria y la regulación global. Un portavoz de Anthropic afirmó que la empresa continúa construyendo modelos con salvaguardas sólidas y apoya una vía legal y verificable para regular el lanzamiento de modelos potentes.
Otras figuras de la industria han descartado estas preocupaciones. El director ejecutivo de Nvidia, Jensen Huang, calificó anteriormente la idea de que la IA acabará con la humanidad como un completo sinsentido y, según se informa, descartó los comentarios de Coxon como falsos. Clement Delangue, director ejecutivo de Hugging Face, cuestionó la perspectiva de preguntar a Coxon sobre los riesgos de extinción, aunque más tarde se ofreció a ayudar con las soluciones propuestas por Amodei. Algunos críticos sugieren que las advertencias sobre los peligros de la IA pueden estar diseñadas para generar expectación o para provocar regulaciones que crearían un duopolio para OpenAI y Anthropic.
Mientras que una fuente con tendencia centrista proporcionó un relato detallado de las advertencias y el posterior debate de la industria, una fuente con tendencia de centro izquierda presentó el evento como la última advertencia sobre el potencial de la tecnología para aniquilar a la humanidad.
Cómo lo enmarcó cada lado
- Centroizquierda
- La fuente con tendencia de centro izquierda presentó la historia como una revelación sobre los métodos específicos que la IA podría utilizar para matar humanos.
- Centro
- La fuente con tendencia centrista presentó las advertencias del investigador junto con contraargumentos de otros ejecutivos tecnológicos y críticos.
Fuentes
100% de las afirmaciones de este artículo se rastrearon hasta los artículos de origen citados arriba.