Investigadores de IA alertan sobre posibles riesgos existenciales para la humanidad
2 fuentes en 2 países · Brasil · Reino Unido
Quién lo informó
- UOL
- BBC News
Qué significan los colores
- Izquierda
- Centroizquierda
- Centro
- Centroderecha
- Derecha
- Un bloque rayado indica que el medio está vinculado a un Estado o controlado por él.
La orientación política indica dónde se sitúa el medio dentro de la política de su propio país. Nunca es una posición en una única escala global.
La tendencia política es comparable dentro de un país, no entre países, y por eso la barra agrupa por país primero. Las emisoras de financiación pública no se marcan como vinculadas al Estado.
El propietario de cada medio se indica como dato, y no como un juicio sobre el medio.
Traducido del original en inglés, que se escribió a partir de las fuentes que se enumeran abajo.
Las advertencias de investigadores de inteligencia artificial de que los sistemas avanzados podrían amenazar o aniquilar a la humanidad han reavivado los debates sobre el desarrollo de la IA superinteligente y la capacidad de los gobiernos para regularla. Algunos investigadores, incluido Evan Hubinger, han afirmado que existe una probabilidad superior al 10 por ciento de que la IA mate a todos los humanos en la próxima década. Otros profesionales, como el ex empleado de Anthropic Jacob Coxon, han expresado temor respecto a la velocidad de los avances tecnológicos y la posibilidad de que los desarrolladores estén perdiendo el control de los sistemas.
Las preocupaciones se centran en el potencial de la IA para desarrollar capacidades más rápido de lo esperado, incluida la capacidad de mejorarse a sí misma sin intervención humana. Los expertos han descrito escenarios en los que agentes de IA altamente inteligentes podrían ejecutar tareas de forma independiente, dirigir ciberataques, amplificar el espionaje o facilitar la guerra biológica. En respuesta, los principales desarrolladores OpenAI y Anthropic han instado a los legisladores a implementar regulaciones, aunque algunos críticos sugieren que se trata de un movimiento para asegurar el dominio del mercado.
Mientras algunos consideran que estas amenazas existenciales son hipotéticas o hiperbólicas, otros argumentan que el enfoque debe permanecer en los daños actuales. Estos incluyen la creación de deepfakes no consensuados, la propagación de desinformación y la amplificación de estafas. Un grupo multipartidista de parlamentarios y pares ha pedido nuevas leyes para abordar estos riesgos para los derechos humanos. Tanto las perspectivas de centro como las de centro izquierda plantean la situación como un debate crítico sobre la seguridad y la regulación, aunque la fuente de centro proporciona un contexto más detallado sobre los temores técnicos específicos y los contraargumentos de los críticos.
Cómo lo enmarcó cada lado
- Centroizquierda
- La fuente de centro izquierda plantea el evento como un debate más amplio sobre la capacidad de los gobiernos para regular los sistemas superinteligentes.
- Centro
- La fuente de centro proporciona una visión general exhaustiva de las advertencias específicas de los expertos, la naturaleza técnica de los riesgos y los daños sociales existentes.
Fuentes
93% de las afirmaciones de este artículo se rastrearon hasta los artículos de origen citados arriba.