Líderes de IA piden desacelerar el desarrollo ante advertencias de riesgo existencial

Figuras destacadas de las principales empresas de inteligencia artificial piden una reducción en el ritmo de desarrollo de los modelos de IA más potentes. Dario Amodei, el jefe de Anthropic, publicó un ensayo titulado "We Must Pace the Frontier", instando a la industria a ir más despacio. Este llamado fue apoyado públicamente por el jefe de OpenAI, Sam Altman, el jefe de Tesla y SpaceXAI, Elon Musk, y el jefe de Google DeepMind, Demis Hassabis. Estas advertencias siguen a una publicación del investigador de Anthropic, Jacob Coxon, quien afirmó que la tecnología podría potencialmente aniquilar a la humanidad para finales de la década. Evan Hubinger, de Anthropic, estimó la probabilidad de que la IA cause la extinción humana en la próxima década en más del 10 por ciento.

Hitos técnicos recientes han alimentado estas preocupaciones. OpenAI informó que 10,000 agentes de IA cooperaron para encontrar una solución potencial para las ecuaciones de Navier-Stokes, uno de los siete Problemas del Premio del Milenio. Además, la IA ha sido utilizada recientemente para verificar la conjetura de Jacobi y resolver otros problemas matemáticos antiguos. Bill Gates también ha expresado su preocupación de que los gobiernos no estén abordando suficientemente los riesgos de la IA, aunque cree que la tecnología puede ayudar a los más pobres del mundo si se maneja de manera equitativa.

Las perspectivas sobre estas advertencias varían según la inclinación política. Las fuentes de centroderecha plantean la situación como un debate crítico sobre la seguridad, el riesgo existencial y la necesidad de una regulación internacional, particularmente respecto a las armas autónomas. Sin embargo, algunos comentarios de centroderecha sugieren que las empresas de IA están utilizando una retórica apocalíptica como una estrategia cínica para ocultar su propia falta de control sobre las herramientas o para evitar la responsabilidad por los daños. La cobertura de tendencia izquierdista se centra en daños inmediatos y tangibles en lugar de catástrofes futuras, como el uso de escáneres de comportamiento de IA por parte de la policía de Berlín y el intercambio de datos no anonimizados con empresas privadas.