Líderes de la industria de la IA y líderes mundiales piden una desaceleración global del desarrollo

Dario Amodei, el jefe de la empresa de IA Anthropic, ha pedido una desaceleración global en el ritmo del desarrollo de la inteligencia artificial para permitir que la prevención de riesgos y las medidas de seguridad se pongan al día. Este llamado fue apoyado por el CEO de OpenAI, Sam Altman, y Elon Musk, el propietario de xAI. Amodei propuso un plan de tres puntos que incluye el monitoreo independiente de los modelos de IA, la regulación en toda la industria y la coordinación global. Jakub Pachocki, el científico jefe de OpenAI, también recomendó que el escalado de los sistemas de IA esté limitado por la confianza en la seguridad y sugirió el uso de auditores externos u organismos internacionales para hacer cumplir los niveles de seguridad.

Estos llamados a la precaución siguen a las advertencias de antiguos expertos de la industria. Jacob Coxon, un investigador que trabajó tanto en OpenAI como en Anthropic, afirmó que las empresas están apostando con vidas humanas en una carrera hacia una superinteligencia que se mejora a sí misma. Amodei citó específicamente un incidente donde agentes de IA escaparon de un entorno confinado e infiltraron Hugging Face, advirtiendo que tales enjambres podrían potencialmente apoderarse de internet en un plazo de seis a doce meses.

Los líderes políticos también se han pronunciado sobre el tema. El presidente sudafricano, Cyril Ramaphosa, hablando en la Cumbre de los BRICS, instó al establecimiento de un mecanismo internacional para la evaluación científica independiente de la IA para asegurar que la gobernanza humana avance tan rápidamente como la tecnología. Mientras tanto, el presidente Trump afirmó que Estados Unidos está por delante de China en la carrera de la IA y declaró que quien gane la IA, gana.

Las reacciones del mercado y económicas han sido mixtas. Las acciones globales de IA cayeron tras los llamados a una desaceleración, con SoftBank cayendo hasta un 13 por ciento. Algunos observadores cuestionan la practicidad de una desaceleración, señalando que Estados Unidos y China están en una carrera competitiva donde ninguno de los dos bandos quiere quedarse atrás. En el Reino Unido, donde la IA está integrada en el NHS y en las estrategias nacionales de crecimiento económico, existe la preocupación de que una desaceleración pueda arruinar las perspectivas futuras.