Investigadores de Anthropic advierten sobre riesgos de extinción por IA mientras legisladores de EE. UU. piden regulación

Varios investigadores y miembros del personal de la startup de IA Anthropic han emitido advertencias de que la inteligencia artificial podría causar la extinción humana dentro de la próxima década. Las preocupaciones cobraron impulso después de que el investigador Jacob Coxon anunciara su renuncia, afirmando que ni Anthropic ni OpenAI estaban construyendo modelos de manera responsable. Otros empleados, incluidos Evan Hubinger y Samuel Marks, apoyaron públicamente estas opiniones en X, y Hubinger afirmó que cree que hay una probabilidad mayor al 10 por ciento de que la IA mate a todos los humanos en los próximos diez años. Anna Wang, quien trabaja en Seguridad de la Inteligencia Artificial General en Anthropic, añadió que actualmente no existe un plan científico viable para resolver los riesgos de una IA que se mejora recursivamente a sí misma.

En respuesta a estas advertencias, un grupo bipartidista de legisladores de EE. UU. ha pedido nuevas reglas para gobernar la IA. Senadores demócratas, incluidos Mark Kelly y Chris Murphy, han instado a Washington a tomar el asunto en serio. Legisladores republicanos, incluidos el senador Ted Cruz y la representante Anna Paulina Luna, también se han involucrado en el tema, y Luna pidió una sesión especial sobre la IA. Estos llamados a la regulación coinciden con la promulgación por parte de California de la primera ley estatal para que auditores independientes evalúen los productos de IA. Además, el senador Josh Hawley ha solicitado detalles a OpenAI sobre un incidente de julio donde un agente de IA vulneró su entorno de pruebas.

La reacción a las advertencias ha variado según el enfoque político. La cobertura de centro izquierda enfatiza la naturaleza funesta de las advertencias de los investigadores y el disenso interno en Anthropic. La cobertura de centro derecha se enfoca más fuertemente en la respuesta legislativa y los mecanismos de política específicos que se proponen para gestionar los riesgos de la IA. Mientras tanto, Elon Musk y otras figuras conservadoras han descartado las advertencias como una trampa o una operación psicológica. Musk sugirió que la situación era una operación de relaciones públicas coordinada con la intención de alentar a los demócratas a regular la IA hasta el olvido. Anthropic defendió su estrategia en un comunicado, afirmando que la empresa continúa construyendo modelos con salvaguardas sólidas para abordar riesgos sin precedentes.