Líderes de IA Pedem Desaceleração do Desenvolvimento em Meio a Avisos de Risco Existencial

Figuras proeminentes de grandes empresas de inteligência artificial estão pedindo uma redução no ritmo de desenvolvimento dos modelos de IA mais poderosos. Dario Amodei, o chefe da Anthropic, publicou um ensaio intitulado "We Must Pace the Frontier", instando a indústria a desacelerar. Este apelo foi apoiado publicamente pelo chefe da OpenAI, Sam Altman, pelo chefe da Tesla e SpaceXAI, Elon Musk, e pelo chefe da Google DeepMind, Demis Hassabis. Esses avisos seguem uma publicação do pesquisador da Anthropic, Jacob Coxon, que afirmou que a tecnologia poderia potencialmente aniquilar a humanidade até o final da década. Evan Hubinger, da Anthropic, estimou a probabilidade de a IA causar a extinção humana na próxima década em mais de 10 por cento.

Marcos técnicos recentes alimentaram essas preocupações. A OpenAI relatou que 10.000 agentes de IA cooperaram para encontrar uma solução potencial para as equações de Navier-Stokes, um dos sete Problemas do Prêmio do Milênio. Além disso, a IA foi usada recentemente para verificar a conjectura de Jacobi e resolver outros problemas matemáticos antigos. Bill Gates também expressou preocupação de que os governos não estejam abordando suficientemente os riscos da IA, embora acredite que a tecnologia possa ajudar os mais pobres do mundo se for manipulada de forma equitativa.

As perspectivas sobre esses avisos variam conforme a inclinação política. Fontes de centro direita enquadram a situação como um debate crítico sobre segurança, risco existencial e a necessidade de regulamentação internacional, particularmente em relação a armas autônomas. No entanto, alguns comentários de centro direita sugerem que as empresas de IA estão usando a retórica do apocalipse como uma estratégia cínica para esconder a própria falta de controle sobre as ferramentas ou para evitar a responsabilidade por danos. A cobertura de inclinação à esquerda foca em danos imediatos e tangíveis em vez de catástrofes futuras, como o uso de scanners de comportamento de IA pela polícia de Berlim e o compartilhamento de dados não anonimizados com empresas privadas.