Ex-pesquisador da Anthropic alerta para riscos de extinção por IA
2 fontes em 2 países · Espanha · Reino Unido
Quem noticiou
- El Pais
- BBC News
O que as cores significam
- Esquerda
- Centro-esquerda
- Centro
- Centro-direita
- Direita
- Um bloco hachurado indica que o veículo é ligado a um Estado ou controlado por ele.
A orientação política indica onde o veículo se situa dentro da política do próprio país. Nunca é uma posição numa única escala global.
A orientação política é comparável dentro de um país, não entre países, e por isso a barra agrupa por país primeiro. Emissoras de financiamento público não são marcadas como ligadas ao Estado.
O proprietário de cada veículo é informado como registro, e não como um julgamento sobre o veículo.
Traduzido do original em inglês, que foi escrito a partir das fontes listadas abaixo.
Jacob Coxon, ex-pesquisador da Anthropic e da OpenAI, afirmou que os funcionários de IA estão genuinamente assustados com o futuro da humanidade. Em entrevista à BBC, Coxon alertou que há uma forte chance de pessoas morrerem no futuro imediato se o ritmo atual do progresso da IA não diminuir. Ele sugeriu que uma desaceleração coordenada com a China é necessária para evitar uma corrida internacional. Coxon observou que um cenário envolvendo um enxame de bots atuando como um supercomputador para assumir o controle da internet poderia ser realista dentro de seis meses a um ano.
Esses alertas alinham-se a um ensaio intitulado We Must Pace the Frontier, publicado pelo chefe da Anthropic, Dario Amodei. Amodei propôs um plano de três pontos envolvendo o monitoramento independente de modelos de IA, regulamentação em todo o setor e regulamentação global. Um porta-voz da Anthropic afirmou que a empresa continua a construir modelos com salvaguardas fortes e apoia uma maneira legal e verificável de cadenciar o lançamento de modelos poderosos.
Outras figuras da indústria descartaram essas preocupações. O CEO da Nvidia, Jensen Huang, anteriormente chamou a ideia de que a IA acabará com a humanidade de completa bobagem e, segundo relatos, descartou os comentários de Coxon como falsos. Clement Delangue, CEO da Hugging Face, questionou a perspectiva de perguntar a Coxon sobre riscos de extinção, embora posteriormente tenha se oferecido para ajudar com as soluções propostas por Amodei. Alguns críticos sugerem que os alertas sobre os perigos da IA podem ter sido projetados para gerar alarde ou para desencadear regulamentações que criariam um duopólio para a OpenAI e a Anthropic.
Enquanto uma fonte de tendência central forneceu um relato detalhado dos alertas e do debate subsequente da indústria, uma fonte de tendência centro-esquerda enquadrou o evento como o alerta mais recente sobre o potencial da tecnologia de aniquilar a humanidade.
Como cada lado enquadrou
- Centro-esquerda
- A fonte de tendência centro-esquerda enquadrou a história como uma revelação sobre os métodos específicos que a IA poderia usar para matar humanos.
- Centro
- A fonte de tendência central apresentou os alertas do pesquisador juntamente com contra-argumentos de outros executivos de tecnologia e críticos.
Fontes
100% das afirmações deste artigo foram rastreadas até as reportagens de origem listadas acima.