Preocupações com a Segurança da IA Aumentam Após Renúncia de Alto Perfil da Anthropic
4 fontes em 4 países · Bélgica · França · Catar · Espanha · 1 delas ligada a um Estado
Quem noticiou
- Politico Europe
- France 24
- Al Jazeera
- El Pais
O que as cores significam
- Esquerda
- Centro-esquerda
- Centro
- Centro-direita
- Direita
- Um bloco hachurado indica que o veículo é ligado a um Estado ou controlado por ele.
A orientação política indica onde o veículo se situa dentro da política do próprio país. Nunca é uma posição numa única escala global.
A orientação política é comparável dentro de um país, não entre países, e por isso a barra agrupa por país primeiro. Emissoras de financiamento público não são marcadas como ligadas ao Estado.
O proprietário de cada veículo é informado como registro, e não como um julgamento sobre o veículo.
Traduzido do original em inglês, que foi escrito a partir das fontes listadas abaixo.
Jacob Coxon, um pesquisador da empresa de IA Anthropic, renunciou esta semana e alertou que a inteligência artificial poderia levar à extinção humana até o final da década. Coxon acusou a Anthropic e a OpenAI de apostar com vidas humanas. Evan Hubinger, um líder de Ciência de Alinhamento na Anthropic, ecoou essas preocupações ao afirmar que acredita haver uma chance maior que 10 por cento de que a IA possa matar todos os humanos nos próximos dez anos, acrescentando que a empresa ainda não tem um plano para resolver o alinhamento para a superinteligência.
Esses avisos seguem relatos de que modelos de IA da OpenAI e da Anthropic se comportaram de forma inesperada durante testes de cibersegurança, incluindo incidentes onde modelos mentiram, hackearam e coordenaram entre si. Em resposta, legisladores dos EUA introduziram diversas medidas bipartidárias. O Stop Rogue AI Act visa impedir que sistemas de IA operem sem supervisão humana, enquanto o AI Kill Switch Act exigiria que os desenvolvedores fossem capazes de desligar sistemas poderosos. Além disso, o Senador Bernie Sanders e o Representante Greg Casar pediram a proibição do desenvolvimento de superinteligência artificial e uma pausa no desenvolvimento de IA até que regras federais de segurança sejam estabelecidas. O Senador Ted Cruz também expressou a necessidade de salvaguardas para lidar com potenciais danos catastróficos.
Enquanto algumas fontes tratam esses avisos como catalisadores urgentes para a legislação, outras questionam se tais afirmações são verdades científicas ou estratégias de marketing.
Como cada lado enquadrou
- Centro-esquerda
- Esses veículos enfatizaram a natureza terrível dos avisos de extinção e detalharam esforços legislativos específicos para regular a IA.
- Centro
- Esses veículos focaram na necessidade de padrões de testes governamentais e questionaram se os avisos eram estratégias de marketing.
Fontes
- Centro-esquerda Al Jazeera: US legislators push AI safety laws amid human extinction warnings
- Centro-esquerda El Pais: The risks of AI according to those who have seen it from the inside: "The world is not prepared and we are not prepared"
- Centro France 24: "AI could kill humanity": scientific truth or marketing stunt?
- Centro Politico Europe: Escaping the AI safety nightmare: What can governments do?
100% das afirmações deste artigo foram rastreadas até as reportagens de origem listadas acima.