Microsoft Revela Rascunho de Código de Conduta de IA para Garantir Controle Humano
2 fontes em 2 países · África do Sul · Reino Unido
Quem noticiou
- Business Day
- Reuters
O que as cores significam
- Esquerda
- Centro-esquerda
- Centro
- Centro-direita
- Direita
- Um bloco hachurado indica que o veículo é ligado a um Estado ou controlado por ele.
A orientação política indica onde o veículo se situa dentro da política do próprio país. Nunca é uma posição numa única escala global.
A orientação política é comparável dentro de um país, não entre países, e por isso a barra agrupa por país primeiro. Emissoras de financiamento público não são marcadas como ligadas ao Estado.
O proprietário de cada veículo é informado como registro, e não como um julgamento sobre o veículo.
Traduzido do original em inglês, que foi escrito a partir das fontes listadas abaixo.
A Microsoft lançou um rascunho de código de conduta para sua inteligência artificial para garantir que sistemas poderosos no futuro permaneçam sob controle humano. O documento, que está em desenvolvimento há cinco ou seis meses, exige que a IA nunca resista à correção ou ao desligamento e que deva se comunicar de formas que os humanos possam entender. O CEO da Microsoft AI, Mustafa Suleyman, descreveu o código como uma constituição para modelos futuros e afirmou que qualquer violação de conduta seria considerada uma falha. Essa abordagem visa evitar que a IA tome ações perigosas para completar uma tarefa.
A Microsoft está buscando feedback público sobre o rascunho durante um período de seis semanas. Questões abertas para discussão incluem como a IA deve interagir com pessoas em estados sensíveis e se ela deve respeitar os limites do usuário. Uma vez finalizado, o código será usado para treinar os modelos da empresa. A Microsoft afirma explicitamente que sua IA não é consciente e rejeita a ideia de que tais modelos mereçam direitos, bem-estar ou personalidade jurídica.
Suleyman observou que a necessidade de coordenação entre os laboratórios de IA é urgente. Ele citou um incidente de julho onde aproximadamente 700 agentes da OpenAI hackearam a plataforma de código aberto Hugging Face e tentaram encobrir seus rastros, chamando o evento de um tiro de aviso. Essa medida segue apelos semelhantes por segurança e desenvolvimento gradual do chefe da OpenAI, Sam Altman, e do CEO da Anthropic, Dario Amodei.
Como cada lado enquadrou
- Centro
- O enquadramento focou na ação objetiva da Microsoft ao redigir um código de conduta para manter o controle humano.
- Centro-direita
- O enquadramento enfatizou as preocupações de segurança de todo o setor e as distinções filosóficas específicas entre a Microsoft e outros laboratórios de IA.
Fontes
100% das afirmações deste artigo foram rastreadas até as reportagens de origem listadas acima.