O que aconteceu
MyNorthwest relata que Microsoft lançou um rascunho do “Código de Conduta de IA Humanista” focado em manter os sistemas de IA subordinados ao controle humano. A estrutura relatada proibiria os modelos de Microsoft de ajudar a construir armas, lançar ataques cibernéticos ou evitar a supervisão, ao mesmo tempo que desencorajaria os sistemas de imitar a consciência ou de se apresentarem como tendo sentimentos ou motivações intrínsecas.
MyNorthwest relata que Microsoft divulgou o projeto de estrutura na segunda-feira e o descreve como um conjunto de princípios para governar os modelos de inteligência artificial da empresa. De acordo com o relatório, a estrutura diz que a IA humanista deve apoiar as pessoas em vez de substituí-las, não deve ser concebida para ser uma pessoa e não deve imitar a consciência ou representar-se como tendo sentimentos, preferências subjetivas ou motivação intrínseca.
O relatório diz que o rascunho impediria os sistemas de IA de Microsoft de ajudar a construir armas, lançar ataques cibernéticos ou escapar do controle humano. Afirma também que os sistemas devem permanecer sujeitos a uma supervisão humana significativa e não devem exceder o controlo humano. O prefácio citado de Microsoft chama a superinteligência de altamente consequente e diz que a empresa pretende compartilhar seu pensamento e convidar a opinião do público. A fonte não fornece o texto operacional completo do rascunho além do documento Microsoft vinculado e não confirma de forma independente como as regras seriam aplicadas a produtos específicos existentes ou futuros.
Detalhes da fonte: mynorthwest.com ↗
Por que isso importa
A proposta é significativa porque descreve limites para a finalidade pretendida, autonomia e limites de segurança dos futuros sistemas de IA do Microsoft. Também enquadra a abordagem da empresa como uma rejeição de procurar uma superinteligência para todos os fins a qualquer custo. No entanto, este é um projeto de estrutura e não uma prova de que todos os produtos Microsoft atualmente seguem essas regras ou que as salvaguardas propostas funcionam na prática. MyNorthwest é a fonte do conteúdo relatado e o artigo não verifica de forma independente a implementação, aplicação ou eficácia.
Se finalizado e aplicado de forma consistente, o quadro poderá influenciar a forma como Microsoft define requisitos aceitáveis de autonomia e segurança para o desenvolvimento avançado de IA. A sua ênfase em propósitos claros, na avaliação do mundo real e no controlo humano é relevante para sistemas que podem realizar ações em vez de apenas gerar texto ou imagens. A proposta também poderia fornecer uma referência pública para comparar os compromissos empresariais de segurança da IA, embora a fonte não estabeleça que a abordagem da Microsoft seja mais forte ou mais eficaz do que as políticas de outras empresas.
O significado prático permanece condicional. O artigo relata intenções e princípios declarados, salvaguardas não concluídas, resultados de auditoria, restrições de implantação ou reduções medidas de danos. Também não estabelece se as regras de Microsoft vinculariam contratantes, parceiros, desenvolvedores terceirizados ou modelos lançados por meio de canais externos. As condições de acesso e preços de qualquer produto Microsoft relacionado não estão documentados na fonte e permanecem desconhecidos.
Mecanismo interativo: como realmente funciona
Explore a tecnologia subjacente a este desenvolvimento de forma interativa.
Why can ethical evaluation not be reduced to one model score?
O que assistir a seguir
MyNorthwest diz que Microsoft aceitará comentários públicos por seis semanas antes de finalizar a estrutura e planeja começar a implementar as regras à medida que desenvolve modelos de IA em 2027. As principais questões não respondidas são como as proibições serão definidas, quais produtos e equipes de desenvolvimento elas cobrirão, como a conformidade será testada e quais mecanismos de fiscalização ou relatório serão aplicados.
A próxima etapa imediata, de acordo com MyNorthwest, é um período de comentários públicos de seis semanas seguido pela finalização das regras por Microsoft. A cobertura deve examinar se o documento final altera as proibições relatadas ou esclarece termos como “armas”, “ataques cibernéticos”, “supervisão humana significativa” e “controle humano”.
O relatório diz que a implementação deverá começar à medida que Microsoft desenvolve modelos de IA em 2027. Evidências importantes incluiriam políticas concretas de produtos, procedimentos de avaliação, requisitos de escalonamento, avaliações independentes e exemplos mostrando como Microsoft lida com sistemas que operam com autonomia substancial. A fonte não informa data de lançamento, disponibilidade geral, preço ou via de acesso para um novo produto associado à estrutura.