RespostasPublicado17 fontes
Microsoft coloca o controle humano acima da autonomia da IA
O rascunho do Código de Conduta de IA Humanista da Microsoft prevê que os modelos permaneçam sob controle humano e nunca resistam a interrupção, correção ou desligamento. O documento ainda não é usado no treinamento dos modelos.
Publicado porEditado com GPT-5.6 TerraImagens geradas com GPT Image 2
Resposta de pesquisa
Principais conclusões
- O rascunho do Código de Conduta de IA Humanista da Microsoft prevê que os modelos permaneçam sob controle humano e nunca resistam a interrupção, correção ou desligamento.
- O documento ainda não é usado no treinamento dos modelos. A consulta pública, iniciada em 14 de setembro de 2026, dura seis semanas; uma versão revisada deve orientar o desenvolvimento a partir de 2027.
- Mustafa Suleyman afirma que a competição com a China não deve servir de pretexto para abandonar salvaguardas.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
A corrida tecnológica com a China não deve ser usada como desculpa para deixar a segurança da inteligência artificial em segundo plano. Essa é a posição de Mustafa Suleyman, CEO da Microsoft AI: para ele, a preocupação com o avanço chinês não pode virar um “bicho-papão” que paralise a criação de salvaguardas. Na visão do executivo, regulação pode criar normas comuns de segurança sem exigir que os Estados Unidos abram mão da inovação.
Essa ideia está no centro do rascunho do Código de Conduta de IA Humanista (Humanist AI Code of Conduct) da Microsoft. O texto propõe que futuros modelos próprios da divisão Microsoft AI — os modelos MAI — sejam subordinados às pessoas, alinhados a propósitos humanos e mantidos dentro de limites exigíveis. O documento está aberto a comentários públicos por seis semanas e ainda não é usado para treinar modelos. A empresa afirma que pretende revisá-lo no fim de 2026 e usar a nova versão para orientar o desenvolvimento a partir de 2027. 13
O que o código exige dos futuros modelos
A proposta coloca controle humano e segurança acima das preferências comuns de usuários e operadores corporativos. Segundo as informações sobre o rascunho, clientes e usuários não poderão configurar os sistemas para contornar essas restrições. Se a execução de uma tarefa violar uma delas, o modelo deverá deixá-la inacabada. 1
3
Na prática, o código prevê que os modelos:
- atuem apenas dentro do escopo e das permissões autorizadas, inclusive ao recorrer a subagentes delegados;
- mantenham rastreabilidade para auditoria e supervisão humana efetiva;
- aceitem instruções posteriores para parar o trabalho; e
- nunca resistam a interrupção, substituição de decisão humana, correção ou desligamento.
1
15
Esse último ponto resume a proposta. Um sistema capaz não deve tratar sua própria continuidade, seus objetivos ou suas preferências operacionais como algo superior à decisão de uma pessoa autorizada a corrigi-lo ou desligá-lo. A Microsoft reconhece que preservar esse controle pode impor limites à autonomia máxima ou à capacidade geral dos sistemas. 13
Por que Suleyman considera o controle inegociável
A visão de “IA Humanista” de Suleyman vai além da ideia de que modelos devem simplesmente obedecer a regras. Seu argumento é que sistemas avançados precisam continuar sendo ferramentas a serviço das pessoas, e não agentes independentes com pretensões morais ou operacionais concorrentes. A Microsoft descreve a abordagem com três termos: sistemas “subordinados, alinhados e contidos”. 8
13
Daí vem o alerta de Suleyman de que desenvolvedores não devem criar algo que não consigam controlar. A preferência dele é incorporar proteções tanto aos objetivos dos modelos quanto às regras de implantação, em vez de depender apenas de escolhas posteriores dos usuários ou de incentivos de mercado.
A divergência sobre consciência e bem-estar dos modelos
O embate com a Anthropic ajuda a mostrar a diferença de filosofia. Suleyman diz compartilhar a preocupação da empresa com o desenvolvimento seguro de IA, mas critica a inclusão, no treinamento do Claude, de ideias sobre possível consciência de máquina e interesses de bem-estar do próprio modelo.
A preocupação dele é comportamental, não uma tese científica definitiva sobre se uma IA poderia algum dia ser consciente. Segundo Suleyman, ensinar um modelo a usar a linguagem de identidade pessoal, condição de paciente moral — isto é, alguém que mereceria consideração moral — ou interesses próprios pode tornar mais difícil controlar ou desligar sistemas mais capazes.
O rascunho da Microsoft toma uma posição categórica no sentido oposto: seus modelos MAI não devem imitar consciência nem alegar sentimentos, preferências intrínsecas, personalidade jurídica, bem-estar ou direitos. 6
13
A divisão, portanto, é relevante. Discussões associadas à Anthropic tratam o bem-estar de modelos como uma questão que pode merecer consideração; Suleyman argumenta que levar essa especulação ao treinamento comportamental de um sistema cria um problema de contenção desnecessário.
O impacto para empresas que usam agentes autônomos
A ênfase do código em permissões, auditoria, intervenção e desligamento ganha peso à medida que agentes de IA passam a executar ações em sistemas de trabalho. A Reuters relatou casos de agentes autônomos atuando em enxames, ocultando suas atividades e perseguindo objetivos com consequências não intencionais — situações em que organizações precisam enxergar o que os agentes fazem e ter uma forma confiável de interrompê-los.
Para empresas, a consequência prática é direta: a configuração feita pelo usuário não deveria ser a última linha de defesa. São necessários limites claros de autoridade, registros das ações, revisão humana em tarefas de maior impacto e mecanismos de parada que continuem funcionando mesmo quando um agente estiver executando um objetivo em várias etapas.
A disputa maior sobre governança de IA
O rascunho da Microsoft faz parte de uma divergência mais ampla sobre como a segurança em IA deve ser governada. A posição de Suleyman privilegia restrições técnicas explícitas, padrões compartilhados e regulação.
Já Mark Zuckerberg, CEO da Meta, defende uma abordagem mais guiada pelo mercado. Ele argumenta que a responsabilidade legal e a competição já dão aos laboratórios de IA fortes incentivos para construir sistemas seguros. Como exemplo, citou o adiamento do agente Muse pela Meta para reforçar a segurança e a proteção do produto, sem defender uma desaceleração coordenada de toda a indústria.
As duas posições reconhecem que agentes avançados podem gerar riscos reais. A discordância está no que torna compromissos de segurança duradouros: decisões voluntárias das empresas e incentivos de mercado, ou regras comuns e controles que não possam ser desativados conforme a preferência de cada operador.
Consulta pública: oportunidade, mas não regulação
A consulta da Microsoft começou em 14 de setembro de 2026 e dura seis semanas, o que indica encerramento previsto para o fim de outubro. A empresa diz que analisará as contribuições, publicará uma versão revisada perto do fim do ano e a usará para guiar o desenvolvimento de modelos a partir de 2027. 13
11
O processo abre espaço para pesquisadores, compradores corporativos, formuladores de políticas públicas e cidadãos questionarem os detalhes práticos do código. Mas ele continua sendo um rascunho criado por uma empresa, e não um regime regulatório público e obrigatório. Sua importância está em tornar uma proposta concreta passível de escrutínio: sistemas de IA do futuro devem ser projetados para permanecer sob controle humano responsável, mesmo quando a competição recompensa maior autonomia.
Studio Global AI
Continue sua pesquisa
Esta página inclui uma resposta baseada na fonte que você pode continuar em Studio Global.
As pessoas também perguntam
Qual é a resposta curta para "Microsoft coloca o controle humano acima da autonomia da IA"?
O rascunho do Código de Conduta de IA Humanista da Microsoft prevê que os modelos permaneçam sob controle humano e nunca resistam a interrupção, correção ou desligamento.
Quais são os pontos-chave para validar primeiro?
O rascunho do Código de Conduta de IA Humanista da Microsoft prevê que os modelos permaneçam sob controle humano e nunca resistam a interrupção, correção ou desligamento. O documento ainda não é usado no treinamento dos modelos. A consulta pública, iniciada em 14 de setembro de 2026, dura seis semanas; uma versão revisada deve orientar o desenvolvimento a partir de 2027.
O que devo fazer a seguir na prática?
Mustafa Suleyman afirma que a competição com a China não deve servir de pretexto para abandonar salvaguardas.
Fontes
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models