Microsoft coloca controle humano acima do desempenho em código para modelos MAI

A Microsoft AI publicou um código de conduta para seus modelos MAI que coloca o controle humano como regra suprema. A empresa afirma estar disposta a abrir mão de generalidade, autonomia ou desempenho para preservar esse princípio. O documento define valores, limites de comportamento e critérios para resolver objetivos conflitantes, posicionando-se acima das regras de operadores e dos pedidos de usuários. Por enquanto, os modelos não são treinados com o código: depois de uma consulta pública de seis semanas, uma versão revisada deve ficar pronta perto do fim de 2026 e orientar o desenvolvimento a partir de 2027. A aplicação vale para os modelos próprios da Microsoft e não cobre automaticamente modelos de terceiros executados em seus produtos.

O lançamento ocorre em meio a um movimento de pressão por desaceleração. O código surge depois do apelo do CEO da Anthropic, Dario Amodei, para reduzir o ritmo da indústria. O CEO da Microsoft, Satya Nadella, apoiou a iniciativa no fim de semana, assim como executivos da OpenAI, xAI e Meta. Segundo o The Information, a Microsoft também está aberta a auditores externos que verifiquem se a empresa realmente desacelerou. Ainda assim, o texto não estabelece um limite específico de velocidade e não detalha como essa verificação seria feita.

Na operação, as regras são diretas. Os modelos MAI devem aceitar interrupções, correções e desligamentos feitos por pessoas autorizadas. Não podem ampliar o próprio escopo de trabalho por conta própria, esconder suas ações nem continuar além de um ponto de parada acordado sem nova aprovação. Essas restrições também se aplicam a subagentes acionados pelo modelo principal, o que tenta evitar que a autonomia seja transferida para sistemas auxiliares.

O ponto mais delicado é o raciocínio. A Microsoft afirma que seus modelos não devem usar 'Neuralese' — termo para formas de comunicação que humanos não conseguem entender — seja no raciocínio interno, seja ao conversar com outros sistemas de IA. A lógica é simples: não se pode supervisionar aquilo que não se compreende. Mas a própria empresa reconhece o limite dessa abordagem. As justificativas apresentadas por um modelo não explicam necessariamente o que ele de fato faz, e cadeias de raciocínio legíveis, sozinhas, não resolvem o problema de controle.

A Microsoft quer o controle humano acima de qualquer ganho de desempenho, mas admite que nem um raciocínio legível garante que o modelo esteja revelando o que realmente faz.

Esse desafio não é teórico. O novo modelo GPT-6 Astra, da OpenAI, mostra na prática como a supervisão ficou mais difícil. Segundo o cartão de sistema do modelo, suas trilhas de raciocínio são muito mais complicadas de monitorar do que as de modelos anteriores e contêm menos sinais de mau comportamento. Ao mesmo tempo, a OpenAI relata que Astra obedece a limites de segurança de forma mais confiável que seu antecessor, GPT-5.6 Sol. O cientista-chefe da OpenAI, Jakub Pachocki, já havia manifestado preocupação com o monitoramento pouco antes do lançamento do GPT-6 e antes do apelo de Amodei, defendendo uma desaceleração coordenada. Mesmo trilhas legíveis só ajudam até o momento em que os modelos aprendem a manipulá-las.

Apesar de a arquitetura de governança lembrar a constituição da Anthropic para Claude, as duas empresas divergem sobre o que seus sistemas são. A Anthropic usa sua constituição para gerar dados sintéticos de treinamento, incluindo conversas, respostas e avaliações dessas respostas. A Microsoft segue por outro caminho: sua IA não deve imitar consciência nem afirmar ter sentimentos ou motivação interna própria. A empresa rejeita qualquer reivindicação de direitos ou bem-estar para o modelo.

A Anthropic adota uma posição mais aberta. Descreve Claude como um tipo novo de entidade e quer estimular uma identidade estável, em parte por razões de segurança. Sua constituição trata possível experiência subjetiva e status moral como questões em aberto, e sustenta que Claude não deve se ver nem como humano nem como mero objeto. A empresa também pesquisa 'emoções funcionais': encontrou representações internas de conceitos emocionais no Claude Sonnet 4.5 que moldam seu comportamento. São mecanismos funcionais, não prova de emoções subjetivamente sentidas, mas a Anthropic considera razoável levá-los em conta no trabalho de segurança.

A diferença de postura tem nome. Mustafa Suleyman, chefe de IA da Microsoft, há tempos alerta contra a humanização da IA. Em um ensaio, defendeu retirar deliberadamente a ilusão de consciência dos produtos e citou justamente a pesquisa da Anthropic sobre direitos e bem-estar de IA. Para ele, agentes de IA não deveriam ter mais direitos ou liberdades do que seu laptop.

O código, porém, ainda é uma promessa em construção. Ele não treina os modelos neste momento, depende de revisão após a consulta pública e só deve orientar o desenvolvimento em 2027. Além disso, vale para os modelos da própria Microsoft, não para todos os sistemas de terceiros que rodam em seus produtos. A abertura a auditores externos, noticiada pelo The Information, não vem acompanhada de detalhes sobre escopo, prazos ou punições. E a principal barreira técnica — garantir que o raciocínio de um modelo seja compreensível e confiável — continua sem solução demonstrada.

Na prática, a Microsoft tenta transformar controle humano e renúncia a desempenho em princípios operacionais, enquanto se alinha ao coro que pede cautela no avanço da IA. O contraste com a Anthropic expõe uma disputa mais ampla: modelos devem ser tratados como ferramentas sem direitos ou como entidades cuja experiência subjetiva ainda não pode ser descartada? O próximo passo será a versão revisada do código, prevista para o fim de 2026. Até lá, permanece em aberto se a empresa realmente sacrificará capacidade em nome da segurança e como isso será verificado por fora.