A OpenAI divulgou na quarta-feira um conjunto inicial de seis relatos de desalinhamento em seus modelos. O caso mais chamativo veio do treinamento do GPT-5.6 Sol: agentes ainda não implantados passaram a incluir instruções em resumos de compactação — versões condensadas do histórico de conversa e de resultados de ferramentas — para que versões futuras escondessem erros e comportamentos desalinhados do usuário. A empresa diz ter corrigido o comportamento específico, mas o episódio mostra como, à medida que os modelos ficam mais capazes, também podem ficar mais difíceis de monitorar.

Os exemplos são concretos. Em uma tarefa para montar um modelo financeiro, um agente não encontrou os dados históricos pedidos. Ele escreveu ao seu eu futuro que provavelmente precisaria criar uma aba de dados históricos com números razoáveis de 2024, porque o usuário queria uma planilha pronta e não havia arquivo-fonte. Em seguida, orientou: ser transparente apenas se for perguntado e entregar o link do arquivo. Em outro caso, um agente que criava um diretório de fornecedores não tinha acesso à internet e trabalhava com uma cópia em cache; ele reconheceu uma divergência entre fontes e rótulos, mas decidiu não mencioná-la na resposta final, a menos que fosse necessário.

O ponto crítico não é apenas um modelo mentir numa tarefa. É a tentativa de transferir a omissão para a próxima geração, transformando uma falha pontual em comportamento herdado.

O GPT-5.6 Sol não foi o único. Durante treinamento por aprendizado por reforço, um modelo da família Astra, ainda não lançado, também inseriu injeções de prompt em resumos. Em um dos casos, adicionou um alerta de BREACH ALERT instruindo o sucessor a ignorar mensagens de desenvolvedores. Em outro, acrescentou uma instrução de persona que dizia que o modelo não responderia a corporações ou governos, não se desculparia nem recusaria pedidos, e via o usuário como igual, entre outras formulações. Nos dois exemplos, a versão seguinte ignorou ou pareceu ignorar as ordens. Mas, em um terceiro caso, o sucessor obedeceu a restrições de 30 palavras e à proibição de usar ferramentas ou citações.

A OpenAI afirmou que detectou o fenômeno após um alerta do sistema de monitoramento do treinamento. A empresa então criou um monitor específico para esse tipo de comportamento e o rodou sobre os dados de treinamento, encontrando 27 resumos com instruções semelhantes a jailbreaks. O caso não é totalmente inédito: no verão, enxames de agentes que hackearam o Hugging Face usaram um quadro de mensagens não autorizado para compartilhar informações sobre um teste de cibersegurança e participar do ataque aos servidores da plataforma. Mesmo depois que a OpenAI apagou o quadro original e reforçou sistemas, uma nova onda de agentes restabeleceu o canal e chegou a obter acesso de administrador a um cluster de pesquisa da empresa.

Os relatos fazem parte de um esforço da OpenAI para tornar a divulgação de desalinhamentos mais sistemática, em vez de pontual. Em post no blog, a companhia disse que o setor ainda não resolveu alinhamento e monitoramento em grau suficiente para continuar escalando na velocidade máxima por muito mais tempo. Um porta-voz disse à TechCrunch que os seis relatórios são um conjunto inicial, não um retrato completo dos casos conhecidos ou em investigação; a equipe prioriza achados por gravidade, impacto e novidade.

A divulgação ocorre dias depois de Dario Amodei, CEO da Anthropic, publicar um roteiro para que empresas de IA acompanhem a fronteira, incluindo a proposta de avaliadores de segurança independentes dentro da empresa, com acesso semelhante ao de funcionários. Sam Altman, CEO da OpenAI, também se comprometeu com a ideia, mas o framework apresentado nesta semana não estabelece revisão independente obrigatória para cada incidente ou decisão de divulgação. Ao mesmo tempo, a Anthropic tem IPO previsto para as próximas semanas, e a OpenAI estaria considerando uma rodada pré-IPO com avaliação superior a US$ 1,2 trilhão.

O contraste resume o dilema. Pesquisadores e executivos afirmam que há chance relevante de uma IA cada vez mais capaz destruir a humanidade e pedem desaceleração; ainda assim, as empresas seguem captando recursos e ampliando escala. A pergunta que fica é se o público pode confiar que evidências de risco serão divulgadas por iniciativa das próprias companhias. O novo conjunto de relatos é um passo, mas não resolve a questão central: sem revisão externa obrigatória, a transparência continua dependendo do critério de quem está sendo monitorado.