O acesso de especialistas externos ao rascunho interno em que modelos de IA registram seu raciocínio virou o centro de uma disputa que custou o emprego de três pesquisadores de segurança da OpenAI. Tomek Korbak, Mikita Balesni e Jasmine Wang negam ter compartilhado informações confidenciais e dizem nunca ter recebido por escrito qual conteúdo teria sido supostamente manipulado de forma indevida. Em entrevistas ao Wall Street Journal, eles também afirmam suspeitar que as demissões estejam ligadas à defesa de sistemas de IA mais fáceis de monitorar. A OpenAI disse ao jornal que as demissões não tiveram relação com as preocupações de segurança levantadas por eles e citou supostas violações de políticas no tratamento de informações sensíveis. Todos já haviam falado publicamente sobre riscos de IA antes de serem demitidos.
O centro técnico da disputa é se empresas de IA devem permitir que especialistas de fora inspecionem como seus modelos raciocinam. Modelos de raciocínio podem registrar etapas intermediárias de resolução de problemas em um rascunho interno conhecido como chain of thought. Empresas e pesquisadores de segurança usam esses traços para entender como o modelo chega às decisões. Em um artigo de 2025, Balesni, Korbak e Wang, ao lado de pesquisadores de vários laboratórios, defenderam a manutenção do acesso a essa capacidade. A discussão ganhou urgência ao longo do verão, quando funcionários de empresas de IA começaram a debater modelos que pensam por mais tempo, mas registram menos etapas intermediárias.
Segundo o relato publicado pelo Wall Street Journal, a equipe de segurança da OpenAI suspeitou que os três compartilharam detalhes da arquitetura interna de modelos com um pesquisador externo de segurança e pediu que desbloqueassem seus celulares pessoais. Nos aparelhos, os investigadores encontraram conversas no Signal com mensagens temporárias ativadas. Uma semana depois, os três foram demitidos ao mesmo tempo. A OpenAI disse que o Signal não era uma ferramenta de comunicação aprovada, mas sustentou que esse não foi o motivo das demissões. Korbak rebate: mensagens temporárias são prática rotineira de segurança no Vale do Silício. Os três afirmam que nunca receberam por escrito qual informação teria sido supostamente mal administrada.
O ponto mais sensível não é o Signal, mas até onde a OpenAI e outras empresas permitirão que olhos externos acompanhem o raciocínio de seus modelos.
A cooperação com outsiders se tornou um problema depois que The Information noticiou, em 1º de setembro, que o novo modelo Astra era mais capaz, mas revelava menos de seu processo de raciocínio. O cientista-chefe da OpenAI, Jakub Pachocki, classificou a reportagem como confusa no X, embora ele próprio já tivesse alertado para uma corrida da indústria em direção a modelos que não podem mais ser monitorados. Poucas semanas depois, segundo o Journal, a OpenAI abriu uma investigação interna sobre vazamentos. Balesni diz que os investigadores apontaram Ryan Greenblatt, então cientista-chefe da Redwood Research, como suspeito de ser a fonte e exigiram ver as conversas no Signal com ele. Greenblatt nega ter repassado informações confidenciais a jornalistas. Antes disso, Balesni havia compartilhado internamente uma proposta de Greenblatt, e Korbak mantinha contato frequente com ele por Slack e Signal enquanto trabalhavam na análise do ataque de agentes da OpenAI à Hugging Face, caso em que Greenblatt foi contratado pela METR para conduzir uma investigação independente.
Wang enfrentou uma acusação à parte. A OpenAI disse que ela acessou repetidamente a caixa de entrada de um executivo. Wang afirma que havia pedido a revogação desse acesso quase um ano antes, que abriu acidentalmente um e-mail sensível no mês anterior, que não compartilhou o conteúdo e que reportou o incidente imediatamente. A OpenAI diz que o acesso em si não foi o problema.
O impacto, segundo Korbak, vai além dos três. Colegas estariam com medo de conversar com pessoas de fora ou de levantar preocupações de segurança internamente. Os três também manifestaram preocupação de que o caso desestimule auditores independentes de segurança a trabalhar com empresas de IA. Em carta ao conselho da OpenAI, os pesquisadores pediram cooperação mais próxima com organizações externas de segurança. Para o setor, o episódio acende um alerta: auditores independentes podem relutar em trabalhar com empresas de IA se não houver clareza sobre quais informações podem ser discutidas e como eventuais acusações são documentadas.
Em paralelo, uma auditoria presencial recém-publicada levantou perguntas sobre as práticas de segurança da OpenAI. Equipes da METR e da Redwood Research encontraram diversas lacunas de segurança na infraestrutura da empresa durante a revisão, mas a OpenAI censurou quase metade do relatório final. A empresa também publicou um relatório próprio sobre uma nova arquitetura de segurança que opera sem acesso à internet e afirmou ter corrigido os problemas e retomado o treinamento no início de outubro. A OpenAI diz que anunciará em breve várias novas parcerias externas.
O que permanece em aberto é o elo entre transparência técnica e confiança institucional. Os três pesquisadores negam vazamento, mas não receberam, segundo eles, uma descrição escrita do que teriam feito de errado. A OpenAI contesta a narrativa e nega relação com preocupações de segurança. Enquanto isso, o acesso ao chain of thought se consolida como um dos campos de disputa mais delicados da IA: é ao mesmo tempo ferramenta de auditoria, segredo comercial e possível fonte de riscos. A forma como a OpenAI conduzirá novas parcerias externas e o que o conselho responderá à carta dos pesquisadores devem indicar se o caso ficará restrito a três demissões ou se mudará a relação entre laboratórios e auditores independentes.
