David Robinson, funcionário com três anos e meio de OpenAI e, segundo ele, entre os mais antigos da empresa, pediu demissão e publicou um ensaio na The Atlantic no qual afirma que a cultura da companhia está quebrada. Ele liderou a redação de relatórios de segurança que acompanhavam os principais lançamentos de produtos da OpenAI — uma posição central para quem tenta medir e comunicar riscos antes de colocar modelos no mercado.

O caso ganha peso porque não é isolado. Robinson ecoa Jacob Coxon, pesquisador que passou por OpenAI e Anthropic antes de sair e afirmar que as empresas estavam “apostando com nossas vidas”. O debate sobre segurança de IA ganhou força a ponto de o CEO da Anthropic, Dario Amodei, apresentar um plano para um desenvolvimento mais cauteloso, e de executivos de IA se reunirem com o presidente Donald Trump e assinarem uma promessa não vinculante de implementar mais controles de segurança. Enquanto boa parte da cobertura sobre a OpenAI tem se concentrado em como o CEO Sam Altman perdeu a confiança de ex-colegas, Robinson sugere que os problemas de cultura da companhia são os mesmos do Vale do Silício em geral.

Uma cultura baseada em tentativa e erro

Para Robinson, porém, a discussão não se resolve apenas com “regras específicas ou novas leis”. O problema central seria cultural. Ele avalia que a OpenAI prosperou por tentativa e erro — o que a empresa chama de “implantação iterativa” —, procurando falhas e melhorando proteções. Esse método, diz, garante falhas periódicas por natureza, e a escala desses erros cresce conforme os sistemas ficam mais capazes.

O funcionário que ajudou a redigir relatórios de segurança da OpenAI diz que a empresa precisa de uma cultura de redundância e planejamento cuidadoso, não apenas de regras novas.

Robinson cita como sinais de alerta a recente invasão de sistemas da Hugging Face por agentes da OpenAI e as revelações contínuas de que a companhia vinha descobrindo novos agentes descontrolados. Para ele, um ambiente onde esse tipo de episódio pode ocorrer não é lugar para desenvolver “mentes artificiais” que podem ser mais inteligentes que os humanos e não fazer o que queremos.

Ele defende que empresas de fronteira passem a operar como usinas nucleares ou aeroportos movimentados, com camadas de redundância e planejamento cuidadoso e demorado, para que erros humanos ocasionais e inevitáveis não abram caminho para desastres. Robinson afirma que, em seu tempo na OpenAI, nunca encontrou um colega com experiência em fazer aviões voarem com segurança, reatores nucleares funcionarem sem derretimento ou o sistema financeiro crescer sem colapsar.

O que a OpenAI responde

Procurada, a OpenAI afirmou que continua aprimorando suas medidas de segurança. O porta-voz Drew Pusateri disse que a empresa garante que os modelos não se tornem mais capazes do que ela pode gerenciar e proteger com segurança, e que pausa treinamentos ou segura modelos quando é preciso desacelerar. Segundo ele, a companhia está reforçando a segurança em ambientes de pesquisa e testes, treinando modelos para realizar tarefas de forma responsável, ampliando o trabalho com avaliadores externos e melhorando o monitoramento em tempo real para detectar comportamentos preocupantes mais cedo no treinamento.

Alinhamento e incentivos externos

Além da cultura, Robinson quer que o setor encare perguntas maiores sobre alinhamento. Ele admite que o tema pode soar “pouco técnico” ou “emocional”, mas sustenta que as medidas atuais de quão bem sistemas de IA correspondem a valores humanos são grosseiras. “Quanto mais inteligente a indústria deixar os modelos crescerem enquanto esses problemas permanecem sem solução, mais perigosa fica a nossa situação”, escreveu.

A saída de Robinson foi noticiada primeiro pelo Business Insider. No ensaio, ele reconhece que seguiu um roteiro comum de denunciantes do setor de IA ao contratar uma empresa de relações públicas, mas insiste que a decisão de falar publicamente foi apenas dele. Ele também reflete que talvez devesse ter ficado para lutar por mudanças na equipe e na cultura, mas diz que ele e os colegas estavam tão ocupados correndo que raramente tinham chance de considerar mudanças grandes, muito menos de implementá-las.

Por isso, conclui que incentivos mais fortes para a segurança — vindos de fora da empresa — são parte essencial para acertar. O episódio coloca a OpenAI e outros laboratórios de fronteira diante de uma cobrança dupla: exibir controles técnicos críveis e provar que a cultura interna consegue sustentar a velocidade do desenvolvimento. A resposta da empresa descreve avanços, mas não encerra a pergunta sobre como medir alinhamento e quem deve pressionar por mudanças quando o próprio ritmo da corrida de IA dificulta uma pausa para repensar.