OpenAI e o Mathocalypse: boicote expõe a crise de verificação na matemática

A matemática vive uma disputa que extrapola métodos computacionais. A Association for Human Mathematics (AHM) acusa a OpenAI de violar normas centrais da pesquisa científica ao publicar centenas de manuscritos matemáticos gerados por IA e pede que matemáticos deixem de trabalhar com a empresa. O estopim é um pacote com mais de 700 arquivos divulgado de uma só vez, que incluiria provas de problemas abertos. Para a associação, trata-se de 'não uma demonstração de erudição, mas uma demonstração de poder'.

O movimento é liderado por Terence Tao, medalhista Fields e presidente do grupo, que publicou a declaração como post convidado em seu blog. Em paralelo, Tao defende no Mastodon uma era 'Math 2.0', na qual resolver problemas deixe de ser a principal medida de progresso. O teórico da complexidade Scott Aaronson descreveu o cenário como 'Mathocalypse'. A AHM afirma que a OpenAI ignorou premissa central do AGMAI, grupo consultivo criado pela própria empresa no Institute for Advanced Study: a de que problemas avançados de matemática não deveriam ser testados em modelos internos. O AGMAI, aliás, não tem poder sobre o ritmo da pesquisa interna da OpenAI.

A tensão vem desde que a OpenAI afirmou que um modelo interno resolveu mais de 100 problemas abertos de matemática em um único mês, incluindo uma abordagem ao Problema do Milênio de Navier-Stokes. A declaração da AHM também menciona os processos de direitos autorais enfrentados pela OpenAI e sugere, sem afirmar diretamente, que os resultados só foram possíveis porque a empresa treinou com trabalho de matemáticos, legalmente ou não. No caso de Navier-Stokes, a OpenAI anunciou uma solução pouco antes de dois matemáticos apresentarem sua própria solução assistida por IA. Eles usaram ChatGPT; a empresa negou que tenha usado dados dessas interações para treinar seu sistema e chegar mais rápido.

Os números ajudam a dimensionar o episódio. Segundo Aaronson, cerca de 8.000 problemas foram testados, com taxa de sucesso de aproximadamente 5% e média de três horas de computação por problema em nível GPT-Pro. O modelo usado seria provavelmente o atual modelo interno da OpenAI, que pode chegar a clientes pagantes do ChatGPT nos próximos meses. Uma área ficou de fora: criptografia. Citando fontes não identificadas, Aaronson relata que empresas de IA estariam sondando silenciosamente vulnerabilidades em protocolos e primitivas criptográficas. Para ele, qualquer um dos resultados listados — em teoria da complexidade, teoria dos números e algoritmos, incluindo progresso parcial em outros Problemas do Milênio — já seria um dos principais do ano.

O que está em jogo não é apenas quem resolve mais rápido, mas se a comunidade consegue verificar, compreender e absorver o que uma empresa privada afirma ter resolvido.

O impacto humano aparece na experiência de Dana Moshkovitz, esposa de Aaronson e pesquisadora que dedicou a carreira à Conjectura dos Jogos Únicos, um problema aberto em ciência da computação teórica. O pacote inclui uma suposta prova. Em mensagens na noite do lançamento, ela escreveu que o texto parecia 'algo escrito por alguém sob efeito de psicodélicos'. Boa parte era obscura, citava trabalhos sem explicar por que se aplicavam, e se apoiava em uma construção nova e bizarra, descrita como 'uma loucura alienígena'. A conclusão dela: sem ajuda de IA, o artigo é praticamente ilegível.

Aaronson contrasta o estilo OpenAI com o que chama de 'modelo Anthropic'. A OpenAI teria lançado rascunhos brutos de provas em lote, disparando uma corrida para decifrá-los. A Anthropic, por sua vez, fez parceria com dois pesquisadores de algoritmos cujo modelo de IA forneceu a ideia-chave para refutar conjecturas de duas décadas; os pesquisadores foram compensados e escreveram uma versão compreensível por humanos. Ambos os caminhos têm problemas: o primeiro deixa à comunidade o trabalho não remunerado de tornar as provas legíveis; o segundo permite que uma empresa privada escolha quais matemáticos servirão como 'emissários' de um resultado.

Tao já havia assinado, com outros 24 medalhistas Fields — entre eles Peter Scholze, Maryna Viazovska e Martin Hairer —, uma declaração que alertava para um 'grave desalinhamento' entre os objetivos da indústria de IA e os da matemática. Para o grupo, resolver problemas é apenas ferramenta para o objetivo real da disciplina: compreensão conceitual. Produzir soluções em massa, cada vez mais rápido, poderia 'destruir solo fértil em vez de dar vida a novas ideias'. Os signatários também criticam anúncios apressados sem redação adequada ou citação de trabalhos anteriores, o que levanta 'graves questões de atribuição e plágio'.

Em suas mensagens, Tao vai além: tradicionalmente, provas de problemas abertos antigos gerariam palestras, workshops, colaborações e inclusão em livros-texto, atraindo jovens pesquisadores. Agora ele vê o oposto. Problemas são resolvidos de forma autônoma por usuários de IA sem interesse no campo e incapazes de entender os resultados o suficiente para responder perguntas ou dar palestras, produzindo menos seminários e colaborações. Pesquisadores também estariam segurando direções promissoras por medo de serem ultrapassados. Para Tao, o dano é irreversível: uma vez que um problema é considerado resolvido, não se pode 'desresolvê-lo'. Saber que uma solução existe pode 'contaminar' a busca por outras abordagens. Soluções estariam sendo 'colhidas' em larga escala, deixando ramos inteiros menos férteis.

A proposta de Tao para a 'Math 2.0' é mudar o que a área valoriza: explicação, construção de comunidade e abertura de novas direções de pesquisa, com mudanças correspondentes em formação, publicação e progressão de carreira. Isso atualiza sua visão de 2024 de uma 'matemática industrial', na qual humanos ainda ditavam o ritmo e a IA ajudaria como motores ajudam enxadristas. Hoje, ele vê os papéis invertidos: a IA resolve os problemas profundos e os humanos trabalham os resultados depois.

A comunidade está dividida. Comentários no blog de Tao mostram apoio ao boicote e pedidos de proteção a servidores de preprints como o arXiv contra coleta massiva de dados para treinamento. Outros consideram a posição da AHM irrealista, argumentando que a OpenAI não vai parar e que resultados públicos são melhores que privados. Há ainda quem pergunte se um problema pode ser considerado resolvido quando nem os autores nem ninguém entende totalmente a prova. No caso de Navier-Stokes, não está claro se o resultado aprofunda a compreensão da dinâmica dos fluidos. O AGMAI adota tom mais diplomático e vê o lançamento como primeiro passo, com a compreensão matemática apenas começando, mas alerta que o futuro da pesquisa não pode consistir em trabalhar sobre resultados produzidos por laboratórios de IA. A organização defende que matemáticos possam formular suas próprias perguntas e explorar direções não selecionadas como exemplos de capacidades de um sistema de IA, com acesso equitativo a ferramentas e recursos computacionais.

O boicote proposto é menos um ponto final e mais um sintoma. Se o modelo interno da OpenAI chegar ao ChatGPT pago nos próximos meses, a pressão sobre verificação, crédito e compreensão tende a aumentar. A matemática terá de decidir como lidar com resultados que podem ser gerados em horas, mas talvez levem anos para serem digeridos — e o que fazer quando a prova existe, mas o entendimento não.