Uma carta fora do circuito das big techs

Um grupo de 42 matemáticos de destaque enviou uma carta aberta ao presidente da Royal Society, a academia científica do Reino Unido, pedindo que a instituição alerte o governo e a mídia sobre os riscos existenciais associados à inteligência artificial avançada. Entre os signatários estão Martin Hairer, Peter Scholze e Wendelin Werner, todos vencedores da Medalha Fields. Segundo a carta, nenhum deles tem vínculo com empresas de IA.

O perfil dos signatários dá peso incomum ao alerta. Em um debate muitas vezes dominado por executivos, pesquisadores contratados por laboratórios e entusiastas do setor, a carta chega de um campo que costuma ser associado à prova formal e à abstração: a matemática. O pedido não é por uma pausa genérica, mas para que a Royal Society atue como ponte entre evidência científica, autoridades públicas e opinião pública.

O salto na matemática como sinal de alerta

O gatilho imediato da carta é o desempenho recente de modelos de fronteira. Em um intervalo de três meses, modelos líderes da OpenAI e da Anthropic resolveram problemas abertos de pesquisa, incluindo um dos sete Problemas do Milênio. A carta observa que um segundo problema desse tipo pode ser resolvido em breve. Segundo os matemáticos, esses sistemas já atuam no nível dos melhores matemáticos humanos em muitas partes da disciplina, com chance significativa de desenvolver habilidades sobre-humanas em prazo igualmente curto.

O alerta não é sobre matemática: os próprios signatários usam o salto da disciplina como sinal de que a aceleração pode se repetir em armas, cibersegurança e biologia.

Riscos além dos teoremas

O impacto sobre a matemática não é o que motivou a carta. O grupo argumenta que se deve assumir uma taxa de mudança semelhante em áreas como cibersegurança, controle de armas autônomas, desenvolvimento de agentes biológicos e químicos e desinformação direcionada. Em outras palavras, a velocidade observada em um domínio abstrato seria um indício do que pode ocorrer em setores com consequências diretas para a segurança global.

Os matemáticos também rebatem uma objeção frequente no debate público. Estimativas de laboratórios de IA que colocam o risco existencial acima de 10% não devem ser descartadas como 'hype', escrevem. A carta acrescenta que, quando a situação se tornar óbvia para o público mais amplo, pode ser tarde demais para agir. O trecho desloca a discussão de probabilidades abstratas para o problema do tempo de reação de governos e instituições científicas.

Por que a Royal Society importa

A escolha da Royal Society como destinatária não é acidental. Trata-se de uma das instituições científicas mais antigas e respeitadas do mundo, com autoridade para transformar um alerta técnico em pauta política. Ao pedir que a academia alerte governo e imprensa, os signatários tentam evitar que o tema fique restrito a relatórios de laboratórios ou a discussões internas da indústria.

A ausência de vínculos com empresas de IA também reforça a mensagem. A carta não parte de quem desenvolve ou vende os sistemas, mas de matemáticos que observam a capacidade dos modelos em seu próprio campo. Isso não elimina o debate sobre exageros, mas dificulta a resposta padrão de que se trata apenas de marketing ou de interesse comercial.

Limitações e próximos passos

A carta não especifica quais modelos foram usados, quais problemas abertos além do Problema do Milênio foram resolvidos, nem apresenta uma metodologia pública para extrapolar avanços em matemática para outras áreas. Também não propõe políticas concretas, como regulação, auditoria obrigatória ou limites de capacidade. O foco é pressionar uma instituição científica a agir como caixa de ressonância qualificada.

O desdobramento agora depende da resposta da Royal Society e de como governos e mídia tratarão o alerta. O ponto central levantado pelos matemáticos é o ritmo: se a aceleração das capacidades continuar no mesmo passo observado em matemática, a janela para agir pode se fechar antes que o público perceba a dimensão do problema. A dúvida que permanece é se instituições científicas e autoridades políticas conseguirão acompanhar essa velocidade.