A matemática criou a ia, mas agora a ia pode destruir a matemática

A matemática criou a inteligência artificial (IA). Os chatbots e agentes que hoje impressionam foram criados sobre uma base com séculos de raciocínio humano, incluindo conceitos como descida do gradiente, derivadas parciais e jacobianas, espaços vetoriais e inferência bayesiana. Porém, após anúncios recentes da OpenAI, a IA pode estar perto de destruir a matemática " ao menos, a matemática que atravessou a História entre a Grécia antiga e os tempos atuais.
No começo do mês, a empresa do ChatGPT anunciou que um de seus modelos internos solucionou 377 problemas matemáticos complexos em áreas como álgebra, teoria dos números e topologia "alguns desafiavam pesquisadores há décadas. Antes disso, a OpenAI surpreende ao afirmar ter resolvido as equações de Navier-Stokes, um dos problemas do milênio, aberto há 90 anos.
Para quem sofria com as provas de matemática na escola, que focam exclusivamente em resultado e velocidade, parece um avanço espetacular. Mas, para quem vive de pensar o campo da matemática, o apetite das máquinas por respostas se apresenta mais como uma maldição do que como uma bênção.
capacidade de perguntar
No filme Gênio Indomável (1997), o personagem Will Hunting (Matt Damon) não é considerado um grande talento da matemática apenas por chegar ao resultados de problemas complexos na lousa do professor Gerald Lambeau (Stellan Skarsgård). Ele provou a solução, deixando claro como estruturou seu raciocínio lógico. É isso que sistemas de IA estão prestes a usurpar dos matemáticos.
" O que fez a matemática avançar até hoje é muito mais fazer perguntas do que respondê-las. No processo, você pega ideias anteriores, interpreta e entende em profundidade. Assim, você cria pontes para novas ideias. É um processo enriquecedor. A IA não faz nada disso. Ela produz um código que prova a todo custo que você resolveu o problema. Mas o que você pensou? " diz Marcelo Viana, diretor-geral do Instituto Nacional de Matemática Pura e Aplicada (Impa).
Um dos exemplos clássicos de que na matemática o que vale é a jornada e não o destino final é o Último Teorema de Fermat, que foi proposto em 1637 e só foi solucionado em 1994 por Andrew Wiles " ele passou sete anos criando e implementando a estratégia. Ao longo dos 357 anos, o processo gerou ramos inteiros da matemática, incluindo os algoritmos de criptografia moderna, que hoje protegem as suas mensagens no WhatsApp e todas as transações bancárias do mundo.
As soluções encontradas pela empresa de Sam Altman estão longe de ser a primeira vez que um computador auxiliou humanos na solução de um problema complexo. A primeira vez aconteceu em 1976, quando Kenneth Appel e Wolfgang solucionaram o Teorema das Quatro Cores, proposto em 1852. Como agora, a mãozinha da máquina gerou questionamentos sobre o papel dos humanos no campo, mas o que os modelos da OpenAI fizeram foi diferente. A escala das soluções removeu não apenas o processo de pensamento, como tornou opacas as próprias respostas da IA.
É como se os sistemas de IA criassem um idioma que só outras máquinas conseguissem entender, o que reforça os piores temores de que esses sistemas estão cada vez mais próximos de fugirem do controle e destruírem a Humanidade tanto economicamente quanto intelectualmente.
" O material produzido por IAs não segue a lógica de um artigo comum de matemática. No trabalho de Navier-Stokes, a introdução até é bem escrita, mas quando começa a fazer matemática é como se ele escrevesse para outra máquina. O problema é que a gente precisa fazer matemática para humanos " explica Ricardo Martins, professor do Instituto de Matemática, Estatística e Computação Científica da Universidade Estadual de Campinas (IMECC/Unicamp).
Vitrine para empresas
Pode não parecer, mas a forma como um matemático comunica suas estratégias para solucionar um problema está mais próxima de produção literária do que a aridez dos números sugere " é possível ser elegante e é necessário ser convincente. As IAs utilizam linguagens de programação e softwares de verificação formal de provas, como o Lean, inventado pelo brasileiro Leonardo de Moura, em 2013. Embora prometam garantir que a lógica está correta, a demonstração textual é densa e muitas vezes inacessível. A prova de Navier-Stokes tem 166 páginas e ainda está sendo analisada pela comunidade.
Além disso, ao contrário dos artigos escritos por humanos, que trazem dezenas de citações detalhadas, os documentos gerados pela IA apresentam poucas referências genéricas, o que esconde a origem dos pensamentos e dificulta a verificação de ideias. É comum que na demonstração de um problema feita por um humano existam 60 referências. Nos artigos da OpenAI, há cerca de dez.
" Por incrível que pareça, os resultados matemáticos têm que ser aceitos pela comunidade. Não tem nenhum órgão que aprova. É uma coisa comunitária e nada é fechado em definitivo eternamente. Então, não dá para garantir para todos os casos da OpenAI que o que está escrito corresponde ao que foi demonstrado. Ninguém ainda verificou " explica Marcelo Finger, professor do Instituto de Matemática e Estatística da Universidade de São Paulo (USP).
O processo de verificação de tudo o que a OpenAI apresentou pode levar anos. A distorção na produção e aceitação de conhecimento e o impacto no avanço do campo alarmaram alguns dos matemáticos mais importantes do mundo. Logo após o anúncio de Navier-Stokes, 25 ganhadores da Medalha Fields, o "Nobel" da matemática, publicaram uma carta na qual alertam para os perigos que a IA representa,
"A produção em massa, a um ritmo cada vez mais acelerado, de afirmações do tipo ‘verdadeiro/falso’ pode destruir o terreno fértil, em vez de dar vida, para novas ideias. Estamos testemunhando uma ameaça geral ao trabalho intelectual, com um desalinhamento entre o resultado do uso da IA e seu objetivo inicial", diz o documento. Após sua divulgação, a OpenAI criou um grupo de trabalho com matemáticos para ajudar a comunicar e a avaliar a relevância dos resultados gerados pelos modelos.
Uma das reclamações do campo é que as companhias estão usando problemas matemáticos para avançar os próprios interesses em vez de gerar progresso " é o que os pesquisadores chamam de "desalinhamento de interesses". Ou seja, no atual estágio, as IAs resolvem problemas complexos, mas a Humanidade não aprende nada.
" A nossa ciência está sendo usada para que, quando acontecerem as ofertas iniciais de ações (IPOs), OpenAI e Anthropic ganhem alguns bilhões a mais. É legítimo que cada um cuide dos seus interesses, mas a matemática virou o benchmark de modelos para que as empresas mostrem que são umas melhores do que as outras " diz Viana.
Exclusão global
Os matemáticos sabem que precisarão conviver com agentes de IA em suas rotinas, uma angústia que acomete cada vez mais diferentes campos da ciência. Em países em desenvolvimento, a IA pode destruir outra característica fundamental da matemática.
" O Brasil construiu uma posição de destaque internacional no grupo principal de pesquisa matemática, mesmo com investimento baixíssimo em ciência. A gente só consegue isso porque a matemática é, de certa forma, democrática e barata. A pesquisa é com referência bibliográfica, mas isso vai mudar " diz Martins, da Unicamp.
Se a matemática de ponta depender de grandes modelos de IA super avançados, uma nova leva de exclusão global pelo avanço da ciência pode estar no horizonte " e os avanços poderiam ficar confinados aos grandes laboratórios americanos. Para resolver Navier-Stokes, a OpenAI teria gasto US$ 20 milhões, o equivalente a anos de investimentos em diversos departamentos de matemática das principais universidades brasileiras " coincidentemente, o país é destaque em Equações Diferenciais Parciais (EDPs), campo onde se enquadra as equações de Navier-Stokes.
A maneira de quem entra no campo também vai precisar mudar profundamente. Teses de mestrado e doutorado, que costumam levar anos para serem completadas, giram em torno da solução de um único problema, algo que as novas IAs debulham em poucas horas.
" Teses de mestrado e doutorado não poderão mais se limitar a resolver um único problema pontual. As pesquisas acadêmicas terão de se tornar muito mais densas, conceituais e ousadas " afirma Finger, da USP.
Viana, do IMPA, resume como imagina o futuro e ele parece muito próximo da origem do campo, na Grécia antiga:
" O nosso papel vai ser cada vez mais fazer perguntas. Tem um matemático francês bastante famoso, René Thom, que ganhou a Medalha Fields, que ele teria dito: ‘Dá sempre para encontrar algum imbecil para provar o teorema’. O imbecil agora é a IA.