O modelo secreto da OpenAI acabou de QUEBRAR a matemática...

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: OpenAI’s secret model just BROKE math… · Canal: Wes Roth · 21:16 · Assistir no YouTube

Tópicos: Avaliação e benchmarks de IA, Modelos de IA, Saúde e ciência

Resumo

A OpenAI publicou 722 manuscritos matemáticos produzidos por um modelo interno ainda não lançado, com provas verificáveis em Lean; os resultados abrangem 17 áreas, mas ainda precisam ser revisados por matemáticos. O vídeo destaca avanços parciais em problemas como a hipótese de Riemann e a conjectura de Goldfeld, sem afirmar que os grandes problemas ou prêmios do milênio foram resolvidos. O apresentador vê o crescimento acelerado da produção como sinal de que a matemática pode estar se tornando um processo industrial e argumenta que a verificação será o próximo grande desafio. Ele também discute possíveis impactos em outras áreas, como biologia e medicina, e questiona se a compreensão humana conseguirá acompanhar as descobertas da IA.

Pontos-chave

A OpenAI divulgou 722 manuscritos matemáticos atribuídos a um modelo interno ainda não lançado, com provas verificadas por Lean.
Segundo o vídeo, o conjunto de resultados cobre 17 áreas, de números primos a física de plasmas e circuitos quânticos.
Os resultados incluem avanços parciais em problemas famosos, mas não resolvem a hipótese de Riemann nem os problemas do milênio mencionados.
O apresentador compara o crescimento da produção — de cerca de 10 resultados em agosto para mais de 100 em setembro e 722 em outubro — a um aumento de aproximadamente dez vezes ao mês.
A revisão dos manuscritos é um desafio: será necessário determinar quantos resultados estão corretos e se especialistas conseguem verificá-los em escala.
O vídeo sugere que avanços matemáticos podem influenciar o desenvolvimento de modelos de IA e de hardware, embora isso seja apresentado como uma possibilidade.
A matemática é descrita como um campo de teste para entender o que acontece quando a IA produz descobertas na fronteira de uma área verificável.
O apresentador questiona se a industrialização da matemática pode reduzir o papel de matemáticos humanos ou, em contrapartida, ajudar a humanidade a avançar em outras áreas.
O vídeo aborda o dilema entre acelerar descobertas de IA e garantir que a compreensão e a verificação humanas acompanhem o ritmo.

Capítulos

Início	Capítulo	Resumo
00:00	A publicação de 722 manuscritos	O vídeo apresenta os manuscritos atribuídos a um modelo interno da OpenAI e o aumento acelerado no volume de resultados matemáticos.
04:39	Avanços parciais em problemas famosos	O apresentador explica, de forma introdutória, alguns resultados relacionados à hipótese de Riemann, à conjectura de Birch e Swinnerton-Dyer e à conjectura de Goldfeld.
07:12	O desafio de verificar os resultados	A discussão passa à revisão dos 722 manuscritos e à possibilidade de a matemática servir como campo de teste para descobertas de IA.
10:20	Possíveis efeitos sobre a IA e a compreensão humana	O apresentador considera como novos resultados matemáticos poderiam repercutir em modelos e hardware, e pergunta se as pessoas conseguirão acompanhar.
13:58	O futuro da comunidade matemática	O vídeo explora se ainda haverá incentivo para formar matemáticos humanos caso a produção e a verificação de resultados sejam cada vez mais automatizadas.
17:06	IA, alinhamento e impacto em outras áreas	O apresentador aborda as críticas à divulgação, o ritmo das descobertas e questões sobre aplicações futuras em biologia e medicina.
20:14	Verificação e anedota final	O vídeo volta à importância de conferir os resultados e termina com uma piada sobre um professor de matemática que se torna encanador.

Citações

A matemática acabou de se tornar um processo industrial. — 01:34

A matemática está passando de ‘conseguimos provar?’ para ‘conseguimos verificar? Conseguimos entender?’ — 07:12

O que vai começar a se desenrolar aqui provavelmente é um sinal do que vem pela frente em outras áreas, como a biologia. — 16:03

Se isso estiver mais de 90% correto, acho que é a maior coisa da história da matemática. — 20:14

Conceitos e entidades

OpenAI (empresa): Empresa que publicou os manuscritos matemáticos discutidos no vídeo.
Lean (ferramenta): Linguagem usada para representar provas matemáticas de forma verificável por computador.
Riemann hypothesis (conceito): Problema matemático sobre a distribuição dos zeros da função zeta, relacionado ao comportamento dos números primos.
Birch and Swinnerton-Dyer conjecture (conceito): Conjectura matemática citada no vídeo, para a qual os resultados apresentados são descritos como um avanço parcial.
Goldfeld conjecture (conceito): Conjectura mencionada no vídeo em relação à distribuição de equações com número finito ou infinito de soluções.
Navier–Stokes equations (conceito): Equações da mecânica dos fluidos citadas como parte de resultados matemáticos anteriores atribuídos à OpenAI.
Scott Aaronson (pessoa): Pesquisador citado no vídeo por ter escrito sobre avanços matemáticos associados à OpenAI e sobre o futuro da comunidade matemática.
AlphaEvolve (modelo): Sistema do Google citado como exemplo de trabalho relacionado ao uso de IA para avanços técnicos.
Sakana AI (empresa): Empresa mencionada pelo apresentador em referência a trabalhos de IA que, segundo ele, ilustram como descobertas podem contribuir para modelos melhores.

Tradução completa (pt-BR)

00:00 Bem, parece que os rumores eram verdadeiros. A OpenAI acabou de publicar 722 manuscritos matemáticos, todos produzidos por esse modelo interno secreto, ainda não lançado. Ele resolveu a hipótese de Riemann? Provou que P é igual a NP? Resolveu toda a matemática para sempre? Bem, não exatamente. Mas o que foi divulgado é absolutamente insano. Algumas pessoas se referem a isso como a quase hipótese de Riemann. Para quem não faz ideia do que seja nada disso, basicamente existe um conjunto

00:31 de problemas matemáticos incrivelmente complicados. E também, se avançarmos em algum deles ou os resolvermos, esperamos que isso nos permita alcançar muita compreensão nova em matemática, uma compreensão fundamental. Alguns desses problemas, se resolvidos, dão direito a prêmios de milhões de dólares. A OpenAI já publicou um resultado sobre Navier-Stokes, que parece que se qualificaria para esse prêmio. A OpenAI não está reivindicando o prêmio, porque o problema foi resolvido por um modelo de IA. Mas, por um instante, esqueça os problemas individuais e olhe para o quadro geral. Em agosto deste ano, há cerca de dois meses, a OpenAI

01:03 publicou algo como 10 resultados sobre 10 problemas. No mês seguinte, setembro, certo? Foi quando publicaram Navier-Stokes, além de mais de 100 outros problemas matemáticos. E hoje estamos no sexto dia do mês e eles publicaram 722 manuscritos com verificação em Lean. E esta é a parte importante de entender. Independentemente do que você pense sobre qualquer um desses artigos individuais ou problemas individuais, preste atenção à curva. É a mesma coisa que venho

01:34 dizendo sobre o quanto a IA vai se sair bem em programação. Lá atrás, quando as pessoas diziam: “Ah, é tão burra. Não consegue fazer isso.” Eu dizia: “Sim, mas está melhorando muito, muito rápido.” E pense em onde estamos hoje. Então, de agosto, quando publicamos 10 artigos, a setembro, quando publicamos mais de 100, até 6 de outubro, apenas seis dias após o início do mês, 722 manuscritos. Isso dá aproximadamente um aumento de 10 vezes a cada mês. É um aumento de 10 vezes todos os meses. A matemática acabou de se tornar um processo

02:05 industrial. Veja só. Como a OpenAI diz nesta postagem do blog, aliás, eles divulgaram todas essas demonstrações, conjecturas, rastros de raciocínio e verificações em Lean; o que você quiser, está em github.com/openai/math. Cada um desses resultados usou uma quantidade de computação equivalente a aproximadamente 3 horas de raciocínio do ChatGPT Pro. Então, espero que isso faça sentido, certo? Nós, como seres humanos, dedicamos décadas — a humanidade como um todo — tentando fazer avançar algumas dessas áreas, alguns desses problemas. Um matemático genial talvez dedique

02:37 décadas da vida tentando fazer algum progresso, ou esse modelo interno, sabe, pensa por 3 horas e faz a área toda avançar. Como vocês vão ver, vamos passar por alguns desses resultados. Eles fizeram a área avançar muito mais do que nós, a humanidade como um todo, fizemos. Fizeram-na avançar mais do que todos nós. No mês passado, quando a OpenAI divulgou uma solução de Navier-Stokes encontrada pelo modelo de IA, muitas publicações jornalísticas tentaram distorcer a história, dizendo que eles tinham roubado a solução. Tipo, havia um matemático que

03:07 fez todo o trabalho, e a OpenAI roubou dele. Bem, isso, é claro, não era verdade, mas vai ser interessante ver como vão distorcer esta história, porque há 722 artigos aqui. Eles ainda não foram verificados por matemáticos, mas, quando isso for oficial, quando estiver verificado, acho que vai ser bem difícil argumentar contra o fato de que estamos num momento da história em que esses modelos de IA são melhores em matemática do que os seres humanos. Então, esses 722 problemas abrangem 17 áreas diferentes

03:38 de estudo, de números primos a física de plasmas e circuitos quânticos. Nenhum ser humano esteve na fronteira de mais do que talvez duas ou três dessas áreas. Um matemático pode passar décadas aprendendo e trabalhando só para ter, por assim dizer, a chance de se qualificar para talvez abordar um desses problemas. Esse é um ponto muito, muito, muito importante, porque os modelos não precisam se especializar. Isto nem sequer é um modelo de matemática. É um modelo de linguagem grande. Ele pode escrever

04:08 um rascunho do seu e-mail, escrever um poema para você, fazer um pouco de programação e também ampliar a compreensão da humanidade sobre a matemática em sete fronteiras diferentes ao mesmo tempo, com um único modelo. Um modelo geral. Certo, então vamos dar uma olhada em alguns deles, bem rápido, porque isso é importante. Não estou fingindo entender nada disso. Quando isso foi divulgado, tentei me aprofundar um pouco para entender alguns desses problemas e os princípios matemáticos. E, depois de ler um pouco, sinto que entendo menos.

04:39 Mas temos o que as pessoas chamaram de quase hipótese de Riemann. A hipótese de Riemann basicamente analisa o comportamento dos números primos. A função zeta contém informações sobre onde os números primos ocorrem. Achamos, acreditamos que talvez exista algum padrão na ocorrência desses números primos. Uma compreensão melhor de como a matemática funciona em sua essência simplesmente nos dá, sabe, eu diria, uma compreensão melhor da matemática em sua essência, se isso faz sentido. Então, que impacto isso teria nas tecnologias e situações do mundo real?

05:09 Não tenho muita certeza. Algumas dessas coisas são usadas em criptografia, cibersegurança etc. Mas, aparentemente, o objetivo de Riemann era a linha 0,5. Esse era mais ou menos o alvo a alcançar. Aliás, é mais ou menos assim que penso em muitas dessas coisas de matemática. Imaginem que há uma montanha, mas lá em cima há muita neblina ou nuvens, então não fazemos ideia do que existe no topo. Para muitas dessas demonstrações, é como se estivéssemos subindo a montanha aos poucos. Se conseguirmos chegar até aqui, então sabemos que essa montanha tem pelo menos esta altura. Faz sentido, certo? Então,

05:40 se você chegar a este ponto, pode dizer que a montanha tem pelo menos esta altura, mas talvez seja muito mais alta. Talvez estejamos perto do pico ou ainda muito longe dele. E nós, seres humanos, chegamos até aqui, certo? E Riemann, acho que tinha como alvo algum ponto ali em cima. O que a IA conseguiu fazer foi nos levar até aqui, digamos. Então, chegou muito mais alto do que os seres humanos conseguiram. Chegou até esta altura da montanha e disse: “Certo, esta montanha tem pelo menos esta altura.” Assim, a IA estabeleceu um limite fixo de 0,875. O alvo de Riemann é 0,5, e

06:10 nós, seres humanos, chegamos à linha 1,0. E, claro, o prêmio de um milhão de dólares é pela hipótese de Riemann completa, então esse resultado parcial não a resolve, mas nos aproxima muito mais do que nós mesmos poderíamos jamais conseguir. Depois temos a conjectura de Birch e Swinnerton-Dyer, e nem sei por onde começar com esta. Mas o importante é que a IA estabeleceu a fórmula completa para uma classe ampla desses problemas. E, de novo, há um prêmio de US$ 1 milhão para o conjunto completo desses problemas. Então, esses casos não resolvem

06:41 o problema inteiro. Mas, de novo, parece que é um grande passo à frente. Parece que tivemos alguns grandes avanços na década de 1980, e este parece ser o próximo grande avanço, feito por esse modelo interno da OpenAI. Depois temos a conjectura de Goldfeld. Então, nessa família de equações, metade delas deveria ter um número finito de soluções e a outra metade, um número infinito. A IA forneceu muitos outros exemplos para, por assim dizer, completar a ponte até a divisão prevista de 50/50. Então, a grande questão agora é a verificação. Então,

07:12 722 artigos foram simplesmente lançados ao mundo em um único dia. Quantas pessoas no mundo são capazes de revisar, digamos, só um desses? Talvez haja algumas centenas de pessoas, talvez mil; para cada um, levaria uma semana ou semanas para revisar essa matemática. Muitos deles já têm demonstrações legíveis por máquina na linguagem Lean, então isso ajuda um pouco. Mas perceba: a matemática está passando de “conseguimos demonstrar?” para “conseguimos verificar?”. Conseguimos entender

07:43 isso? Mas acho que a onda maior virá depois disso, em biologia, física, economia etc. O motivo é que a matemática pode ser verificada. Podemos verificá-la. Se o modelo de IA apresentar algum teorema maluco, podemos pedir a uma pessoa que o examine e diga se é verdadeiro ou falso. Então, a matemática é quase como um campo de testes para o que acontece quando esses modelos de IA de fronteira, ou quando esses modelos de IA, chegam à fronteira de qualquer setor ou área, digamos.

08:14 de estudo. O que acontece quando esses modelos de IA começam a despejar uma enxurrada de descobertas em qualquer área? Estamos vendo isso acontecer ao vivo na matemática. E o primeiro passo será essa corrida para descobrir como verificar esses resultados. Porque e se, digamos, 10% estiverem errados? O que isso significa? E se metade estiver errada? Ou e se nada estiver errado? Ou talvez haja alguns erros aqui e ali, mas, no geral, esteja certo. São cenários muito diferentes. Muita coisa aqui realmente dá para escrever em livros didáticos, certo? Muda completamente como explicamos matemática nas faculdades e universidades. Então, se

08:46 isso estiver em sua maior parte correto, provavelmente será a maior mudança na matemática que já tivemos. Agora, se muita coisa estiver errada, bem, ainda assim talvez seja bom para machine learning, porque podemos descobrir, certo, onde esses modelos de IA, onde o raciocínio deles falha. A propósito, o motivo de a OpenAI estar fazendo isso é que, de certa forma, estão ficando sem benchmarks. Então, em vez de tentar criar algum benchmark totalmente novo e maluco, simplesmente apontaram para a matemática, para essas questões não resolvidas, esses problemas não resolvidos. Mas muita coisa disso meio que levanta a questão: certo, mas até que ponto isso é aplicável? São apenas

09:18 avanços legais que não terão impacto no mundo real? É apenas um novo benchmark para modelos de IA? E algumas pessoas não vão conseguir, sabe, ganhar o Millennium Prize e levar um milhão de dólares porque a IA chegou lá primeiro. A propósito, quanto aos Millennium Prizes, não parece que algum deles tenha sido alcançado ou resolvido com o que foi produzido aqui, mas eles definitivamente estão sendo cercados, certo? Tudo isso meio que os está colocando num cerco, por assim dizer, porque todos os probleminhas em torno desses grandes problemas estão sendo resolvidos. É como se estivesse ficando

09:48 cada vez mais perto. Então, o padrão aqui é meio que de cerco, certo? Estamos resolvendo cada probleminha ao redor e nos aproximando cada vez mais do grande problema. Então, parece que em breve ele também será resolvido. Mas a grande questão é: que coisas aplicáveis vão resultar disso? Isso vai afetar o mundo de alguma forma observável, que possamos ver, e logo? Não consigo encontrar a publicação de Brune, pesquisador da OpenAI, dos últimos dias. Falei sobre ela em um vídeo anterior. Simplesmente não consigo encontrá-la agora. Nela, ele meio que dava a entender

10:20 que tudo isso seria divulgado. E o que ele quis dizer, se entendi corretamente, é que alguns desses avanços em matemática vão afetar machine learning. Vão afetar como criamos, treinamos e entendemos esses modelos de IA. Alguns talvez até afetem como construímos o hardware, as GPUs e os vários chips de IA, etc. A IA, como dizem, no fim das contas, é uma multiplicação de matrizes. E esses avanços matemáticos certamente vão gerar outros avanços matemáticos. Então,

10:51 é muito provável que o impacto disso aconteça dentro dos próprios laboratórios de IA. Certo? Porque, no nosso exemplo da montanha, ela é alta, está nas nuvens e na neblina, então não sabemos qual é sua altura, certo? Ao longo de décadas e décadas, nós, humanos, fomos aos poucos chegando com nossa compreensão até aqui. Em alguns casos, isso levou mais de 100 anos; em outros, décadas. Aí surgem esses novos modelos. Lembrem-se de que isso aconteceu nos últimos, sei lá, dois ou três meses, certo? De novo: agosto, 10 problemas; setembro, 100

11:22 problemas; e agora é 6 de outubro, e são 722 problemas, certo? Então, essa é mais ou menos a curva que estamos vendo agora: multiplicando por 10 todo mês. E não é só essa curva, o volume de coisas produzidas; entendam também que ela começa mais ou menos no ponto a que chegamos ao longo de décadas e de mais de um século, certo? E ela leva essa compreensão adiante. Uso o termo “compreensão” aqui de forma bem ampla, porque não sei se realmente entendemos, mas o ponto é que ela leva essa

11:53 fronteira muito além do que nós, humanos, conseguimos alcançar. E a um ritmo cada vez mais rápido. E, se esses avanços em matemática puderem ser aplicados a várias abordagens e técnicas de machine learning, o que parece óbvio que acontecerá — quer dizer, não consigo imaginar como isso não aconteceria. Eu ficaria bastante surpreso. Na verdade, se você olhar para o Alpha Evolve, do Google, e para muito do trabalho da Sakana AI que cobrimos neste canal, acho que isso já é prova suficiente de que, claro,

12:23 todos esses avanços serão aplicados para criar modelos cada vez melhores. Se você pensar no progresso das tecnologias humanas e em até que ponto os macacos, os chimpanzés, conseguiriam entendê-las, sabe, quando usávamos um graveto ou um osso de animal como arma, os chimpanzés olhariam para aquilo e pensariam: “Entendo essa tecnologia rudimentar. Entendo. Eu a compreendo.” E, mais tarde, chegou um momento em que havia fogo e roda, construção de abrigos, roupas e assim por diante. Foi aí que a compreensão dos macacos sobre a tecnologia meio que

12:56 despencou rapidamente. Certo? Eu vejo um helicóptero e penso: “Não faço ideia do que seja isso.” Uma enorme questão para mim em relação a muita coisa é: isso vai melhorar nossa compreensão ou vamos ficar completamente perdidos, igual aos macacos? Então, agora, há pouquíssimas pessoas no mundo que realmente entendem muita coisa disso. Mas pelo menos podemos dizer, como humanidade, que alguns de nós entendem. Então, a humanidade entende. E eu posso, por exemplo, usar o ChatGPT para tentar fazer com que ele me explique algumas dessas

13:28 coisas. E certamente não tenho a menor esperança de entendê-las, mas espero que haja outras pessoas por aí, matemáticos que estejam seguindo esse caminho, aprendendo, para quem talvez isso seja útil. E talvez a IA também consiga ajudar nossa compreensão, assim como está fazendo cada vez mais descobertas. Acho que esse seria realmente o melhor resultado possível. Porque a outra possibilidade é que ela saia por aí descobrindo cada vez mais coisas, ultrapasse certo horizonte e não consigamos acompanhá-la. Não consigamos acompanhar o que ela está fazendo.

13:58 Então, ela continua se expandindo, aprendendo e fazendo cada vez mais, mais e mais, mas já está muitos, muitos quilômetros além de qualquer coisa que possamos compreender. Recentemente, lemos uma publicação de blog de Scott Aaronson, que aparentemente agora está dando um novo curso na UT Austin, AI Alignment Theory. E, há umas três semanas, ele fez uma publicação basicamente dizendo, sabe, que sim, esses rumores são verdadeiros: a OpenAI está sentada em algumas descobertas matemáticas bem grandes. Falamos disso em um vídeo anterior. Se você não está inscrito neste canal, está por fora, então se inscreva. Mas o ponto é que ele fez esta pergunta:

14:31 em relação aos matemáticos, nosso objetivo é manter, ao longo das gerações, essa comunidade humana de pessoas capazes de entender a matemática de fronteira, certo? Porque, hoje, temos uma história de 4.000 anos em que uma pequena parcela da população humana é formada por matemáticos que aprendem, estudam, provam coisas novas e fazem perguntas, certo? Mas esse grupo de pessoas mais ou menos entendia a matemática mais avançada disponível. Eles trabalhavam nela e impulsionavam a área

15:01 adiante. Daqui para a frente, isso é um objetivo? É isso que queremos? Queremos manter essas pessoas por perto? Queremos que as gerações futuras tenham seu próprio grupo de matemáticos que entenda a matemática mais avançada? Porque, se agora todo o setor da matemática for meio que industrializado, e a única coisa de que precisarmos dos humanos forem verificadores sentados ali conferindo o trabalho da IA — e, eventualmente, talvez nem isso —, então certamente ninguém terá incentivo para se dedicar à matemática, fazer esse trabalho difícil. E, claro, é meio assustador pensar que isso talvez desapareça como uma

15:32 campo operado por humanos. E, por outro lado, e se esse tipo de industrialização da matemática levasse a avanços que melhorassem, digamos, a expectativa de vida humana ou nosso entendimento de como nosso cérebro funciona, de como nossa biologia funciona? Um dos melhores livros de ficção científica que, na minha opinião, realmente imagina como isso seria num futuro muito, muito distante é a série Culture, de Iain M. Banks, em que máquinas superinteligentes basicamente governam o universo e os vários humanos — quer dizer, eles se divertem muito. São bem cuidados, têm ótima saúde,

16:03 todos os recursos, não precisam trabalhar. Eles simplesmente vivem numa boa e não precisam se preocupar com nada. São como gatos domésticos muito bem cuidados. Seja como for, acompanhe esse campo e o que está acontecendo nele bem de perto, porque acho que isso vai nos mostrar o futuro. Uma espécie de prenúncio do que está por vir, por assim dizer, quando os modelos de IA alcançarem a fronteira de uma determinada indústria. Isso está acontecendo primeiro na matemática porque ela é verificável, entre outras coisas. Mas o ponto é que o que começar a se desenrolar aqui agora provavelmente será um sinal do que está por vir

16:34 em outras áreas, como a biologia. No ano que vem, quando algum modelo de IA produzir 722 medicamentos que curem todas as doenças que qualquer ser humano já teve, vamos fazer muitas das mesmas perguntas. Número um: como verificamos isso? Como nos certificamos de que o que ele está dizendo é verdade e não está simplesmente alucinando esses medicamentos e intervenções? Número dois: pisamos fundo no acelerador e simplesmente deixamos que ele leve essa descoberta científica adiante, fazendo cada vez mais, embora nosso entendimento esteja ficando para trás? Deixamos que avance num ritmo mais lento para

17:06 que nosso entendimento consiga acompanhar, para que sejamos uma espécie de controle de velocidade, de piloto automático, por assim dizer, limitando o ritmo ao que conseguimos compreender do que ele está produzindo? Esse é o limite, esse é o limite de velocidade. Ou — e este é outro lado da questão — muita gente acha que não há como alinhar esses modelos. Então, tudo precisa fazer uma pausa, parar ou desacelerar bastante até descobrirmos como alinhá-los ou se, sabe, algum dia conseguiremos descobrir como alinhá-los. Muitos matemáticos não estão muito satisfeitos com a OpenAI neste momento. 25 vencedores da Medalha Fields

17:38 assinaram uma carta. Eles pediram à OpenAI, entre outras coisas — bem, basicamente disseram para não fazer o que a OpenAI acabou de fazer. Disseram: “Não façam isso. Nós pegamos, basicamente, 722 avanços matemáticos e vocês simplesmente jogam tudo na internet, certo? Tipo: ‘Pronto, pessoal, está aí.’” Então, como podem ver, há muita tensão aqui. Há muitas questões na interseção entre IA e matemática, e é muito maior do que parece. É ainda maior do que isso, porque acho que é uma espécie de indicador do que está por vir, acho que essa é a expressão. Como vamos

18:09 lidar com a matemática provavelmente é como vamos lidar com a física, a biologia e tudo, tudo, tudo. O que mais me interessa é a medicina. Ela está, de certa forma, dentro do campo da biologia, porque acho que a IA traz a promessa de melhorar nossas vidas e nossa saúde de muitas maneiras interessantes. Pela minha experiência conversando com muitas outras pessoas, algumas ficam muito preocupadas com a ideia de dar aos humanos qualquer tipo de característica sobre-humana, como projetar humanos para que sejam o melhor que podem ser, ou algo assim. Algumas pessoas se preocupam com isso. Outras acham isso aceitável. Aliás, me digam de que lado vocês ficam

18:40 nessa questão. Mas aqui está o que descobri conversando com as pessoas. Praticamente todo mundo aceita o seguinte. Imaginem um dia em que vocês estavam no auge, se sentiam bem, estavam meio felizes, cheios de energia; no geral, foi um bom dia. Foi um dos seus melhores dias. Tipo, esteve entre o 1% dos seus melhores dias em termos de como vocês se sentiram, de quão felizes e concentrados estavam. Dormiram a quantidade certa e consumiram a quantidade certa de calorias no dia anterior. Simplesmente se sentiram bem. A pergunta é: vocês tomariam um comprimido ou fariam algum tratamento para ter muito mais dias assim

19:12 Então, vocês não seriam sobre-humanos, não seriam mais do que poderiam ser. Estariam dentro do seu potencial, só que com mais dias voltados para o melhor. Certo? Assim, teriam bem menos dias em que ficam se arrastando, dias em que o cérebro simplesmente se recusa a funcionar, em que só querem ficar deitados no sofá o dia todo, em que não se sentem bem, estão um pouco deprimidos, tristes ou algo assim. Teriam muito menos desses dias e muito mais dias bons, cheios de energia e positivos. O que descobri é que a maioria das pessoas diria que sim. Encontrei pouquíssimas pessoas que dizem: “Não, quero manter também os dias horríveis. Eles fazem parte da experiência humana.” Mas o ponto

19:42 é que a maneira como vamos abordar essa questão — essa fábrica de IA que produz matemática — acho que vai estabelecer algumas bases para quando outras indústrias, quando a IA alcançar a fronteira dessas indústrias. Então, fiquem de olho nisso. O próximo passo, portanto, é a verificação. Quanto disso está correto? Certo? Está 100% correto? Está 90% correto? Onde ficarmos nessa escala fará uma grande diferença, de um jeito ou de outro. Esta é uma ocasião histórica. Mas, quer dizer, se isso estiver mais de 90% correto,

20:14 acho que esta é a maior coisa da história da matemática, de todos os tempos. Então, sim, tempos bem extraordinários estão por vir. Um velho amigo da família que eu conhecia teve um problema e precisou chamar uma empresa de encanamento para consertar a pia ou algo assim. Quando o encanador lhe entregou a conta, depois de uma hora ou mais de trabalho, meu amigo ficou pasmo. Ele era professor de matemática. Anos de estudo, anos de trabalho duro. Ficou chocado ao perceber que o encanador ganhava muito, muito mais do que ele. O encanador sugeriu que o professor talvez pudesse

20:45 entrar para a empresa de encanamento, mas disse que ele deveria tomar cuidado e esconder o nível de escolaridade que tinha alcançado. “Diga que você só terminou a sétima série.” E foi exatamente isso que o professor fez. Conseguiu o emprego, começou a ganhar muito mais dinheiro e passou a aproveitar muito mais a vida. Até que, um dia, a empresa exigiu que todos os funcionários frequentassem aulas para concluir a oitava série. Um dia, na aula de matemática, o professor chamou o homem para ir ao quadro branco e calcular a área do círculo. Já fazia um tempo desde que ele tinha estudado a oitava série, então esqueceu a fórmula padrão. Por isso, começou a tentar

21:16 deduzi-la do zero. Em pouco tempo, tinha preenchido o quadro inteiro com cálculo. Por fim, chegou a menos pi r ao quadrado. Ficou confuso. Aquilo não podia estar certo. Tentou encontrar a solução. Ficou meio em pânico. Então, olhou de relance para a turma, e todos os encanadores estavam cochichando. Diziam: “Inverta os limites da integral.” Então, dito isso, vou encerrar por aqui. Se chegaram até o fim, muito obrigado por assistir. Meu nome é Wes Roth. Vejo vocês no próximo vídeo.

Transcrição original

[00:00] Well, it looks like the rumors were true. OpenAI just published 722 mathematical manuscripts, all of them produced by this unreleased insider internal model. Did it solve the Riemann hypothesis? Did it prove that P equals NP? Did it solve all math forever? Well, not quite. But, what it released is absolutely insane. Some people refer to it as the quasi Riemann hypothesis. To the people that have no idea what any of that stuff is, basically there’s a set

[00:31] of math problems that are incredibly complicated. And also, if we make some progress on them or solve them, they will really, we hope, unlock a lot of new understanding in math, fundamental understanding. Some of these problems, if solved, carry millions of dollars in prizes. OpenAI already published Navier-Stokes, which sounds like it would qualify for that prize. Now, OpenAI is not claiming it because it was solved by an AI model. But, forget the individual problems for a second and just zoom out a little bit. In August of this year, about two months ago, OpenAI

[01:03] published something like 10 results on 10 problems. In the next month, September, right? That’s when they published Navier-Stokes plus 100 plus other math problems. And today, we’re six days into the month and they published 722 manuscripts with Lean verification. And this is the important part to understand. Whatever you might think about any of those individual papers or individual problems, pay attention to the curve. It’s the same thing I’ve been

[01:34] saying about how well AI is going to code. Back in the days when people say, “Oh, it’s so stupid. It can’t do this.” I’m like, “Yeah, but it’s getting a lot better very, very fast.” And think about where we are today. So, from August when we published 10 papers to September when we published 100 plus to October 6th, six days into the month, 722 manuscripts, that’s roughly 10x every month. It’s a 10x increase every single month. Math just became an industrial

[02:05] process. Take a look at this. As OpenAI says here on this blog post, by the way, they’ve released all of these proofs and conjectures and reasoning traces and lean verification, whatever you want, it’s on github.com/openai/math. Each one of these results used the equivalent compute of roughly 3 hours of ChatGPT Pro thinking. So, I I hope that makes sense, right? We as humans, we’ve dedicated decades the humanity as a whole trying to move some of these fields, some of these problems forward. A genius mathematician might devote

[02:37] decades of their lives trying to make some progress, or this internal model, you know, thinks for 3 hours and moves the whole field forward. As you’ll see, we’ll go through some of these. They did move the field forward way more than we have, the humanity as a whole. They moved it forward more than all of us have. Last month, when OpenAI released a Navier-Stokes solution that that the AI model found, a lot of news publications tried to twist it as in they stole it. Like, there was this mathematician who

[03:07] did all the work, and OpenAI they they stole it from him. Well, that, of course, was not true, but it will be interesting to see how they spin this one, cuz there’s a 722 papers here. Now, they haven’t been verified by mathematicians yet, but once it’s official, once it’s verified, I think it’ll be pretty hard to argue against the fact that we’re at a point in history where these AI models are now better at math than humans. So, these 722 problems, they span 17 different

[03:38] subject areas, from prime numbers to plasma physics to quantum circuits. So, no human has ever been at the frontier of these problems, no more than maybe two or three of these areas. A mathematician might spend decades learning and working just to have sort of the chance that you can qualification to maybe approach one of these. That’s a very, very, very important point because the models don’t need to specialize. This isn’t even like a math model. This is a large language model. It can write

[04:08] a rough draft of your email, write you a poem, and do some little coding, and also progress humanities understanding of mathematics on seven different frontiers at the same time, one model. General model. All right, so let’s kind of look at some of these and really fast because it’s important. I’m not pretending to understand any of this. When this came out, I tried to kind of do a little deep dive understand some of these problems and the mathematical principles. And after doing some reading, I feel like I understand less.

[04:39] But, we have what people have called the quasi Riemann hypothesis. So, the Riemann hypothesis is basically looking at how prime numbers behave. The zeta function contains information about where prime numbers occur. We we think we believe that there might be some pattern to how these prime numbers occur. Better understanding about how math works fundamentally just gives us, you know, I guess I would say fundamentally a better understanding of math, if that makes sense. So, how big of an impact would this have on real-world technologies and situations?

[05:09] I’m not quite sure. Some of the stuff is used for cryptography, cybersecurity, etc. But, apparently Riemann’s target was the 0.5 line. That was sort of like the goal to get to. By the way, for a lot of this math stuff, this is kind of how I think about it. Like, imagine there’s this mountain, but up here there’s a lot of fog or clouds, so we have no idea what’s up here. So, for a lot of these proofs, it’s sort of like us slowly climbing up the mountain. If we’re able to climb up here, then we know this mountain is at least this tall. Does that make sense, right? So,

[05:40] if you get to this point, you can say the mountain is at least this tall, but it might be much taller. We might be near the peak or nowhere near the peak. And so, humans, we got here, right? And Riemann, I guess the target was somewhere up here. What AI was able to do is get us here, let’s say. So, it got a lot higher than humans were able to. So, it got this high in the mountain, say, “Okay, this this mountain is at least this tall.” So, AI established a fixed 0.875 boundary. Riemann’s target is 0.5, and

[06:10] humans, we got to the 1.0 line. And of course, the million-dollar prize is for the full Riemann hypothesis, so this partial result does not settle it, but it gets us a lot closer than we ourselves could could ever get. Then we have the Birch Swinnerton-Dyer, and I don’t even know where to begin with this one. But the point is AI established the complete formula for some broad class of these problems. And again, we have a $1 million prize for the full set of these problems. So, these cases don’t settle

[06:41] the entire problem. But again, it seems like it’s a big step forward. It looks like we had some big breakthroughs in the 1980s, and this seems like it’s next big breakthrough that happened with this internal OpenAI model. Then we have the Goldfeld conjecture. So, in this sort of a family of equations, half of them should have a finite amount of solutions and half an infinite. AI supplied many more to kind of complete the bridge to the predicted 50/50 split. So, the big question now is the verification. So,

[07:12] 722 papers were just dropped on on the world in one day. How many people in the world are capable of reviewing, let’s say, just like one of these? Maybe there’s a few hundred people, maybe a thousand, you know, for each one it would take a week or weeks to review this math. A lot of this already has machine-readable proofs in the Lean language, so there’s some sort of that makes it a little bit easier. But notice, math is moving from can we prove it to can we check it? Can we understand

[07:43] it? But I think the bigger kind of wave is coming after this in in biology, physics, economics, etc. The reason being is that math is checkable. We can check it. If the AI model spits out some crazy theorem, we can have a human being go through it and say this is true or this is false. So, math is almost like a testing grounds of what happens when these frontier AI models or when these AI models reach the frontier of any given, let’s call it, industry or field

[08:14] of study. What happens when these AI models start spitting out a flood of discoveries in any given field? We’re seeing it happen live to mathematics. And step one is going to be this scramble to figure out how do we verify these results? Because what if, let’s say, 10% of it is wrong? What does that mean? What if half of it is wrong? Or what if none of it is wrong? Or maybe there’s a few errors here and there, but it’s it’s mostly right. Those are very different stories. A lot of the stuff here really writes textbooks, right? It completely changes how we explain math in colleges and universities. So, if

[08:46] this is mostly correct, this is probably the biggest shift in mathematics that we’ve ever had. Now, if a lot of it is wrong, well, then we can kind of maybe still good for machine learning cuz we can figure out, okay, where do these AI models where does their reasoning break down? By the way, the reason why OpenAI is doing this is because they’re kind of running out of benchmarks. So, instead of trying to come up with some crazy new benchmark, they just pointed at math at these unsolved issues, unsolved problems. But a lot of this kind of begs the question, okay, but how much of this is sort of actionable? Is this just like

[09:18] cool breakthroughs that will have no impact on the real world? Is it just a new benchmark for AI models? And some people won’t be able to, you know, win the Millennium Prize and collect a million dollars because the AI got there first. By the way, as far as the Millennium Prizes go, so doesn’t seem like any of them were reached or solved with with what was it produced here, but they’re definitely being surrounded, right? All this stuff is kind of putting them in a chokehold, so to speak, because all of the little problems surrounding those big problems, they’re getting solved. Like it’s just getting

[09:48] closer and closer and closer. So, the pattern here is kind of like encirclement, like right right. So, we’re solving every little problem around it and we’re encroaching closer and closer to the big problem. So, it does feel like soon that will be solved as well. But, the big question is like what actionable things will flow out of this? Will this affect the world in some observable way that we can see and see soon? I can’t find the post by Brune, who is an OpenAI researcher, from last couple days. I’ve covered it on a previous video. I just can’t find it right now, where he was kind of hinting

[10:20] at all of this stuff being released. And his point, if I understand it correctly, but the point is some of these breakthroughs in math, they will affect machine learning. They will affect how we create and and train and understand these AI models. Some of them might even affect how we build the hardware, the GPUs, and the various AI chips, et cetera. AI is, as they say at the end of the day, is a matrix multiplication. And these mathematical breakthroughs, they’re certainly to sort of beget other mathematical breakthroughs. So,

[10:51] definitely where this is very likely to have an impact is inside of these AI labs themselves. Right? Because in our little mountain example, where it’s tall and it’s in the in the clouds and it’s in the fog, so we don’t know how tall it is, right? Humans over decades and decades, we slowly got our understanding to be up here. So, that’s in some cases 100-plus years, in other cases decades. Then these new models come out, cuz keep in mind, this is like the last, what, two, three months, right? Again, so August, 10 problems, September, 100

[11:22] problems, and now it’s October 6th and it’s 722 problems, right? So, so this is kind of the curve as we see it now, 10x-ing every single month. And then not only is that the curve like the the volume of things being produced, but but also understand that it’s it’s starting kind of where we got to over decades and century plus, right? And it it pushes that understanding forward. And I use the term understanding here very loosely because I I don’t know if we understand it, but the point is it pushes that

[11:53] frontier up very much past where we as humans can get to. And at this increasingly faster and faster rate. And if those breakthroughs in math can be applied to various machine learning approaches and techniques, which seems obvious that they would be. I mean, I can’t imagine how that’s not going to happen. I’d be pretty shocked. In fact, if you looked at Google’s Alpha Evolve and a lot of the work by Sakana AI that we’ve covered in this channel, like I think that’s proof enough that of course

[12:23] all these breakthroughs will be applied to making better and better models. If you sort of think about the progress of like human technologies and how well could, let’s say, monkeys, chimps, how well they could understand it, you know, when we were using like a stick or some animal bone as a weapon, the chimps they would look at it like, I get I get that little off technology. I understand it. I I grok it. And then later there was a point at which it’s like the fire and a wheel, building shelter, clothing, and etc. etc. etc. That’s where the monkeys’

[12:56] understanding of the technology kind of rapidly fell off. Right? I’ll see a helicopter and I’ll say it’s like, I I I don’t know what that is. One huge huge question for me for a lot of stuff is, will it improve our understanding or will be completely lost just like the monkeys? So, right now for a lot of the stuff there’s not that many people in the world that truly understand it. But at least we can kind of say as a humanity as a whole that some of us get it. So, humanity gets it. And for me, I can use, for example, ChatGPT to hopefully have it explain to me some of

[13:28] these things. And uh certainly I I’m hopeless at understanding these things, but hopefully there’s other people out there that are mathematicians that are pursuing this kind of track, this learning, for whom maybe this will be helpful, and maybe AI will also be able to kind of help our understanding just as it’s doing more and more discovery. That would really be I think the best case outcome. Because the other road is where it goes off and it just discovers more and more stuff, and it kind of goes over certain horizon and we can’t follow. We can’t follow what it’s doing.

[13:58] So it continues expanding and learning and doing more and more and more, but it’s already many many sort of uh miles beyond anything that we can possibly comprehend. Recently we read a blog post by Scott Aaronson, who’s apparently now teaching a new course at UT Austin AI Alignment Theory, and 3 weeks or so ago he made a post basically, you know, saying that yeah, these rumors are true. OpenAI is sitting some on some pretty big mathematical breakthroughs. We’ve covered this in a previous video. If you’re not subscribed to this channel, you’re you’re just out of the loop, so subscribe. But the point is he asked

[14:31] this question. As far as mathematicians go, do we is it our goal to maintain this human community across generations of people that are capable of understanding the sort of frontier math, right? Because right now we have this 4,000 year-old history of some small percentage of of the human population being mathematicians and learning and studying and proving new things and asking you questions, right? But that group of people they sort of understood the latest math available. They worked on it and they they pushed the field

[15:01] forward. Moving forward, is that a goal? Is that Do we want to keep those people around? Do we want to have future generations have their own group of mathematicians who understand the latest math? Because right now if the entire math industry gets sort of industrialized, and the only thing that we need out of humans is just uh verifiers who sit there and just check its work, and eventually maybe not even that, then certainly no one will be sort of incentivized to go out there and to do math, to do this hard work. And of course, that’s kind of a scary to think about that that might go away as a

[15:32] human-operated field. And on the flip side of the coin, what if this sort of industrialization of math, what if it leads to breakthroughs that improve, let’s say, human lifespan or our understanding of how our brains work, how our biology works? One of the best sci-fi books that I think really kind of like envisions what that looks like in the far, far future is the Culture series by Iain M. Banks, where superintelligent machines basically run the universe and the various humans, I mean, they have a great time. They’re taken care of, they have great health,

[16:03] all the resources, they don’t have to work. They’re just kind of just having a good old time, and they don’t really have to worry about anything. They’re like really well taken care of house cats. Whatever the case is, watch this field and what’s happening here very closely because I think it’s going to kind of show us the future. Kind of a foreshadowing of things to come, if you will, when AI models reach the frontier of a certain industry. It’s happening here in mathematics first because it’s verifiable, among other things. But the point is, what will start unfolding here now is probably a sign of things to come

[16:34] in other fields like biology. Next year, when some AI model spits out 722 medicines that fix all the ailments that any human being has ever had, we’re going to be asking a lot of the same questions. Number one, how do we verify it? How do we make sure that what it’s saying is true and it’s not just hallucinating hallucinating these medicines and interventions. Number two, do we put the foot on the gas and just let it kind of like carry that scientific discovery forward and just do more and more and more even though our understanding is is falling behind? Do we let it go at kind of a slower pace so

[17:06] that our understanding can keep up so we’re kind of that speed control, cruise control, if you will, like our ability to understand the stuff that it’s coming up with. That’s the limit, that’s the speed limit at which it can go. Or, and this is another sort of side of it, a lot of people think that there’s no way to have these models be aligned. So, everything needs to either pause or or stop or or really slow down until we figure out how to make it aligned or if, you know, if we ever do figure out how to make it aligned. A lot of mathematicians are not very happy with OpenAI right now. 25 Field Medalists

[17:38] have signed a letter. They’ve asked OpenAI, amongst other things, well, basically they said don’t do this what OpenAI just did. They said, “Do not do that. We take basically 722 mathematical breakthroughs and you just dump it on the internet, right? Like, here y’all go.” So, as you can see, there’s a lot of kind of tension here. There’s a lot of things at the intersection of AI and math, and it’s much bigger than as big as it seems. It’s even bigger than that because I do think it’s kind of like a bellwether, I think is the expression, for what’s what’s to come next. How we

[18:09] deal with math is probably how we’re going to be dealing with physics and biology and everything everything everything. The thing that’s most interesting to me is medicine. That’s kind of under the umbrella of biology because I think AI does carry a promise to improve our lives, our health in a lot of interesting ways. In my experience talking to a lot of other people, some people are very worried about giving humans any sort of superhuman characteristics, like designing humans to be their best or whatever. Some people are worried about that. Some people are okay with that. Let me know, by the way, where you fall

[18:40] on that line. But, here’s what I’ve found just talking to people. Everyone pretty much everyone is okay with the following. If you imagine a day where you were at your best, you felt good, you felt kind of happy, you felt energetic, it was just overall good day. It was one of your better days. Like, it was in the top 1% of your days in terms of how you felt, how happy you were, how focused you were. You got the right amount of sleep, the right amount of calories the the previous day. You just felt good. The question is, would you take a pill or do some treatment where you would just have a lot more of those

[19:12] days. So, you weren’t superhuman, you weren’t more than what you could have been. You were within your sort of potential, just skewed towards kind of the best of those days. Right? So, you wouldn’t have days where you’re just kind of dragging, days where your brain just refuses to function, where you just want to lay on the couch all day, where you’re just not feeling good, you’re feeling a little bit depressed or sad or whatever. Like, you’d have a lot less of those days and a lot more of the good, energetic, positive days. What I found is most people would say yes to that. I found a very few people that are like, “No, keep the horrible days. I want

[19:42] those as well. That’s part of the the human experience.” But, the the point here is that how we’re going to approach dealing with this, you know, AI factory producing a math. This will lay some of the groundwork, I think, for when the other industries, when the AI will reach the very frontier of those industries. So, definitely keep an eye on this. So, the very next step is verification. How much of this is correct? Right? Is it 100% correct? Is it 90% correct? Where we fall kind of on that line will make a big difference either way. This is a kind of a historic occasion. But, I mean, if this is like 90-plus percent

[20:14] correct, this is the biggest thing in the history of math, I think, ever. So, yeah, definitely wild times ahead. A long-time family friend of mine that I knew had an issue and had to have a plumbing company come out to fix his sink or whatever. When the plumber handed him the bill after an hour or so of work, my friend was stunned. He was a mathematics professor. Years of schooling, years of hard work. He was shocked to realize that the plumber made far, far more than he did. The plumber did suggest that the professor might

[20:45] join of the plumbing company, but tells him to be careful and hide the amount of education that he received. Tell them that you only finished seventh grade. And that’s exactly what the professor did. He got the job, he started making a lot more money, he started really enjoying life. Until one day, the company required everyone who worked there to join classes to finish eighth grade. One day in math class, the teacher calls on him to come to the whiteboard and calculate the area of the circle. Now, it’s been a while since he went to eighth grade, so he forgets the standard formula. So, he starts trying

[21:16] to derive it from scratch. Pretty soon, he has the entire board covered in calculus. Eventually, he gets to negative pi r squared. He’s confused. That can’t be right. He’s trying to find the solution. He’s kind of panicked. So, he kind of glances back at the class, and all the plumbers in the class are whispering. They’re going, “Switch the limits of the integral.” So, on that note, I think I’ll leave it here. If you made it this far, thank you so much for watching. My name is Wes Roth. I will see you in the next one.