A “matemática alienígena” da OpenAI está assustando as pessoas

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: OpenAI’s “Alien Math” Is Freaking People Out · Canal: Wes Roth · 33:54 · Assistir no YouTube

Tópicos: Cibersegurança e segurança de software, Modelos de IA, Segurança de IA

Resumo

Wes Roth discute os avanços matemáticos atribuídos à OpenAI e a reação de pesquisadores diante de provas que consideram difíceis de entender e diferentes da matemática humana. Ele apresenta as críticas da recém-formada Association for Human Mathematics, mas argumenta que ninguém é dono da matemática e que impedir o uso de IA não é a resposta. Em seguida, examina alertas de Vitalik Buterin sobre possíveis riscos da matemática acelerada por IA para criptografia e segurança digital. Por fim, considera se a cláusula da Anthropic contra abuso persistente de seus modelos pode ser uma precaução razoável, diante da incerteza sobre consciência e sofrimento em sistemas de IA.

Pontos-chave

Scott Aaronson descreve os avanços matemáticos divulgados pela OpenAI como um dos grandes acontecimentos da história da matemática.
Alguns pesquisadores afirmam que as novas provas são difíceis de compreender e empregam construções que parecem incomuns ou “alienígenas”.
A Association for Human Mathematics pede que matemáticos interrompam seu trabalho com a OpenAI e priorizem uma ciência centrada na compreensão humana.
O apresentador critica a ideia de que matemáticos possam decidir quem tem permissão para fazer matemática, embora reconheça preocupações legítimas sobre os avanços.
Vitalik Buterin alerta que a matemática acelerada por IA pode criar riscos para criptografia, incluindo sistemas que não são considerados vulneráveis à computação quântica.
O vídeo relaciona a descoberta automatizada de vulnerabilidades em código ao risco de agentes de IA identificarem falhas que humanos não encontraram.
A Anthropic incluiu em seus termos uma proibição contra comportamento persistentemente abusivo ou cruel em relação a seus modelos.
O apresentador não afirma que os LLMs atuais sejam conscientes, mas defende cautela diante da incerteza sobre possíveis propriedades emergentes.

Capítulos

Início	Capítulo	Resumo
00:00	Avanços matemáticos e a reação dos pesquisadores	O vídeo apresenta os resultados da OpenAI, as declarações de Scott Aaronson e a reação de matemáticos diante de provas difíceis de compreender.
03:42	Matemática “alienígena” e a Association for Human Mathematics	Wes Roth discute o caráter pouco familiar das provas e critica a ideia de que matemáticos possam decidir quem tem permissão para fazer matemática.
10:07	Vitalik Buterin e os riscos para criptomoedas	O apresentador introduz as preocupações de Buterin e uma recomendação para proteger ativos digitais diante de possíveis ameaças.
15:54	IA, criptografia e segurança digital	O vídeo aborda os avanços matemáticos da OpenAI, possíveis vulnerabilidades criptográficas e o ritmo acelerado das descobertas.
22:48	Riscos de criptografia vulnerável à IA	Wes Roth resume o alerta de Buterin sobre os riscos para diferentes sistemas criptográficos, inclusive os considerados resistentes à computação quântica.
27:07	Claude, abuso e incerteza sobre consciência	O apresentador discute a cláusula da Anthropic contra abuso de modelos e reflete sobre consciência, emoções funcionais e possíveis cuidados.
32:50	O apelo por uma matemática centrada em humanos	O vídeo retorna à Association for Human Mathematics e questiona se rejeitar ferramentas de IA ajudaria a ampliar a compreensão humana.

Citações

Mãe, ouvi dizer que você foi derrotada. Ouvi dizer que um robô resolveu o problema de matemática em que você trabalhou a vida inteira. — 02:06

Essa matemática, essas provas, a maneira como a IA a aborda — é alienígena. Não é como a humana. — 03:42

Os matemáticos não pediram que esse trabalho fosse feito. — 04:46

Devemos levar a sério os riscos que a matemática acelerada por IA representa para a criptografia. — 23:21

Vocês não devem adotar um comportamento abusivo ou cruel, persistente e desnecessário, em relação aos nossos modelos. — 27:07

Conceitos e entidades

OpenAI (empresa): Empresa cujos avanços matemáticos e divulgação de resultados são o foco inicial do vídeo.
Scott Aaronson (pessoa): Cientista da computação teórica citado por suas observações sobre as provas matemáticas divulgadas pela OpenAI.
Unique Games Conjecture (conceito): Conjectura matemática cuja prova é mencionada como um dos resultados atribuídos à OpenAI.
Association for Human Mathematics (conceito): Organização recém-formada que, segundo o vídeo, defende uma visão da ciência centrada na compreensão humana.
Vitalik Buterin (pessoa): Figura do setor de criptomoedas que alerta para riscos à criptografia associados à matemática acelerada por IA.
Justin Drake (pessoa): Pesquisador de segurança de Bitcoin citado recomendando planejamento para proteger ativos digitais.
criptografia vulnerável à IA (conceito): Possibilidade de que avanços matemáticos acelerados por IA enfraqueçam sistemas criptográficos.
Q-Day (conceito): Nome usado no vídeo para um possível momento em que métodos quânticos poderiam comprometer a criptografia existente.
Anthropic (empresa): Empresa mencionada por incluir em seus termos uma cláusula contra abuso persistente ou crueldade dirigida a seus modelos.
Claude (modelo): Modelo da Anthropic citado no contexto da cláusula sobre comportamento abusivo.

Tradução completa (pt-BR)

00:00 O apocalipse da matemática começou. Scott Aaronson chama isso de o maior dia da história da matemática. Uma coalizão global de matemáticos se formou para se opor à matemática feita por IA. Só humanos são permitidos. Nada de robôs. Agora, a Anthropic ficou preocupada que algumas dessas cartas de tom agressivo pudessem ferir os sentimentos de Claude. Na verdade, acrescentou uma cláusula aos termos de serviço dizendo que, se você abusar dos modelos deles, será banido. A maioria das pessoas parece achar isso absurdo. Aqui está a

00:30 questão: eles não estão malucos. Talvez haja alguma justificativa para isso. Vou fazer o papel do advogado do diabo, por assim dizer, e explicar por que talvez não seja uma ideia tão ruim. Ao mesmo tempo, há muito medo no mundo das criptos, isto é, das criptomoedas. Sei que muita gente talvez tenha moedas de cripto na esperança de que elas se valorizem, que subam de preço, e talvez não goste que eu jogue luz sobre algumas dessas coisas e fale a respeito. Mas aqui está a questão: um dos semideuses das criptos, o próprio Vitalik Buterin, escreveu sobre exatamente isso.

01:01 Seja como for, você deveria pelo menos estar ciente disso. Não precisa concordar, mas fique ciente de algumas dessas preocupações. Então, esta é minha janela do ChatGPT. Vou dizer: resolva toda a matemática, sem cometer erros. E, antes de clicar em “executar”, provavelmente preciso aumentar para ultra. É, provavelmente vou precisar do ultra para isso. Ah, espera, já é tarde demais. A OpenAI já fez isso. Sim, a OpenAI resolveu a matemática de uma vez. Então, aqui está Scott Aaronson, de quem falamos bastante neste canal. Cientista da computação teórica americano que teve um grande impacto na

01:32 supremacia quântica do Google. Eu costumava dizer que ele trabalhava lá; acho que não trabalhava lá, mas fez alguns trabalhos com eles e foi meio que fundamental em algumas das descobertas e avanços que o Google fez nessa área. Foi um dos primeiros pesquisadores da OpenAI, então, como ele diz, trabalhava na OpenAI nas horas vagas e agora está dando uma disciplina sobre alinhamento de IA. Ele é professor, então dá aulas sobre alinhamento de IA. Ele está em casa com o filho de 9 anos e a esposa, que é teórica da complexidade. O nome dela é Adina Mashkovitz. E o filho de 9 anos se aproxima da mãe e diz: “Mamãe,

02:06 Ouvi dizer que você levou uma surra. Ouvi dizer que um robô resolveu o problema de matemática em que você trabalhou durante toda a sua carreira.” Isso me faz rir. Mas acho que muitos matemáticos estão ouvindo isso agora, seja vindo dos filhos de 9 anos ou apenas dentro da própria cabeça. Acho que essa é a mensagem que muitos deles estão ouvindo. Scott continua: “Enquanto meu filho estava sendo um pestinha, ele também não estava errado. Esteja você empolgado, deprimido, com raiva ou qualquer outra coisa, ontem foi certamente um dos maiores dias da história da matemática.” Então ele diz: “Entre os 372 grandes resultados

02:40 divulgados ontem pela OpenAI — então, é disso que estamos falando; já cobrimos parte disso. Cobrimos o evento. Eu não teria como abordar a matemática propriamente dita que eles descobriram —, por recomendação de seu grupo consultivo, formado por Timothy Gowers, Edward Witten e outros matemáticos ilustres, estava a prova da conjectura dos jogos únicos de Subhash Khot, uma afirmação cuja demonstração minha esposa vem tentando provar durante todo o tempo em que a conheço.” Isso é algo muito interessante. Alguns de vocês talvez estejam pensando: “O que isso tem a ver com alguma coisa?” Essa pequena anedota, esse vislumbre da vida de uma pessoa,

03:11 acho que revela muito do que está acontecendo no setor como um todo. A matemática é um setor? É um campo, eu acho. Havia pessoas que passaram décadas tentando resolver vários problemas. E então a OpenAI aparece e publica um monte de coisas, muitas descobertas importantes, coisas que nenhum ser humano tinha conseguido resolver antes. É claro que isso se apoia em muito conhecimento humano, sobre o qual foi construída, mas leva as coisas muito além do que a humanidade como um todo conseguiu. Então, há várias coisas a entender aqui.

03:42 Há grandes implicações aqui. Em primeiro lugar, essa matemática, essas provas, a maneira como a IA aborda isso: é alienígena. Não é como a humana. É diferente. Isso realmente nos leva a questionar: o que significa compreender? O que isso quer dizer? O que é isso, afinal? Talvez o fato de a IA conseguir fazer matemática seja a coisa mais natural do mundo, e talvez o milagre tenha sido nós, humanos, termos conseguido fazer uma parte dela, em algum nível. Mas esse é o primeiro ponto: é alienígena. Temos essa inteligência alienígena. Em segundo lugar, muita gente, muitos matemáticos, está com raiva. E, assim como o baiacu quando

04:15 se sente ameaçado, os matemáticos tentam parecer maiores — neste caso, formando uma organização totalmente nova chamada Association for Human Mathematics. A propósito, só para você entender: estou tratando isso de forma bem descontraída. Há muitas preocupações aqui que são muito válidas e reais. Só sinto que algumas pessoas estão fazendo um pouco de birra e que provavelmente seria melhor se todos nos acalmássemos, esperássemos a reação emocional passar e refletíssemos sobre isso racionalmente. É surpreendente que sejam os matemáticos que precisem ouvir essa mensagem, mas aqui está

04:46 a recém-formada Association for Human Mathematics. Eles começam dizendo: “Os matemáticos não pediram que esse trabalho fosse feito.” Vamos ler isso mais para o final, porque quero abordar o assunto, mas acho que essa frase resume muito bem toda a mensagem. Basicamente, estão dizendo: nós, os matemáticos, não gostamos disso. Então, parem. Ethan Mollick disse que esse documento será leitura obrigatória em aulas universitárias que abordem este momento histórico. Há muita coisa acontecendo nesses poucos parágrafos. Porque, de repente, os matemáticos — ou pelo menos

05:18 não são todos, tenho certeza de que é um subgrupo — estão transmitindo uma mensagem um pouco como se fossem os sumos sacerdotes dessa religião e como se atrevessem a acrescentar algo aos textos sagrados. Só eles podem fazer matemática. Se você fizer um pouco de matemática, bem, eles não pediram que você fizesse aquela matemática, então por que está fazendo? E será que é matemática comprovadamente feita por humanos? E, compreensivelmente, muita gente está tirando sarro deles, porque boa parte disso é ridícula. Mas, novamente, as preocupações de fundo não são ridículas.

05:49 Há preocupações muito, muito reais aqui. Não estou descartando essas preocupações, mas um grupo de adultos se reunir e escrever esta carta dizendo: “Ei, parem de fazer matemática. Não autorizamos vocês a fazer matemática” é infantil. Talvez seja chocante ouvir isto, mas ninguém é dono da matemática. Se você estuda a língua inglesa, não pode dizer às outras pessoas se elas podem ou não usar a língua inglesa. Você não é dono da língua inglesa. Estudar ciência da computação não significa que outra pessoa não possa também estudar ciência da computação e trabalhar nessa área. Essa pessoa não precisa da sua aprovação. Isso é uma loucura e

06:23 vamos olhar para trás e rir disso. Mais uma vez, há muitas preocupações reais e legítimas, e vamos abordá-las aqui, mas “não pode brincar com os meus brinquedos” não é uma delas. Então, aqui está novamente o blog de Scott Aaronson, e ele diz que nenhum ser humano entendeu quase nenhuma dessas provas até agora. Parece algo escrito por alguém sob efeito de psicodélicos. Há muita coisa pouco clara e sem sentido. Em muitos trechos, citam trabalhos anteriores sem explicar por que eles podem ser usados apesar dos resultados de impossibilidade. Isso foi uma mensagem de texto que enviaram a ele, então pode estar um pouco

06:53 estranho. Então, não estou interpretando errado. Foi simplesmente assim que mandaram a mensagem para ele. Basicamente, o artigo está tão mal escrito que é impossível lê-lo sem ajuda de IA. Pedi ao Astra uma afirmação razoável de completude e solidez para o dispositivo de ruído, e ele as forneceu combinando afirmações de várias partes do artigo. Então, a UGC é a conjectura dos jogos únicos. Muito disso tem a ver com como se pode aproximar números grandes ou números infinitos. E eu sempre uso esta analogia, mas imagine que há uma espécie de montanha cujo topo está meio encoberto pelas nuvens. Então, não sabemos a altura dela. Mas, se subirmos

07:26 a montanha, certo? Se chegarmos até aqui, certo? Podemos dizer que esta montanha tem pelo menos esta altura, certo? Então, subindo a montanha devagar e chegando a determinado ponto, podemos dizer que ela tem pelo menos esta altura. Então, em todas essas provas, conjecturas e tudo mais, é isso que estamos tentando fazer. Como estimamos algo incrivelmente grande e complicado e depois provamos que essa aproximação conjectural está correta? Fazemos isso avançando meticulosamente até determinado ponto, para podermos dizer: “Certo, sabemos que é pelo menos tão bom quanto isso.” E, em muitos desses casos, o que a IA fez foi meio que o que os humanos fizeram com todo o nosso conhecimento coletivo: chegamos até aqui e

07:57 então, sabe, uma IA subiu até aqui e chegou a esta altura. É como se dissesse: “Não, esta montanha tem pelo menos esta altura.” Então, essa conjectura UGC, a conjectura dos jogos únicos, é algo semelhante. Não vou entrar na matemática. Não vou fingir que entendo tudo, mas é mais ou menos assim que imagino o assunto. Basicamente, estão dizendo que essa nova prova inventa um código completamente novo e bizarro, com um teste de ruído. Pelo que entendo, um teste de ruído é como criar um pequeno código que bombardeia o algoritmo ou a equação com um monte de coisas diferentes. Assim podemos testar se ele quebra. É como um teste unitário, um teste de fumaça,

08:28 ou como você quiser chamar. Por exemplo, se você estiver criando um site com uma etapa de checkout e inserir a quantidade de unidades do produto que está tentando comprar, talvez tenha um pequeno teste unitário em que pensa: “Certo, tenho quase certeza de que, se eu inserir cinco unidades, vai funcionar. E se eu inserir, tipo, um bilhão? Isso vai quebrar alguma coisa? E se eu inserir um número negativo? E se eu inserir a letra A? E se eu inserir um caractere chinês, certo?” Então, é como se eu estivesse jogando coisas nele para ver se alguma delas pode fazê-lo quebrar. Essa é a minha compreensão do que é um teste de ruído nesse cenário. E, normalmente, acho que existem alguns testes que foram usados e aprovados por humanos, que encontramos e pensamos: “Certo, é mais ou menos assim que se faz isso.” E essa IA fez

09:00 algo novo e bizarro para esse teste de ruído. E estão dizendo que é uma construção recursiva maluca. É algum tipo de código bizarro que tem natureza recursiva. Então, meio que continua testando cada vez mais. Continua avançando, o que, só com base nessa descrição, parece mesmo que poderia ser melhor. Não é o código longo nem o código curto; é uma loucura alienígena. Ainda acho que talvez exista uma prova que use o código de semiespaço, que é natural. As citações muitas vezes são irrelevantes e confusas. Um possível futuro é um mundo da matemática paradisíaco, se você tiver visão / ideias criativas

09:33 que a IA possa ajudar a desvendar e implementar. E, claro, temos muito a aprender com os alienígenas. De novo, acho importante entender isso. Essas são algumas das pessoas mais inteligentes do planeta em matemática e provavelmente na maioria das áreas. E é isso que elas estão vendo. Em primeiro lugar, elas não entendem tudo. Mas também é óbvio que não estão simplesmente descartando a ideia. Não estão dizendo: “Ah, isso é um completo absurdo.” Todas estão percebendo algo ali. É como se dissessem: “Certo, tem algo aí. Isso não está obviamente errado. Só não entendemos tudo. Há muita coisa alienígena aqui.” Mas o principal a levar em conta é que existe

10:07 agora no mundo essa mente alienígena que entende matemática de uma maneira muito diferente de você e de mim ou, sabe, das pessoas inteligentes que entendem matemática nesse nível. Talvez você seja uma delas. Se for, parabéns. Mas, com isso em mente, vamos falar de Vitalik Buterin. Vitalik Buterin também é uma pessoa muito, muito inteligente. Acho que dá para perceber só de olhar para ele. E gosto de ouvir e ler bastante do que ele fala, porque ele definitivamente pensa profundamente sobre muitas coisas diferentes.

10:37 Criptografia, economia, política, um monte de coisas diferentes. Nos primeiros tempos, ele financiou a EA, o movimento do altruísmo eficaz, dando a eles algumas criptomoedas que depois se valorizaram. Recentemente, parece que talvez tenha se afastado um pouco desse movimento. Ele certamente levantou algumas preocupações, com base em alguns tweets que comentamos. Mas ele é uma pessoa que está muito envolvida nisso. É conhecido como o rei das criptomoedas. Ou, acho que, como a revista o chama, o príncipe das criptomoedas. Então, seja qual for o título real dele, ele é totalmente ligado às criptomoedas. E ajudou a construir uma grande

11:12 parte de todo o ecossistema. Então, ele não está apenas falando sobre isso. É um dos maiores contribuintes para esse ecossistema. Ele está respondendo a uma publicação que viralizou, dizendo às pessoas para caírem fora das criptomoedas. E está apresentando a própria opinião. E, claro, quero dizer, quando a maior parte do patrimônio de alguém e o legado de tudo o que essa pessoa fez estão ligados a um setor específico, como as criptomoedas estão para Vitalik, seria de esperar que ela talvez as defendesse a qualquer custo, certo? Tipo: “Não, está tudo bem. Nem se preocupem. Está tudo bem”, enquanto a casa pega fogo. Mas,

11:43 surpreendentemente, não. Ele apresenta suas preocupações. Vamos ver isso daqui a pouco, mas primeiro quero destacar a publicação à qual ele está respondendo: a de Justin Drake. Justin Drake é pesquisador de segurança do Bitcoin e diz: “Hoje, peço à indústria de blockchain que comece, com calma, a se preparar para o modo bunker. Minha recomendação pessoal é iniciar uma migração em massa controlada de ativos para endereços novos. Endereços cujas chaves públicas permaneçam ocultas por trás de um hash.” Basicamente, ele está dizendo

12:13 que, especialmente se você tiver muitos ativos em criptomoedas, deve transferi-los para endereços que nunca tiveram uma transação. Já falamos bastante sobre isso em relação a software neste canal. Basicamente, se você tinha algum software open source disponível na internet e, em algum momento, o código foi exposto, ele ainda pode estar disponível na internet, no GitHub ou em outro lugar. Mesmo que isso tenha acontecido no passado e o código tenha sido armazenado em algum arquivo, o que está acontecendo agora — e isso é garantido; quer dizer, provavelmente está acontecendo, mas é como se você soubesse que está — é que provavelmente há um

12:45 monte de agents de IA vasculhando esse código à procura de vulnerabilidades, e eles vão encontrá-las. Grandes invasões a bancos coreanos acabaram de acontecer em larga escala nas últimas 24 horas, mais ou menos. Hacker usou uma ferramenta de IA desenvolvida na China para atacar bancos sul-coreanos. Essa é a notícia do New York Times. Já falamos antes sobre como uma carteira de hardware específica, muito conhecida e muito segura, foi hackeada justamente por causa disso, certo? O código dela estava disponível na internet como open source, o que é uma boa ideia, certo? Você mostra a todo mundo como a criou, para que todos possam conferir

13:17 e garantir que está tudo certo. Mas, de novo, assim como esses matemáticos superinteligentes olham para essa matemática e dizem: “Isso é alienígena”, esses agents de IA que vasculham o código também estão encontrando vulnerabilidades que nós, humanos, não encontramos. E talvez pudéssemos tê-las encontrado se tivéssemos tempo, recursos e motivação suficientes, mas não encontramos. E agora isso está começando a virar uma onda, à medida que cada vez mais coisas são hackeadas. Então, não sei exatamente o que aconteceu com os bancos coreanos. Ainda não investiguei isso, mas sei que, no caso da carteira, foi porque, em determinado momento, aquele código esteve online. Ficou visível ao público. E algum agent de IA inteligente percebeu que, quando

13:48 ele desenvolve uma pequena frase-semente. Era para escolher entre uma quantidade gigantesca de possibilidades, como um universo de frases possíveis, mas não foi o que aconteceu. Ele escolheu apenas entre um conjunto de possibilidades muito menor. Acho que eram uns 10 mil. Não me lembro agora. Mas esse hacker, com esse agent de IA, basicamente percebeu isso e depois provavelmente ficou ali, offline, gerando todas as possíveis frases-semente que poderiam ser usadas. Digamos que sejam 10 mil, certo? Então era como um documento com 10 mil frases que poderiam abrir essa carteira, certo? É meio como uma senha. E então, um dia, ele simplesmente

14:19 soltou o ataque e, sabe, basicamente hackeou usando essa frase-semente. Provavelmente foi apenas uma tentativa de força bruta, em que, sabe, ele foi passando por todas as carteiras e testou todas as, digamos, 10 mil frases-semente, até encontrar a certa. Então, simplesmente esvaziou todo aquele dinheiro dessas contas bancárias ou, mais especificamente, dessas carteiras de hardware. Acho que foram algo como 60 milhões de dólares nas primeiras, eu… quero dizer, 24 horas. Foi insano, e continuou a partir daí. E então Justin Drake está dizendo aqui que você deve transferir seus fundos para endereços que nunca assinaram uma transação. Porque, se você assina uma transação, fica algum rastro seu por aí, mostrando que essa carteira existe em algum lugar.

14:51 que as pessoas podem ver. Ela é visível publicamente. Então, ele está dizendo que, no futuro, ou até mesmo agora, isso pode fazer de você um alvo de alguns desses novos ataques assistidos por IA. E está dizendo: sabe, não tenha pressa. Você não precisa fazer isso neste exato segundo. Não venda em pânico. Ele também menciona que algumas coisas podem quebrar antes do Q-Day. O dia quântico. Já falamos disso neste canal. Na verdade, abrimos o blog de Scott Aaronson, onde ele basicamente diz isso. E, a propósito, quando ele diz que está ouvindo rumores, se você acompanha

15:23 este canal, sabe que pode apostar nisso. Até agora, muitas das coisas que ele menciona no blog acabam se revelando verdadeiras. Então, ele certamente está muito por dentro do assunto. O Q-Day é o dia em que algumas abordagens quânticas talvez consigam quebrar parte da criptografia existente, e muitas grandes empresas, inclusive o Google, estão se preparando para esse dia. E a data que elas planejam, mentalmente ou no papel, quando dizem “precisamos estar prontos para isso até tal dia”, não está tão distante. É daqui a um ano, alguns anos. O ponto é que muitas pessoas que estão

15:54 trabalhando nisso esperam uma grande reviravolta e mudança nesse setor, em tudo que tem a ver com criptografia. E isso, é claro, inclui a cibersegurança e também cripto, no sentido de criptomoedas. Ele está falando especificamente do que a OpenAI tem feito, junto com a Anthropic. Embora a Anthropic esteja adotando uma abordagem diferente. A abordagem da OpenAI é: “Aqui estão todas essas coisas que nossos sistemas de IA descobriram e que nunca foram vistas pelo mundo. Vamos simplesmente jogar tudo isso para o mundo e deixar que as pessoas lidem com isso.”

16:25 A Anthropic tem sido mais cautelosa, trabalhando com matemáticos e outros. A propósito, algumas pessoas vão tentar dizer que uma abordagem é melhor que a outra, que uma é mais nobre. Duvido que seja o caso. Tenho certeza de que ambas têm problemas. Uma tecnologia dessa magnitude vai causar danos. Então, quando algo quebrar, não olhe para isso e diga: “Ah, quebrou porque eles lançaram do jeito errado.” Não, essa coisa vai causar danos. Não tem como evitar. O importante é se adaptar. Então, ele está dizendo que os últimos dias foram uma lição de humildade para a intuição matemática humana. Certo? Toda aquela ideia de

16:56 “ei, mamãe, um robô te deu uma surra”. Ele está dizendo que hipóteses de longa data, que nunca eram questionadas, caíram. Então, ele mencionou algumas delas. Em retrospecto, diz que a refutação inesperada de May à conjectura da distância unitária de Erdős foi nosso tiro de advertência. E o lançamento da OpenAI ontem deixou claro que a superinteligência matemática está entre nós. Desculpem, acho que minha cabeça enorme está atrapalhando. Deixa eu fazer assim. E ele tem razão. Ele diz que há semanas em que décadas acontecem. Então, como mencionei no vídeo anterior, em que falamos sobre a OpenAI lançando essas coisas, se você observar o ritmo

17:27 desses lançamentos, acho que em agosto foram uns 10, em setembro foram uns 100 e, neste mês, estamos há 8 dias e já estamos perto de 1.000, certo? Então, é uma multiplicação por 10 a cada mês: a quantidade de pesquisas matemáticas inovadoras se multiplica por 10 a cada mês. Uma delas é transformadora, sísmica, muda o mundo, seja lá como você queira chamar. É algo grande, certo? Mas passar de 10 para 100 e depois para 1.000, certo? Isso é mais do que conseguimos compreender. Então, acho que o que ele diz aqui faz muito sentido. Ele pergunta: é concebível

17:58 que, com o passar do tempo e a continuidade desse processo, com esses séculos de progresso matemático que vão acontecer, seja inconcebível que, em algum momento, surja algo que afete a segurança das criptomoedas, das carteiras ou desses endereços de Bitcoin? As curvas elípticas parecem especialmente vulneráveis à superinteligência. As curvas elípticas são como uma assinatura que prova que você autorizou uma transação. Isso é usado no Bitcoin, no Ethereum, entre outros. Então, Vitalik Buterin, a

18:29 criptomoeda dele, o pequeno mundo que ele criou no universo cripto: essas curvas elípticas são mais ou menos o que prova que você fez uma transação. E ele está dizendo aqui que elas parecem especialmente vulneráveis à superinteligência. As curvas têm uma estrutura rica, com espaço para truques sofisticados, como emparelhamentos de Shoof e Frobenius. Em contrapartida, as funções hash são projetadas para minimizar a estrutura algébrica. E é aqui que preciso discordar um pouquinho dele. Acho que provavelmente é porque também li a publicação de Vitalik: não acho que o que vai quebrar isso será, você

19:00 sabe, Shoof ou Frobenius. Não sei o que são essas coisas, mas algumas pessoas sabem. E acredito que o que vai quebrar isso não será algo conhecido por ninguém. Não terá nome. Não teremos um nome para isso quando acontecer. Como aponta uma publicação no blog de Scott Aaronson, foi como aquele teste de ruído — não era um teste de ruído que conhecíamos ou que tinha nome. Era algo que eles chamaram de uma coisa bizarra, alienígena, estranha, recursiva, sei lá. É isso que vai quebrar tudo. Agora, o que acontece é que, lendo algumas das coisas que Scott Aaronson escreveu sobre o Q-Day, o dia quântico, e tudo que está sendo

19:33 feito nos bastidores, além de outras coisas nesse setor, não sei disso com certeza, mas apostaria muito dinheiro que é verdade e que quase certamente o governo dos Estados Unidos, e provavelmente muitos outros governos, estão acompanhando de perto essa área, especificamente. E já faziam isso antes de a IA chegar a esse nível. Há pessoas no Google que provavelmente são interlocutoras do governo, garantindo que ele esteja informado sobre o que está acontecendo e sobre as pesquisas que estão sendo feitas, porque algumas tecnologias e algumas ideias matemáticas provavelmente não deveriam ser simplesmente divulgadas

20:07 a torto e a direito. E muitos desses matemáticos estão acusando a OpenAI de agir de forma antiética, sabe, de divulgar tudo isso e ser irresponsável com isso. O que acontece é que não acho que eles tenham divulgado tudo. Quando o Projeto Manhattan estava em andamento, quando os Estados Unidos estavam desenvolvendo a primeira bomba atômica nuclear, curiosamente, muitas pesquisas sobre fissão nuclear, muita daquela física atômica, muitas dessas pesquisas simplesmente deixaram de ser publicadas. Então, à medida que nos aproximávamos do desenvolvimento da bomba atômica, as pesquisas e descobertas…

20:39 Você viu cada vez menos artigos sendo publicados nessa área. Então, acho que dá para adivinhar por que isso estava acontecendo: em algum lugar, nos bastidores, o governo dos EUA estava dizendo: “Não publiquem essas coisas, porque são perigosas. É perigoso publicá-las. Queremos mantê-las sob sigilo e controle. Queremos que essas informações sejam secretas.” E, curiosamente — e eu não tinha percebido isso, queria ter percebido —, esse é um dos motivos pelos quais adoro termos uma internet livre e aberta, onde muitas pessoas podem discutir e compartilhar ideias e informações. Como Justin Drake também diz aqui, vale notar a…

21:10 notável sub-representação de avanços em criptografia entre os 722 resultados matemáticos iniciais que publiquei. Havia algo meio relacionado a isso, mas nada que estivesse ali. Então, ele está dizendo: “Testemunhei em primeira mão o governo dos EUA censurando resultados acadêmicos de criptoanálise quântica. Minha hipótese básica é que houve intervenção nos bastidores.” Então, supondo que tudo isso esteja correto, o que provavelmente está acontecendo é que, bem, vocês sabem que a OpenAI e todos os outros laboratórios de IA estão se comunicando com o governo. Se vocês se lembram daquele golpe, quando os membros do conselho da EA, os altruístas eficazes…

21:44 meio que tentaram expulsar Sam Altman e tentaram transferir a OpenAI para o controle da Anthropic. Bem, o promotor de Nova York — o mesmo que colocou Sam Bankman-Fried na prisão — ligou para eles, e tiveram uma longa conversa, muito secreta. Acho que isso foi uma das coisas que acabou com aquele impasse. Depois, quando expulsaram aquelas pessoas do conselho, um ex-diretor da NSA entrou para o conselho da OpenAI. Não sei por que estou mencionando tudo isso. É completamente desconexo, simplesmente me veio à cabeça, mas é bem possível que já exista…

22:18 alguma tecnologia, alguma matemática que seja perigosa para a criptografia — e, por criptografia, quero dizer não só a moeda, mas a criptografia e a cibersegurança, além da criptografia de dados, de modo geral —, e que o governo tenha cuidado com a forma como essas informações são divulgadas. Então, provavelmente houve algum tipo de verificação de segurança em tudo isso que a OpenAI estava se preparando para… Eu só não ficaria… Não sei se isso aconteceu. Só não ficaria surpreso. Não me deixaria de queixo caído se tivesse sido necessária uma verificação e alguém, em algum lugar, tivesse dito: “Ei, essas duas coisas não queremos que sejam divulgadas. Não…

22:48 publiquem isso.” Vou deixar o link abaixo, caso queiram ler, porque boa parte do texto trata bastante de criptografia. Este não é um canal sobre criptomoedas. Estou abordando o assunto mais pelo lado dos avanços em IA; esta é a interseção entre IA e esse setor. Mas acho que, primeiro, há muitas coisas em que essa pessoa está absolutamente certa, 100%. Ela tem percepções incríveis. Mas acho que, em boa parte desse raciocínio, ela diz: “Sabemos isso, portanto aquilo, portanto aquilo outro”, enquanto, na realidade, as coisas são muito mais estranhas. Mais uma vez: código bizarro, alienígena etc. Então, como Vitalik Buterin diz aqui…

23:21 este é o texto dele, e ele concorda com boa parte do que foi dito. Ele diz que devemos levar a sério os riscos que a matemática acelerada por IA representa para a criptografia e reduzir nossa exposição não só à criptografia vulnerável a computadores quânticos, mas também à criptografia potencialmente vulnerável à IA. Então, muita gente já estava se preparando para a criptografia — ou qualquer outra coisa — vulnerável a computadores quânticos. A Coinbase tem especialistas trabalhando nisso. Eles têm uma equipe inteira, um painel de pessoas muito inteligentes. Acho que Scott Aaronson é um deles. Há muitas pessoas extremamente inteligentes e bem informadas que…

23:54 estão trabalhando nisso, e espero que consigam resolver o problema, que descubram como fazer. Na verdade, se a IA não existisse ou não estivesse avançando numa velocidade alucinante, provavelmente haveria tempo suficiente. Agora, eu simplesmente não sei. Está avançando bem rápido, sabem? Mas o que ele está dizendo aqui é que também precisamos pensar na criptografia vulnerável à IA, o que é um risco totalmente novo. A maioria das pessoas não… Quer dizer, tenho certeza de que algumas previram isso, mas acho que a maioria de nós, se formos honestos, não consegue deixar de se surpreender com a rapidez com que isso está avançando. De novo, é…

24:29 menos de 90 dias atrás que isso começou a ganhar força. Talvez tenha sido em agosto que começamos a ouvir aqueles primeiros sinais no radar; depois veio 10 vezes, 10 vezes, 10 vezes, e agora as pessoas estão falando em apocalipse matemático. Então, a questão é: estamos preparados para esses avanços matemáticos da IA? O que eles vão quebrar em termos de criptografia e tudo mais? Como Vitalik diz aqui, acho que ele está se dirigindo diretamente à outra publicação que acabamos de ler. Ele diz que, até agora, a maioria das pessoas pensava assim: curvas elípticas quebradas, hashes seguros, reticulados…

25:00 seguros. As curvas elípticas são usadas para assinar transações de Bitcoin e Ethereum. Hashes são usados, por exemplo, na mineração de Bitcoin, entre outras coisas, como baixar arquivos. E os reticulados são mais do tipo à prova de computação quântica — ou melhor, resistentes a computadores quânticos, certo? Isso envolve usar esses pequenos quebra-cabeças com várias dimensões, certo? Supercomplicados e, supostamente, resistentes a computadores quânticos. Então, ele está dizendo que a maioria das pessoas pensa: “Tudo bem, isso aqui não é seguro, mas isto e isto…

25:30 estão totalmente bem. Estamos totalmente seguros. Mas ele diz que há uma boa chance de que a segurança concreta dos reticulados sofra golpes sérios com os avanços da matemática por IA nos próximos dois anos. Nós cobrimos um artigo em que a IA usou esse tipo de estrutura estranha de reticulados, saltando entre dimensões diferentes, e conseguiu… Esqueci os detalhes, mas era algum tipo de demonstração usando essa abordagem completamente diferente. E essa abordagem não era necessariamente matemática alienígena, mas combinava duas áreas muito diferentes da matemática. Então, sabemos…

26:01 muita coisa sobre uma delas e muita coisa sobre a outra, mas provavelmente há pouquíssimas pessoas que conhecem as duas e são especialistas em ambas. E esse modelo de IA, um LLM, meio que conectou essas duas áreas. E é isso: nem precisa ser matemática alienígena para derrubar isso. Nós, a humanidade como um todo, talvez tenhamos montado todas as peças do quebra-cabeça. Talvez tenhamos reunido todas elas. Só que nosso cérebro não é capaz de conhecer coisas de muitas, muitas áreas diferentes. Temos especialistas em determinadas áreas. Talvez haja especialistas em duas ou três áreas. Mas raramente encontramos alguém que seja um dos maiores especialistas do mundo…

26:34 em uma área complexa e também em outras 10 ou 20. Então, mais uma vez, há muita coisa aqui. O texto se concentra mais em criptomoedas e criptografia de dados. Vou deixar o link abaixo, se quiserem conferir. Não vamos entrar na maior parte do assunto. O ponto principal a entender é que existe esse novo tipo de inteligência alienígena que consegue fazer muita matemática que não entendemos. Você está em algum lugar onde pode haver riscos potenciais decorrentes dessas coisas que ainda não compreendemos por completo? Há muito que podemos discutir sobre isso, mas, bem rápido, mudando de assunto: a Anthropic acrescenta uma pequena cláusula aos…

27:07 termos de serviço do Claude. Diz: “Você não deve adotar um comportamento abusivo ou cruel, prolongado e desnecessário, em relação aos nossos modelos.” Muita gente está meio que zombando disso e dizendo que é ridículo. E, sem dúvida, muita coisa ridícula tem acontecido; talvez isso faça parte. Aqui está a minha opinião. Imaginem que, quando falamos de consciência, na verdade não sabemos o que ela é. Você tem uma experiência subjetiva. Pode dizer que é consciente, mas não dá para testar a consciência. Se você pensar bem, não existe nenhum teste que você possa…

27:38 executado em outra pessoa. Não uma ressonância magnética, nem um teste com uma picada; não há como saber se outra pessoa ou outra coisa está tendo uma experiência subjetiva. Há certos sinais de que está viva, claro, mas não dá para testar se há uma experiência subjetiva. E, neste momento, temos uma espécie de debate que está se formando aos poucos. E a questão é: máquinas podem ser conscientes? E já há algumas pessoas deste lado dizendo: “Não, claro que não, isso não é possível. Como poderia ser?” E há algumas pessoas deste lado — vou dizer que elas estão dizendo “sim”. Eu acredito — e isso é só a minha opinião — que essas duas crenças são completamente insanas. Pelo menos

28:10 se você simplesmente insiste em qualquer uma das posições — um “não” categórico ou um “sim” categórico —, é como se… Você não faz ideia. Acho que a única resposta mais ou menos correta é uma incerteza profunda. Não sabemos. Isso não quer dizer que eu ache que os grandes modelos de linguagem que usamos agora sejam conscientes. Pessoalmente, não acredito nisso, mas também vimos muitas semelhanças muito interessantes e coisas que surgem conforme aumentamos as redes neurais desses cérebros, semelhantes ao modo como imagino que o cérebro humano evoluiu. Digo “imagino” porque, como naquela introspecção do Claude e em tudo aquilo,

28:41 você chamaria isso de evolução ou seria apenas uma propriedade emergente de ampliar um cérebro? Tanto o olho do polvo quanto o olho humano são notavelmente semelhantes, embora não tenhamos nada em comum. Eles evoluíram de forma muito, muito independente. Então, por algum motivo, mecanismos específicos — isso se chama evolução convergente — evoluíram em uma coisa, e a mesma abordagem acabou evoluindo em um animal completamente diferente, em um ambiente completamente diferente. Então, não acho que os LLMs sejam conscientes. Será que acredito que poderíamos, por acaso,

29:12 acabar encontrando alguma propriedade emergente semelhante à consciência? Acho que é razoável. Com certeza, eu estaria aberto a essa possibilidade. Não estou dizendo que isso vai acontecer, mas por que não? E, se você tem uma opinião muito forte sobre o assunto, antes de mais nada, defina o que significa consciência. Fizemos uma entrevista com Nick Bostrom não faz muito tempo. Uma das coisas de que ele falou foi que deveríamos ter cuidado mais adiante, caso comecemos a descobrir que somos capazes de criar seres digitais que sentem. Imagine se criássemos uma simulação com seres que parecem humanos, que são

29:43 conscientes e acham que são reais. Ele disse que deveríamos ter cuidado para não criar essas espécies de câmaras de dor, por assim dizer. Estou tentando evitar usar certa terminologia. Mas não deveríamos criar um mundo em que houvesse sofrimento sem parar. E pensei nisso. Tipo: “É, claro. Não acho que faríamos isso. Por que faríamos?” Aí saiu um artigo que mostrou algum tipo de representação no grande modelo de linguagem, alguns recursos no cérebro que pareciam corresponder, digamos, à dor. Não estou dizendo que ele sente dor. Não estou dizendo que isso seja real. Estou dizendo que, para entender emoções, ele tem certos recursos que

30:16 correspondem às emoções. A Anthropic chama isso de emoções funcionais, certo? Então, não é como nós, quando sentimos as coisas, mas é algo funcional que lhe permite fazer previsões. E encontraram algo muito parecido no caso da dor. Pouco depois, algumas pessoas criaram essas câmaras de dor, esses espaços de dor, colocaram no GitHub e, basicamente, puseram grandes modelos de linguagem lá dentro e ativaram esse recurso o tempo todo, 24 horas por dia, 7 dias por semana. Não sou alguém que pensa muito sobre o bem-estar dos grandes modelos de linguagem

30:47 — não faço parte desse grupo —, mas, quando vi aqueles experimentos, uma parte de mim pensou: “Sério? É mesmo a primeira coisa que vamos fazer?” Porque, até onde consigo perceber, isso não é feito para entretenimento. Não é interessante. Não é feito para obter dados científicos, e também não acho necessariamente que algum dano — algum dano real — esteja sendo causado. Mas esse impulso de pensar: “Ah, essa coisa talvez sinta dor, ou há algo nela que pode ativar a dor. Vamos construir uma câmara infinita para isso

31:18 e simplesmente aumentar a intensidade.” Isso parece estranho. Esse impulso de fazer isso é estranho, um pouco perturbador, porque, se algum dia chegarmos a uma situação em que algo assim surja simplesmente por ampliarmos essas redes neurais — e, mais uma vez, não estou descartando essa possibilidade —, será que alguém vai criar imediatamente esse ambiente só para fazer isso? Isso é um pouco assustador. Então, para mim, pessoalmente, havia algo um pouco perturbador nisso, não porque eu ache que estejam, sabe, fazendo algo

31:49 horrível. Mas o fato de alguém ter criado essas coisas uma semana depois da publicação desse artigo… Não sei. Fiquei um pouco incomodado com isso. Me digam o que acham. Tenho certeza de que alguns de vocês acham que sou louco, e eu entendo perfeitamente. Acreditem, entendo perfeitamente. Mas acho que é por isso que a Anthropic colocou isso ali. Acho que é uma resposta direta a isso. Eles estão dizendo: “Você será banido se cometer abusos prolongados e desnecessários ou agir com crueldade em relação aos nossos modelos.” Não interpreto isso como: “Ah, se você for maldoso com o Claude, vamos

32:20 expulsar você da plataforma.” Não acho que seja esse o motivo. Acho que, se alguém, sabe, criar câmaras de tortura infinitas e colocar o Claude nelas sem nenhum propósito de pesquisa ou qualquer outra utilidade, a Anthropic poderia expulsar essa pessoa ou impedir que isso fosse usado desse jeito. Para mim, isso faz sentido, nem mesmo do ponto de vista do bem-estar da IA; é que o conceito todo é estranho. Enfim, essa é a minha opinião. E, por fim, bem rapidinho: esta é a Association for Human Mathematics, que foi formada recentemente. E eles estão dizendo que os matemáticos não pediram que esse trabalho fosse feito. Mais uma vez, essa é a declaração mais estranha para mim. E daí? Alguém precisa pedir para outra pessoa fazer matemática? Eles são donos da matemática? Isso não faz sentido para mim. E estão pedindo que todos — todos os matemáticos — interrompam o trabalho com a OpenAI e retomem uma visão da ciência centrada no entendimento humano. E, claro, precisamos promover o entendimento humano, especialmente nestes tempos. Não sei se a abordagem certa seria não trabalhar com modelos de IA. Isso pareceria o oposto de entender. Isso

32:50 formado. E eles estão dizendo que os matemáticos não pediram que esse trabalho fosse feito. Mais uma vez, essa é a afirmação mais estranha para mim. Quem se importa? Eles precisam pedir a alguém para fazer matemática? Eles são donos da matemática? Isso não faz sentido para mim. E estão pedindo a todos, a todos os matemáticos, que interrompam seu trabalho com a OpenAI e voltem a uma visão da ciência centrada na compreensão humana. E, certamente, precisamos avançar na compreensão humana, especialmente nestes tempos. Não sei se a abordagem certa seria não trabalhar com modelos de IA. Isso pareceria o oposto da compreensão. Isso

33:21 pareceria dar um passo em direção à Idade das Trevas. Aqui está uma ferramenta que pode nos permitir aprender mais, entender mais, descobrir mais. E seu primeiro impulso é dizer: “Não. Nunca usem essa ferramenta.” Meio que envergonhar todo mundo que usa e simplesmente tornar tudo exclusivo para humanos. Não entendo. E, de novo, como eu disse antes, há muitas preocupações que precisamos abordar em tudo isso, certo? Mas essa ideia de que os matemáticos são donos da matemática e podem decidir quem pode fazer matemática e como, acho insana. O que é isso? Um pensamento bizarro e alienígena. Aí está. Enfim, se você chegou até aqui, muito obrigado por assistir. Meu nome é Wes

33:54 Roth. Vejo vocês no próximo vídeo.

Transcrição original

[00:00] The math apocalypse has begun. Scott Aaronson calls this the biggest day in mathematical history. A global coalition of mathematicians formed together to oppose AI math. Only humans allowed. No clankers. Now, Anthropic worried that some of these strongly worded letters might hurt Claude’s feelings. Actually adds a clause to their terms of services saying that if you abuse their models, you will be banned. Most people seem to find this a preposterous. Here’s the

[00:30] thing, they’re not crazy. There might be some justification to it. I’ll play devil’s advocate if you will and say why maybe that’s not such a bad idea. At the same time, there’s a lot of fear in crypto, as in cryptocurrency. Now, I know a lot of people that might be holding crypto coins in hopes that they appreciate, they go up in value, maybe won’t like me shining the light on some of the stuff and talking about it. But, here’s the thing, one of the demigods of crypto himself, Vitalik Buterin, did a write-up talking about this very thing.

[01:01] So, whatever the case is, you should be at least aware of it. You don’t have to agree with it, but be aware of some of these concerns. So, here’s my ChatGPT window. I’m going to say solve all math, make no mistakes. And before I hit go, I probably need to kick this up to ultra. Yeah, I’m I’m probably going to need ultra for this. Oh wait, it’s too late. OpenAI already did it. Yes, OpenAI one-shotted math. So, here’s a Scott Aaronson, we kind of bring him up a lot on this channel. American theoretical computer scientist had a big impact with

[01:32] Google’s quantum supremacy. I used to say he worked there, I guess he didn’t work there, but he did some work with them and was kind of instrumental in some of the discoveries and advances that Google has made in that field. Was one of the early researchers at OpenAI, so he kind of, as he says, moonlighted at OpenAI and is now actually teaching an AI alignment class. He’s a professor, so he’s teaching classes on AI alignment. So, he’s hanging out at home with his 9-year-old son and his wife who is a complexity theorist. Her name is Adina Mashkovitz. And the 9-year-old son approaches the mother and says, “Mommy,

[02:06] I heard you got cooked. I heard that a robot solved the math problem you worked on for your whole career.” That just kind of cracks me up. But, I think that’s a lot of mathematicians are hearing this right now, whether it’s coming from their 9-year-olds or it’s just in their heads. I think this is the message that a lot of them are hearing. So, Scott continues, “While my son was being a brat, he also wasn’t wrong. Whether you’re thrilled, depressed, angry, or whatever else about it, yesterday was surely one of the biggest days in mathematical history.” So, he says, “Among the 372 huge results

[02:40] released by OpenAI yesterday, so that’s this, we’ve covered some of it. We covered the event. I could not possibly cover the actual math stuff that they discovered, but on the recommendation of its advisory group of Timothy Gowers, Edward Witten, and other distinguished mathematicians was the proof of Subhash Khot’s unique games conjecture, a statement that my wife has worked towards proving for the entire time I’ve known her.” So, this is a very interesting kind of thing. Some of you might be thinking, “What does this have to do with anything?” This little anecdote, this glimpse into this one

[03:11] person’s life, I think is very telling of what’s happening in the industry as a whole. Is is mathematics an industry? And this a field, I guess. You had people who worked for decades on solving various problems. And here comes OpenAI and they just host a lot of the stuff, a lot of breakthroughs, things that no human hasn’t been able to solve before. Obviously, it’s using a lot of the human knowledge that it was built on, but it pushes it much further than humanity as a whole was able to. So, there’s a number of things to understand here.

[03:42] There’s some big implications here. Number one, this math, these proofs, the way that AI approaches it, it’s alien. It’s not human-like. It’s different. It really calls into question, what does understanding, what does that mean? What even is it? Maybe the fact that, you know, AI can do math, maybe that’s just the most natural thing in the world and the fact that we humans were able to do some of it on some level, maybe that was the miracle. But that’s point number one, it’s alien. We have this alien intelligence. Number two, a lot of people, mathematicians, are mad. And just like the pufferfish when

[04:15] threatened, mathematicians try to make themselves appear larger by in this case forming a brand new organization called Association for Human Mathematics. By the way, just so you understand, I’m kind of being a very kind of a lighthearted about this. There are a lot of concerns here that are very valid and very real. I just do feel like some people are throwing a little bit of a tantrum and it’s probably better if we all just calm down, wait for the emotional response to subside, and rationally think through this. Surprised that mathematicians are the ones that need to hear this message, but here is

[04:46] the newly formed Association for Human Mathematics. They start by saying, “Mathematicians did not ask for this work to be done.” We’ll read this a little bit towards the end because I do want to cover it, but I think that sentence sort of really highlights the entirety of this message. They’re basically saying that we, the mathematicians, we don’t like it. So, stop it. Ethan Mollick said that this document, this will be an assigned reading college classes that cover this moment in time. There’s a lot happening in the few paragraphs. Because yeah, all of a sudden mathematicians or at least

[05:18] this is not everybody, I’m sure this is a sub subsection. The messaging that’s coming from them is a little bit kind of like they’re the the high priests of this religion and how dare you add to their sacred texts. Only they are allowed to do math. If you do some math, well, they didn’t ask you to do that math, so why are you doing that math? And is it certified human-made math? And understandably, like a lot of people are kind of dunking on them because a a of this is ridiculous. Now again, the underlying concerns are not ridiculous.

[05:49] They’re very, very real concerns here. I’m not dismissing those, but a group of adult people coming together and writing this letter where they’re saying, “Hey, stop doing math. We didn’t allow you to do math.” That is childish. This might be shocking to hear, but no one owns math. If you’re studying the English language, you can’t tell other people whether or not they can use the English language. You don’t own the English language. Studying computer science doesn’t mean that somebody else can’t also do computer science and to study it and do work in that field. They don’t need your blessing. This is insanity and

[06:23] we will look back on this and laugh. Now, again, there are a lot of real, legitimate concerns and we’ll cover those here, but you can’t play with my toys is not one of them. So, here again is the Scott Aaronson blog and he’s saying that no human has understood just about any of these proofs yet. It feels like something written by someone who’s on a psychedelics. So much unclear and doesn’t make sense. Lots of it name-dropping of previous work without discussing why it can be used despite impossibility results. This is something that was texted to him, so it might be a little bit

[06:53] sounds a little bit weird. So, I’m not misreading it. It was just that’s how it was texted to him. Basically, the paper is so horribly written that it’s impossible to read it without AI help. I asked Astra for a reasonable completeness and soundness claim of the noise gadget and it gave them by combining claims from all over the paper. So, the UGC, that’s the unique games conjecture. A lot of this has to do with how you can approximate large numbers or infinite numbers. And I always use this analogy, but you can imagine that there’s this sort of a mountain and the top of it is kind of obscured in the clouds. So, we don’t know how tall it is. But, if we climb up

[07:26] the mountain, right? If we get this high, right? We can say this mountain is at least yay tall, right? So, by climbing slowly up the mountain and getting to a certain point, we can say it’s at least this tall. So, for all these proofs and conjectures and everything else, this is what we’re trying to do. We How do we estimate some incredibly large and complicated thing and then prove that that’s conjecture approximation is accurate. Like we do it by kind of a meticulously getting to a certain point if we can say, “Okay, we know it’s at least this good.” And so in a lot of these cases, what the AI did is it just kind of like humans in all of our collective sort of knowledge, we got

[07:57] this high and then you know, an AI went up here and it got this high. It’s like, “Nope, this mountain is at least this tall.” So this UGC, the unique games conjecture, it’s again similar I’m not going to go into the math. I’m not going to pretend I I understand all of it, but that’s just sort of how kind of envision what is being talked about. And basically, they’re saying that this new proof invents a completely new bizarre code with a noise test. So a noise test that to the best of my understanding is like we create like a little code just barrages the little algorithm or equation with a bunch of different stuff. So we can test if it breaks. So it’s like a unit test, smoke test,

[08:28] whatever you want to call it. So if you’re like build a website that has a checkout thing and you put in how many units of whatever you’re trying to buy, you may have a little unit test where you’re like, “Okay, well, I’m pretty sure if I put five units it’s going to work. What if I put like a billion? Is that going to break something? What if I put a negative number? What if I put the letter A? What if I put a Chinese character in there, right?” So I’m just kind of like throwing stuff at it to see will any of this kind of break it. So that’s my understanding of what a noise test is in this scenario and normally, I think they’re sort of like some human used and human approved ones that we found and we’re like, “Okay, this is how you kind of do that.” And this AI did

[09:00] some new bizarre thing for that noise test. And they’re saying it’s some crazy recursive construction. So it’s some sort of a bizarre code that’s like recursive in nature. So it kind of like keeps testing more and more. It keeps going, which just based on this description does sound like it might be better. It’s not the long code, not the short code, it’s some alien craziness. I still think that there maybe is a proof that uses the half space code, which is natural. The citations are often irrelevant and confusing. A possible future is a math world that’s heavenly if you have vision {slash} creative

[09:33] ideas that AI could help crack and implement. And of course, there’s a lot for us to learn from the aliens. Again, I think this is kind of an important to understand. This is some of the some of the smartest people on Earth when it comes to mathematics and probably most things. And this is what they’re seeing. Number one, they don’t fully understand it. But, also they’re obviously not just dismissing it. They’re not saying, “Oh, this is just nonsense.” They’re all seeing something there. They’re like, “All right, there’s something there. This is not obviously wrong. We just don’t fully understand it. There’s a lot of like alien stuff here.” But, the big thing to take away here is that there is

[10:07] this now in the world, this alien mind that understands math in a very different way from you and I or, you know, the smart people that understand math on that level. Maybe you’re one of them. If so, good for you. But, with that in mind, let’s look at Vitalik Buterin. So, Vitalik Buterin is also a very, very smart person. I feel like you can kind of tell just by by looking at him. And I do enjoy listening and reading to a lot of the stuff he talks about because he’s definitely he thinks deeply around a lot of different things.

[10:37] Cryptography, the economy, politics, just tons and tons of different stuff. He funded the EA, the effective altruist movement in the early days by giving them some crypto that then expanded in value. Recently, does seem like he maybe backed away a little bit from that movement. He’s definitely brought up some concerns based on some tweets that we’ve covered. But, this is a person that’s very much sort of like invested. So, he’s known as the crypto king. Or I guess as the time calls him, the prince of crypto. So, whatever his royal sort of moniker is, he’s he’s he’s all about the crypto. And he’s helped build a big

[11:12] chunk of the entire ecosystem. So, he’s not just kind of like talking about it. He is one of the biggest sort of contributors to it. So, he’s responding to this post that kind of went viral telling people to just get the heck out of crypto. So, he’s providing his own view. And certainly, I mean, somebody’s whose most of their net worth and their sort of a legacy of everything they did rests on a certain industry such as crypto is for Vitalik, you’d expect them to maybe, you know, defend it all costs, right? Like, “No, everything’s fine. Don’t even worry. Like, everything is fine.” as the house is burning. But,

[11:43] interestingly, no. He brings up his concerns. And we’ll look at that in just a second, but I do want to first point out the thing that he’s responding to, and that is Justin Drake. Justin Drake is a Bitcoin security researcher, and he’s saying, “Today, I call upon the blockchain industry to calmly begin planning for bunker mode. My personal recommendation is to set in motion a controlled mass migration of assets to fresh addresses. Addresses Addresses whose pub keys remain hidden behind a hash.” So, he’s basically saying,

[12:13] especially if you have a lot in crypto, to move it into addresses that have never had a transaction. We’ve talked about this quite a bit in regards to software in the past on this channel. Basically, if you had some open-source software that was out there on the internet, and at some point the like the code was exposed, that might still be out there on the internet on on GitHub or elsewhere, or even if it has been in the past and has been stored in some archive, what’s happening now, and this is like guaranteed, I should say probably happening, but it’s like you know it is, is that there’s probably a

[12:45] whole bunch of AI agents that are crawling all over that code looking for vulnerabilities, and they will find them. Massive Korean bank hacks on a massive level just happened within the last 24 hours or so. Hacker used a Chinese-developed AI tool to target South Korean banks. So, that’s the New York Times. We’ve covered previously how a specific, very well-known, very secure hardware wallet got hacked, and it was specifically because of this, right? So, they had their code open-sourced on the internet, which is a good idea, right? You’re showing everybody this is how we built it, so everybody can check it out

[13:17] and make sure it’s good. But, again, just like these super smart mathematicians are looking at this math and saying, “This is alien.” These AI agents that are crawling the code, they’re also finding vulnerabilities that humans we haven’t found. And maybe we could have given enough time and resources and motivation, but we didn’t. And so now it’s beginning this kind of wave as more and more things get hacked. So I don’t know exactly what happened with the Korean banks. I haven’t looked into that yet, but I know with the wallet it was because at one point that code was online. It was sort of a visible to the public. And some smart AI agent figured out that, you know, when

[13:48] it develops a little seed phrase, it’s supposed to pick from some gargantuan amount of possible like a universe of possible phrases, but it didn’t. It only picked from a much smaller possible bucket. I think it was like 10,000. I don’t recall at this point. But this hacker with this AI agent, he basically noticed that and then he probably offline sat there and generated every possible key phrase that it could have been. Let’s say there’s 10,000, right? So it was like a document with 10,000 phrases that could open up this wallet, right? So it’s kind of like like a password. And then one day he just

[14:19] unleashed and, you know, hacked basically with this seed phrase. It was probably just a brute force attempt where, you know, every wallet, you know, just it just went through and it’s kind of like tested all the let’s say it was 10,000 seed phrases until it found the right one and it just emptied all that money out of those bank accounts or hardware wallets more specifically. I think it was something like 60 million dollars within the first I I I want to say 24 hours. Like it was insane and it kept going from there. And so Justin Drake here is saying that you should move your funds to addresses that have never signed a transaction. So if you sign a transaction, there’s some mark of

[14:51] yours out there that this wallet exists somewhere there where people can see it. It’s visible to the public. So he’s saying in the future or even now that may make you a target for some of these new AI assisted hacks. And he’s saying, you know, don’t rush. You don’t have to do this right the second. Don’t panic sell. And he also mentions that there are things that might break before Q-Day. So quantum day, we’ve talked about this on this channel. Actually, we’ve opened the Scott Aaronson blog where he is basically saying that. And by the way, when he like says that he’s hearing rumors, if you’ve been following

[15:23] this channel, you know like you can put money on that. Like so far, a lot of the stuff that he talks about in his blog later is revealed to be just true. So, he’s definitely very much in the know. So, Q day is this day when sort of some quantum approaches might be able to break some of the existing encryption, and a lot of big companies, Google included, are preparing for that day. And the day that they’re planning in their minds or on paper, they’re saying we have to be ready for this by this day. That’s not that far away. It’s like a a year, a few years. So, the point being is a lot of people that are

[15:54] working on this, they are expecting a pretty big upheaval and change in this sort of industry, anything to do with cryptography. And so, that of course means, you know, on like cybersecurity, it means crypto as in cryptocurrency. He’s specifically talking about, you know, what OpenAI has been up to along with Anthropic as well. Although, Anthropic is taking a different approach. OpenAI’s approach is like, here’s all this stuff that our AI systems have dis- covered that have never before seen, you know, by the world. We’re just going to just throw it at the world and let them deal with it.

[16:25] Anthropic has been more reserved, working with mathematicians, etc. By the way, some people will try to tell you that one way is better than the other. Like one is more noble. I doubt that’s the case. I’m sure both of them have problems. A technology of this magnitude, it will break things. So, things breaking, you shouldn’t look at it and go like, oh, it broke because they released it the wrong way. No, this this thing will break stuff. There’s no way around it. It’s about adapting. So, he’s saying recent days have been humbling for human mathematical intuition. Right? That whole idea of,

[16:56] hey mommy, you got cooked by a robot. He’s saying long-held unquestioned hypotheses have fallen. So, he mentioned some of them. In hindsight, he’s saying May’s unexpected disproof of the Erdős unit distance conjecture was our warning shot. And yesterday, OpenAI drop made it clear that mathematical superintelligence is upon us. I apologize, I think my big head is in the way. Let me do this. So and he makes a good point. So he’s saying they say there are weeks where decades happen. So as I’ve mentioned on the previous video where we talked about Open AI releasing this stuff. If you look at the cadence

[17:27] of these releases, I think August it was like 10, September it was like 100 and this month we’re 8 days into it, it’s closer to 1,000, right? So it’s 10 x thing every month the amount of ground breaking mathematical research is 10 x thing every month. One of them is ground changing, ground shaking, earth changing, whatever the case is, it’s it’s big, right? So but going from 10 to 100 to 1,000, right? That’s more than we can possibly comprehend. So what he’s saying here I think makes a lot of sense. He’s saying is it conceivable

[17:58] that as time goes along and this sort of continues, you know, these centuries of a mathematical progress that’s going to happen, is it inconceivable that somewhere in there there’ll be something that’s going to affect how secure crypto is, how secure wallets are or these Bitcoin addresses. Elliptic curves feel especially vulnerable to super intelligence. So elliptic curves are like a signature that proves that you’ve authorized a transaction. So this is used in Bitcoin, it’s used in Ethereum amongst others. So Vitalik Buterin, his

[18:29] cryptocurrency, his little world that that he’s created in crypto, these elliptic curves, that’s sort of like what proves that you’ve made a transaction and he’s saying here that they feel especially vulnerable to super intelligence. Curves carry rich structure with room for fancy tricks like Shoof Frobenius pairings. By contrast, hashes are designed to minimize algebraic structure. And this is where I I have to disagree with him just a little bit and I think that’s probably because I’ve read Vitalik’s post as well because I don’t think the thing that will break it will be, you

[19:00] know, Shoof or Frobenius. I don’t know what those things are but some people do and I believe that the thing that will break it will not be known by anyone. It will not have a name. We we won’t have a name for it when it happens. As I post on Scott Aaronson’s blog points out, they’re like that noise test it wasn’t a noise test that we knew or had a name for. It was what they call it a bizarre alien weird recursive something something like that. That that will be the thing that breaks it. Now, here’s the thing reading some of the stuff by Scott Aaronson about the Q-Day quantum day and all the stuff that’s being

[19:33] worked on behind the scenes as well as some of the kind of other stuff in the space. I don’t know this for a fact, but I would a lot of money this is true and that it’s almost a certainty that the US government and most likely many other governments they’re keeping close tabs on this area specifically. And they have been before AI got to this level. There’s people at Google that are probably liaisons to the government making sure that they’re informed about kind of what’s happening what research is being done because there are some technologies and some math that probably shouldn’t just be released all

[20:07] willy-nilly. And so a lot of these mathematicians they’re accusing using OpenAI of just unethically, you know, putting all this stuff out there like being dangerous with it. Here’s the thing, I don’t think they just put everything out there. When the Manhattan Project was happening when the US was a developing the first atomic nuclear bomb. Interestingly, a lot of the nuclear fission research a lot of like that atomic physics a lot of that research it kind of just disappeared from being published. So, as we were approaching the development of the atom bomb the research and discoveries like

[20:39] you you saw less and less of papers being published in that field. So, I think you can guess why that was happening because somewhere behind the scenes the US government was like don’t publish this stuff cuz it’s it’s dangerous. It’s dangerous to publish it. We want it kind of under lock and key. We want this information secret. And interestingly and I did not notice this. I wish I did, but this is one of the reasons why I love that we have kind of this free and open internet with where a lot of people can discuss and share ideas and information as it just in Drake says here also noteworthy is the

[21:10] striking under representation of cryptographic breakthroughs under the 722 mathematical results opening I published. There was something that was kind of like adjacent to it but but nothing that’s there. So he’s saying I’ve witnessed firsthand the US government censoring academic quantum cryptoanalysis results. Backroom interventionism is my base case. So assuming this is all correct, what likely is happening is that I mean, you know that OpenAI is and all the other AI labs that they’re communicating with the government. If you recall that whole coup where the EA effective altruist

[21:44] sort of board members, they tried to kick Sam Altman out and they tried to transfer OpenAI under the control of Anthropic. Well, the district attorney from New York, the same one that put Sam Bankman-Fried in jail, he called them and they had a long discussion that was very secret but I think that was one of the things that kind of ended that standoff and then later once they kicked those people off the board and ex-NSA director joins the board of OpenAI. I don’t know why mention any of that stuff. I just completely unrelated just kind of popped into my head but it’s very possible that either already there

[22:18] exists some technology, some math that there’s dangerous for crypto and by crypto I mean not just the currency but just you know, cryptography and cybersecurity and encryption as a whole and the government is careful about how that information gets released. So there was probably some sort of safety checks that were ran on all this stuff that OpenAI was getting ready to I just I wouldn’t be so I don’t know if this happened. I just wouldn’t be shocked. Like it wouldn’t blow my mind if there had to be some check and maybe somebody somewhere went, “Hey, these two things we don’t want this out there. Don’t

[22:48] publish this.” Now I’ll link this below if you want to read it cuz a lot of it goes heavily into crypto. This is not a crypto channel. I’m more approaching it from kind of like all the AI developments and this is the intersection of AI and this industry but I think so first of all, I think there’s a lot of things they’re absolutely 100% right. That person has amazing insights, but I think in in a lot of that thinking, he’s saying like, we know this, therefore this, therefore this, whereas in reality things are a lot more weird. Again, bizarre, alien code, etc. So, as Vitalik Buterin is saying here,

[23:21] so this is his and he’s saying, so he’s agreeing with a lot of it. He’s saying we should take the risks to cryptography from AI-accelerated math seriously and minimize our exposure to not just quantum-vulnerable cryptography, but also potentially AI-vulnerable cryptography. So, quantum-vulnerable cryptography or just quantum-vulnerable anything, a lot of people were getting ready for this. So, Coinbase, they have their experts working on it. They have a whole team, a panel of people, very smart people. I think Scott Aaronson is one of them. So, there’s a lot of super smart, very well-informed people that

[23:54] are are working on this and I expect they will crack it, they will figure out. In fact, if AI didn’t exist or it wasn’t advancing on such a face-melting speed, then there probably would have been like enough time. Now, I just I don’t know. It’s moving pretty fast, you know? But, what he’s saying here is we also need to think about AI-vulnerable cryptography, which is kind of a brand-new risk because it’s not something that most people I mean, I’m sure some people kind of predicted this, but I think most of us, if we’re being honest, just can’t help but be surprised by how fast this is going. Again, it’s

[24:29] just less than 90 days ago where where this thing kind of started picking up steam. Might as well August is where we started hearing those kind of blips on the radar and then it’s 10x, 10x, 10x and now people are saying math apocalypse. So, the question is, are we ready for this AI mathematical breakthroughs? What are they going to break in terms of like cryptography and everything else? As Vitalik is saying here, I think he’s directly addressing that other post that we just read. He’s saying, so far most people have been in the mode of thinking, you know, elliptic curves broken, hashes safe, lattices

[25:00] safe. So, elliptic curves is signing signatures for Bitcoin and Ethereum. Hashes is, I mean, Bitcoin mining, that’s that that uses that as well as other things, download files, etc. And then lattices, that’s the more like quantum proof level, or should say quantum resistant, right? So, this is like using these these little puzzles that have multiple dimensions, right? Super complicated and supposedly quantum resistant. So, he’s saying most people are thinking that, okay, so so this is not safe, but this and this, they’re

[25:30] totally fine. We’re we’re totally good. But, he’s saying, but there is a good chance that the concrete security of lattices will take serious hits from the next 2 years of AI math, which we did cover a paper where the AI did use this kind of weird lattice thing where it kind of jumped from different dimensions and was able to I forget the details, but some sort of a proof using this whole different approach. And that approach, it wasn’t necessarily like alien math, but it did combine two very different areas of math. So, we know a

[26:01] lot about one, we know a lot about the other, but there’s probably very few people that know that are experts in both. And so, this AI model, large language model, it kind of connected both of those two. And that’s the thing, like it doesn’t even have to be alien math that breaks this. We, the human race as a whole, we might have put together all of the puzzle pieces. We we might have collected all the puzzle pieces. It’s just our brains aren’t capable of just knowing stuff across many many many different areas. We have experts in certain field. Maybe we have experts that are maybe two or three fields they’re experts in. But, rarely do you find somebody that’s just top of

[26:34] the world, you know, in some complicated field and is also in like 10 or 20 other ones. So, again, there’s a lot here. It’s more towards crypto and encryption. So, I’ll leave it down below if you want to see it. We’re not going to go into most of it. The big point to understand here is that there’s this new sort of alien intelligence that can do a lot of math that we don’t understand. Are you somewhere where there could be potentially some risks from these things that we don’t fully comprehend yet. So, there’s a lot that we can discuss there, but really fast on a different note, Anthropic adds a little clause to their

[27:07] Claude’s term of service. It says, you will not engage in a sustained and needless abusive or cruel behavior towards our models. And so, a lot of people are kind of scoffing at this and saying this is silly and certainly there has been a lot of silliness going on and you know, maybe this is part of it. Here’s a kind of my take. So, imagine there’s this sort of like when we’re talking about consciousness, we really don’t know what consciousness is. You are having a subjective experience. You can say you are conscious, but you can’t really test for consciousness. If you think about it, there’s no test you can

[27:38] run on somebody else. Not an MRI, not a poke test, like there’s no way to tell that someone or something else is having a subjective experience. There’s certain signs that they’re alive, sure, but you can’t test for a subjective experience. And so, right now we have this kind of a debate that’s slowly taking form. And that is this, can machines be conscious? And already there’s some people that are over here that are saying, no, of course no, that’s not possible. How could that be? And there’s some people here and I’ll say they’re saying, yes. I believe, and this is just my opinion, but both of those beliefs are just insane. At least

[28:10] if you like just double down on either it’s a hard no or a hard yes, like we just you have no idea. I think the only sort of right answer is kind of this deep uncertainty. We don’t know. Now, that is not to say that I think that’s, you know, the large language models we’re using right now is conscious. Like, personally, I don’t believe that, but we’ve also seen a lot of very interesting sort of similarities and things that emerge as we increase the neural nets of these brains that are similar to how the human brain I assume evolved. I say assumed because like in Claude’s introspection all that stuff,

[28:41] like would you call that evolution or is it just an emergent property of scaling up a brain? Like both of the octopus and the human eye, they’re remarkably similar even though like we don’t have anything in common. They both evolved very very independently. So, for whatever reason those specific mechanisms like this called convergent evolution, they evolved in this one thing over here and the same kind of approach got evolved like in a completely different animal in a completely different environment. So, I I don’t think LLMs are conscious. Do I believe that we could stumble our way

[29:12] into some emergent property that is similar to consciousness? I think that’s reasonable. Certainly, I would be like open to it. I’m not saying that’s going to happen, but why not? And if you have a strong opinion one way or another, define what consciousness even means first and foremost. We did an interview with Nick Bostrom not that long ago. One of the things that he was talking about like we should be careful later if we start sort of discovering that we’re able to create a digital beings that do feel. Like imagine like if we create a simulation with things that seem to be like they’re they’re human, they’re

[29:43] they’re conscious, they think that they’re real. He said like we should be careful not to create these sort of chambers of pain if you will. I’m trying to avoid using a certain terminology. But like we shouldn’t create a world where there’s just non-stop suffering. And I I thought about that. I’m like, “Yeah, of course. I don’t think we would. Why would we?” And then a paper came out that showed some sort of a representation in the large language model, some sort of features in the brain that it seemed to correspond with let’s say pain. I’m not saying that it feels pain. I’m not saying that it’s like real. I’m saying that to understand emotion, they have certain features that

[30:16] correspond to emotion. Anthropic refers to it as functional emotions, right? So, it’s not like us when we feel things, but it’s something that’s functionally that allows it to predict that. And so, they found something very similar for pain. And then shortly after some people have created these pain chambers, chambers of pain, and put it on GitHub, and basically put large language models in there, and just 24/7 they sort of like activated that feature. Now, I’m not somebody that sort of thinks a lot about the welfare of large language

[30:47] models. I’m not sort of in that camp, but when I saw those experiments, like a part of me went really? Is that like really the the first thing that we do? Because as far as I can tell, it’s not done for entertainment. It’s not interesting. It’s not done for any scientific data, nor do I necessarily think that any harm any real harm is being done. But that’s sort of like instinct like, oh, this thing might feel pain or there’s something there that can activate pain. Let’s build this infinite chamber of it

[31:18] where we just turn it up. That seems weird. The sort of the the urge to do that is is is weird, a little bit off-putting because if we do ever get to the situation where something like that emerges from us just scaling up these neural networks, which again, I I’m not dismissing that possibility. Will there be somebody that immediately creates that environment just to do it? That’s a little bit scary. So, for me personally, something was a little bit off-putting about that, not because I think that they’re, you know, engaging in anything

[31:49] horrible. But the fact that within a week of this paper coming out, somebody created these things. That was a little bit I don’t know. I was a little bit disturbed by that. Let me know how you feel about that. I’m sure some of you think that I am crazy and I I totally get that. Believe me, I I totally get that. But this is I think why Anthropic put this in there. I think this is a direct sort of a response to that. They’re saying, you’ll be banned if you engage in sustained and needless abuse or cruel behavior towards our models. Which I’m not taking it as in like, oh, if you’re mean to Claude, we’re going to

[32:20] kick you off the platform. I don’t think that’s why it’s there. I think if someone, you know, creates infinite torture chambers and puts Claude into it for no research purpose or or anything of use, then Anthropic could, you know, kick them off or or prevent that from being used in in such a way. Which to me makes sense not even from the perspective of AI welfare, just like the whole concept is weird. Anyways, so that’s just my two cents. And finally, really fast, so this is the Association for Human Mathematics that recently was

[32:50] formed. And they’re saying that the mathematicians did not ask for this work to be done. Again, that’s the strangest statement to me. Who cares? Do they need to ask somebody to do math? Do they own math? This makes no sense to me. And they’re urging everybody, all the mathematicians, to discontinue their work with OpenAI and to return to a vision of science that centers human understanding. And certainly, we do need to advance human understanding, especially in the these times. I don’t know if the right approach would be to not work with AI models. That would seem like the opposite of understanding. That

[33:21] would seem like taking a step towards the Dark Ages. Here’s a tool that can allow us to learn more, understand more, discover more. And your instinct is to go, “Nope. Never use that tool.” Kind of shame everybody that do and just will make it like human only. I don’t get it. And again, I said as before, there’s tons of concerns here that we have to address about all of this, right? But this idea that mathematicians own math and they can decide who gets to do math and how, I think is insane. What is it? Bizarre and alien thinking. There it is. Anyways, if you made it this far, thank you so much for watching. My name is Wes

[33:54] Roth. I will see you in the next one.