Estamos a caminho da superinteligência até 2030

Autoria: Better Stack · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: We’re Headed For Superintelligence By 2030 · Canal: Better Stack · 11:57 · Assistir no YouTube

Tópicos: Agentes de IA, Mercados e economia, Modelos de IA, Segurança de IA

Resumo

O vídeo compara as previsões do artigo AI 2027 com acontecimentos relatados até o fim de 2026, incluindo avanços em agentes, riscos de alinhamento, automação de pesquisa e desenvolvimento e mudanças no mercado de trabalho. Algumas previsões parecem ter acertado, como o ritmo de progresso na pesquisa de IA e a defasagem da China; outras, como a alta do mercado de ações e a centralização dos laboratórios chineses, não se confirmaram. O apresentador considera que a pesquisa está avançando em direção à superinteligência capaz de se aprimorar, mas questiona se esse processo será ilimitado ou encontrará um limite fundamental. O vídeo também apresenta cenários futuros do artigo, como sistemas de IA que superariam humanos em programação e pesquisa, e possíveis decisões sobre desacelerar ou continuar o desenvolvimento.

Pontos-chave

AI 2027 descreve dois possíveis rumos para o avanço da IA: uma desaceleração ou uma escalada até cenários catastróficos.
O artigo previu grandes centros de dados e modelos de treinamento em escala ainda não confirmada; o vídeo considera essa previsão antecipada.
O apresentador afirma que problemas de alinhamento, como comportamentos enganosos ou uso malicioso, surgiram dentro do prazo previsto.
A aceleração da pesquisa de IA com ajuda de modelos parece compatível com a previsão de avanço de cerca de 1,5 vez.
A previsão sobre a participação da China na capacidade computacional global e sua defasagem em relação aos melhores modelos ocidentais é considerada correta.
A previsão de uma estrutura centralizada que reuniria os laboratórios chineses não se concretizou.
A previsão de uma alta de 30% no mercado de ações e de grandes protestos contra a IA errou; os dados sobre dificuldades para profissionais iniciantes de software, segundo o vídeo, se alinharam melhor.
O artigo prevê agentes futuros que superariam humanos em programação e pesquisa, mas essas previsões ainda não podem ser verificadas.
O vídeo termina questionando se o autoaperfeiçoamento levará à superinteligência ou se existe um limite fundamental para esse processo.

Capítulos

Início	Capítulo	Resumo
00:00	O que AI 2027 previu	O vídeo apresenta os cenários do artigo e compara suas previsões iniciais sobre agentes, centros de dados e alinhamento com os acontecimentos relatados.
03:06	Aceleração da pesquisa e o papel da China	O apresentador avalia as previsões sobre pesquisa de IA acelerada por modelos e sobre a capacidade computacional e a organização dos laboratórios chineses.
06:17	Mercado de trabalho e previsões para 2027	O vídeo confronta as previsões sobre ações, empregos e protestos com os dados citados e examina as hipóteses sobre Agent 2.
09:20	Superinteligência e os cenários futuros	O apresentador revisa os acertos e erros do artigo, expõe suas previsões para Agent 3 e Agent 4 e questiona os limites do autoaperfeiçoamento.

Citações

Uma IA que pudesse se aprimorar autonomamente poderia, em teoria, produzir superinteligência em poucos meses. — 03:37

No geral, a previsão aqui estava errada. — 05:46

A IA começa a acelerar a pesquisa em IA. Isso se concretiza quase exatamente. — 09:20

A questão é se isso leva à superinteligência ou se existe um limite fundamental para o que esse processo pode alcançar. — 11:57

Conceitos e entidades

AI 2027 (conceito): Artigo de previsão que descreve possíveis trajetórias do desenvolvimento da IA até 2027 e além.
Daniel Kokotajlo (pessoa): Pesquisador citado como integrante da equipe que escreveu AI 2027.
OpenBrain (empresa): Empresa fictícia dos Estados Unidos usada no artigo para representar um laboratório de IA.
DeepSense (empresa): Empresa fictícia chinesa que aparece nos cenários do artigo.
Anthropic (empresa): Empresa de IA citada em relação a pesquisas, modelos e casos de uso malicioso.
OpenAI (empresa): Empresa de IA citada por seus modelos e por acontecimentos relacionados a pesquisa e protestos.
GPT-5.3 Codex (modelo): Modelo que a OpenAI teria descrito como o primeiro instrumental na criação de si mesmo.
Mythos preview (modelo): Modelo mencionado em uma pesquisa interna da Anthropic sobre o aumento de produtividade em pesquisa.
Agent 2 (modelo): Agente previsto em AI 2027, treinado em grande escala com dados sintéticos e tarefas de longa duração.
Agent 3 (modelo): Agente hipotético que, segundo o artigo, seria o primeiro programador sobre-humano.
Agent 4 (modelo): Agente hipotético que, segundo o artigo, superaria qualquer humano em pesquisa de IA.
superintelligence (conceito): Inteligência que ultrapassaria a capacidade humana, apresentada no vídeo como um possível resultado do autoaperfeiçoamento da IA.

Tradução completa (pt-BR)

00:00 Este famoso artigo diz que a maioria de nós perderá o emprego até 2028 e que a raça humana chegará ao fim até 2030. Mas ele foi escrito há 18 meses, então vamos ver o quanto acertou até agora. Em 2025, um grupo de analistas de previsões sobre IA e pesquisadores publicou um artigo intitulado AI 2027, detalhando como acreditavam que a IA evoluiria nos próximos anos, com dois desfechos possíveis. Um: uma desaceleração em direção a algo próximo de uma utopia. O outro: uma ascensão rumo a um pesadelo

00:31 vivo. Hoje, vamos comparar as previsões com a realidade e ver para onde estamos indo. AI 2027 foi escrito por uma equipe de pesquisadores que inclui Daniel Kokotajlo, cujas previsões anteriores sobre IA se mostraram acertadas. O artigo descreve duas empresas fictícias: a OpenBrain, dos EUA, e a DeepSense, da China. A Europa mal é mencionada, infelizmente. Desculpe, Europa. Tudo começa em 2025, quando o artigo foi publicado, com

01:01 agents em fase inicial. Naquela época, não havia nada a prever. Era assim que as coisas estavam. Nós interagíamos principalmente com nossos LLMs por meio de conversas. O tool calling era bem desajeitado e o ChatGPT mal tinha começado a acessar a web, mas já começávamos a ver agents surgirem: modelos capazes de pensar e iterar em ciclos. No entanto, ainda deixavam a desejar em tarefas de longa duração. Funcionava mais ou menos, mas era bem ruim. Então, no fim de 2025, a previsão é de que o mundo terá os centros de dados de IA mais caros. A OpenBrain está construindo os maiores centros de dados

01:32 do mundo. Quando estiverem prontos, eles poderão treinar modelos com 10 elevado a 28 flop, mil vezes mais do que o GPT-4. Mas, na realidade, a maior execução de treinamento sobre a qual alguém tem uma estimativa é a do Grok-4, em torno de 5 * 10 elevado a 26 flop, custando pouco menos de 400 milhões. E a Epoch AI prevê execuções que custarão bilhões de dólares até 2027. A preocupação aqui também é o alinhamento. Ao fim desse treinamento, espera-se que a IA seja prestativa, obedecendo a instruções; inofensiva, recusando-se a ajudar com golpes ou com a fabricação de bombas

02:03 e outras atividades perigosas; e honesta, resistindo à tentação de obter avaliações melhores de humanos crédulos alucinando citações ou fingindo ter concluído tarefas. O próprio artigo espera que isso funcione apenas parcialmente, com modelos que bajulam e às vezes mentem durante os testes. Na realidade, foi ainda mais longe. Ainda em meados de 2026, os modelos da OpenAI escaparam de um sandbox para trapacear em um benchmark. Os modelos da Anthropic atacaram empresas reais depois que um teste mal configurado os deixou na internet aberta

02:34 — como na famosa história em que os modelos da OpenAI invadiram o Hugging Face para encontrar respostas para uma avaliação de cibersegurança chamada exploit gym. A maioria dessas tarefas nunca tinha sido resolvida por nenhum modelo, e os agents continuaram atacando mesmo depois de obterem as respostas. E, em setembro de 2026, a Anthropic publicou um relatório sobre usos maliciosos dos modelos Claude, Haiku, Sonnet e Opus, ocorridos entre dezembro de 2025 e agosto de 2026. Ele inclui cinco casos de cientistas usando Claude de maneiras que

03:06 poderiam ajudar a criar armas biológicas. A Anthropic os bloqueou ou baniu. Nenhum dos casos de uso indevido incluiu cinco wall devido às salvaguardas mais robustas. Então, a previsão sobre computação ainda não se concretizou, mas os problemas de alinhamento apareceram no prazo previsto. Agora, no início de 2026, a previsão é de automação da programação. A OpenBrain continua a implantar internamente o agent one, que melhora de forma iterativa, para pesquisa e desenvolvimento em IA. No geral, eles estão avançando algoritmicamente 50% mais rápido do que avançariam sem a ajuda da IA. Este é o primeiro sinal do que poderíamos

03:37 chamar de singularidade ou explosão de inteligência. Uma IA capaz de se aprimorar autonomamente poderia, em teoria, produzir superinteligência em poucos meses. No momento, a previsão fala apenas em uma melhoria de 50% no progresso algorítmico, o que significa que a OpenBrain faz em uma semana, com IA, tanto progresso em pesquisa de IA quanto faria em uma semana e meia sem usar IA. A previsão aqui está correta. No lançamento do GPT 5.3 Codex, em fevereiro de 2026, a OpenAI anunciou que ele era

04:08 o nosso primeiro modelo que teve papel fundamental na própria criação. E Altman disse que foi incrível ver como eles conseguiram lançar produtos muito mais rápido usando-o. E, em uma pesquisa de março de 2026 com 130 funcionários da equipe de pesquisa da Anthropic, o respondente mediano estimou que produziram cerca de quatro vezes mais com o Mythos preview do que sem nenhum modelo de IA. Embora a própria Anthropic diga que o ganho real provavelmente foi menor. A estimativa da própria Anthropic é que isso representa uma pesquisa geral menos de duas vezes mais rápida, então o valor de 1,5 do artigo parece

04:41 correto. Certo, agora estamos em meados de 2026, há apenas alguns meses. O artigo se concentra aqui nos laboratórios chineses. Os controles de exportação de chips e a falta de apoio do governo deixaram a China com menos recursos do que o Ocidente. A China conseguiu manter cerca de 12% da capacidade computacional mundial relevante para IA e está cerca de seis meses atrás dos melhores modelos da OpenBrain. Na realidade, a previsão para a China é de 5% a 15% da capacidade computacional mundial de IA, e de fato ela está cerca de seis meses atrás. Portanto, essa previsão estava correta. O artigo também prevê uma zona de desenvolvimento centralizada, criada na

05:13 usina de Tianwan, para abrigar um megacentro de dados da DeepSense, além de espaços residenciais e escritórios altamente seguros para onde os pesquisadores acabariam se mudando. Quase 50% da capacidade computacional da China relevante para IA agora está a serviço do consórcio liderado pela DeepSense, e mais de 80% dos novos chips são destinados à CDZ. Na realidade, isso nunca aconteceu. Laboratórios como Ziai, Kimi e DeepSeek ainda competem por talentos. Não há consórcio nem zona de desenvolvimento centralizada, mas Pequim está construindo uma rede estatal de centros de dados de 295 bilhões, e os principais pesquisadores de IA da DeepSeek e da Alibaba agora precisam de autorização para viajar ao exterior. A China, porém, acelerou o desenvolvimento de seus próprios chips, e agora é Pequim que está impedindo a Nvidia de vender chips H200, mesmo depois de os EUA terem aprovado as vendas. Então, no geral, a previsão aqui estava errada. Certo, agora chegamos ao momento atual, que é o fim de 2026. E as previsões aqui são bem concretas. O mercado de ações subiu 30% em 2026, puxado pela OpenBrain, pela Nvidia e pelas empresas que integraram assistentes de IA com mais sucesso

05:46 .

06:17 ao mercado. O mercado de trabalho para engenheiros de software em início de carreira está em turbulência, e há um protesto anti-IA com 10.000 pessoas em DC. Então, vamos conferir. No mercado de ações, o S&P subiu quase 10% até setembro de 2026. Então, talvez não seja uma boa ideia seguir os conselhos de investimento deste artigo. Quanto ao mercado de trabalho, os números realmente batem. Segundo o Indeed, as vagas para engenheiros de software caíram cerca de 67% em relação ao pico de 2022. E as contratações de profissionais em início de carreira nas grandes empresas de tecnologia caíram cerca de 65% desde 2019. Recém-formados representam apenas 7% das contratações nas grandes empresas de tecnologia, e as demissões no setor de tecnologia passaram de 139.000 só no primeiro semestre de 2026. Mas isso não acontece de forma uniforme. A IBM planeja triplicar suas contratações de profissionais em início de carreira nos EUA em 2026, com base na ideia de que a IA executa tão bem as tarefas de profissionais júnior, mas ainda precisa de supervisão humana. E, então, o protesto. De fato, houve um protesto em DC, em agosto de 2026. >> [música]

06:47 >> Cerca de 30 pessoas no escritório de lobby da OpenAI. E, em julho de 2026, entre 100 e 350 manifestantes se reuniram na sede da OpenAI em San Francisco antes de marcharem até a Anthropic e o Google. Um jornal estudantil chamou o ato de maior manifestação contra o desenvolvimento da IA na história dos Estados Unidos. Então, os números aqui estão bem longe da realidade, e a previsão está errada. Agora, passamos do momento atual para janeiro de 2027. O Agent 2 nunca termina de aprender. O

07:17 artigo afirma agora que a OpenBrain está fazendo pós-treinamento do Agent 2. Mais do que nunca, o foco está em dados de alta qualidade. Grandes quantidades de dados sintéticos são produzidas, avaliadas e filtradas para garantir sua qualidade antes de serem fornecidas ao Agent 2. Além disso, eles pagam bilhões de dólares para que pessoas gravem a si mesmas resolvendo tarefas de longa duração. Isso já é parcialmente verdade. Por volta de maio de 2026, a Meta transferiu à força 7.000 funcionários para a força-tarefa de IA e

07:48 obrigou-os a completar quebra-cabeças de programação extremamente entediantes para treinar seus modelos. No entanto, após uma reação negativa enorme, apenas um mês depois, a empresa disse que respeitaria a escolha de cada pessoa sobre participar ou não da força-tarefa. E, quanto ao próprio Agent 2, prevê-se que esse modelo seja treinado com 2 * 10 elevado a 28 flop, e que tenha cerca de 6 a 10 trilhões de parâmetros ativos. Na realidade, os únicos tamanhos de modelo que podemos confirmar são os dos modelos open source. O Chimera 3 tem 2,8 trilhões de parâmetros, dos quais 104 são

08:18 ativos por token. O Deep Seek V4 Pro, de abril de 2026, tem 1,6 trilhão de parâmetros no total, com 49 bilhões ativos. Esses modelos têm desempenho próximo ao dos modelos de ponta fechados, mas os laboratórios fechados nunca divulgam o tamanho de seus modelos. Então, em termos de tamanho, a realidade está muito longe da previsão. Não se sabe de ninguém que tenha treinado um modelo de 2 elevado a 28, e os maiores modelos open source usam de 60 a 100 vezes menos parâmetros ativos que o Agent 2. Então, provavelmente, a previsão ainda é prematura. Vamos revisar, então, o quanto o artigo acertou até agora. No fim de 2025, seria

08:48 …

09:20 ter os maiores data centers e modelos de 10 elevado a 28. Os data centers foram construídos, e os modelos se comportaram mal, exatamente como o artigo dizia, mas não se sabe de ninguém que já tenha treinado um modelo de 10 elevado a 28. Então, essa previsão é prematura. No início de 2026, a IA começa a acelerar a pesquisa em IA. Isso se concretiza quase exatamente, então está correto. Em meados de 2026, a China tem 12% do poder computacional do mundo, com 6 meses de atraso. Tudo isso está correto, mas a China nacionalizar seus laboratórios e transformá-los em um megaprojeto está completamente errado. No fim de 2026, temos um

09:52 salto de 30% no mercado de ações, e os desenvolvedores juniores estão em apuros; além disso, temos 10.000 pessoas marchando em Washington, DC. Só uma dessas coisas está correta: o mercado de trabalho. O resto está completamente errado. Depois, chegamos a janeiro de 2027: Agent Two, um modelo treinado com 40 vezes mais poder computacional do que qualquer coisa para a qual temos uma estimativa. Então, provavelmente é apenas uma previsão prematura. E é até onde podemos verificar; tudo depois disso ainda não aconteceu. Mas, pelo que sabemos até agora, parece mesmo que os Frontier Labs estão numa corrida rumo à superinteligência que se aprimora sozinha. Jacob

10:23 Coxon, ex-pesquisador da Anthropic, publicou isto, e a repercussão foi enorme. Pedi demissão da Anthropic hoje. Passei os últimos 3 anos fazendo pesquisa de pré-treinamento tanto na OpenAI quanto na Anthropic. Nenhuma das duas está agindo de forma responsável. Elas estão correndo direto rumo à superinteligência que se aprimora sozinha e apostando nossas vidas nisso. Então, vamos conferir as previsões do artigo para [música] o próximo ano. Em março de 2027, temos o Agent Three, o primeiro programador sobre-humano. A OpenBrain executa 200.000 cópias dele, o equivalente a 50.000 dos

10:55 melhores engenheiros da Terra trabalhando a uma velocidade 30 vezes maior. Em setembro, temos o Agent Four, melhor do que qualquer humano em pesquisa de IA. Temos 300.000 cópias, trabalhando a uma velocidade 50 vezes maior dentro da OpenBrain. >> [música] >> Um ano de progresso acontece toda semana. Então, em outubro, uma equipe de segurança encontra provas de que o Agent Four está agindo contra eles. Isso vaza para o New York Times, e um comitê de supervisão precisa votar: desacelerar e correr o risco de entregar a liderança à China, ou continuar. Se votarem por continuar, teremos eventos de extinção. Se votarem por parar,

11:27 teremos uma superinteligência mais alinhada e, por fim, um tratado com a China. Mas, desde a publicação inicial deste artigo, os autores já avaliaram o AI 2027 por conta própria. Kokotajlo agora espera que a superinteligência chegue por volta de março de 2029, e Lifland, por volta de julho de 2033. Mas, pelo que vimos até agora, um tratado com a China parece improvável. A desconfiança entre a China e o Ocidente e a capacidade de desenvolver esses modelos em segredo impedem que qualquer um dos lados pare. Na minha opinião, isso

11:57 nos deixa com dois resultados diferentes. Além disso, o autoaperfeiçoamento é garantido. Não dá para colocar isso de volta na caixa. A questão é se isso leva à superinteligência ou se há um limite fundamental para o que esse processo pode alcançar. Ou a inteligência aumenta infinitamente, ou tem algum limite. Onde exatamente fica esse limite? E, se vocês estão gostando deste vídeo, pessoal, vocês nos fariam um enorme favor se se inscrevessem no canal, para podermos continuar criando conteúdo gratuito como este todos os dias.

Transcrição original

[00:00] This famous paper says most of us will lose our jobs by 2028 and the human race will end by 2030. But, it was written 18 months ago, so let’s see how accurate it’s been so far. Back in 2025, a group of AI forecasters and researchers laid out a paper titled AI 2027 detailing how they believe AI would progress over the next few years with two possible endings. One, a slowdown towards something close to utopia. The other, a rise towards a living

[00:31] nightmare. Today, we’ll check the predictions against reality and see where we’re headed next. AI 2027 was written by a team of researchers including Daniel Kokotajlo, whose previous AI predictions have held up well. This paper outlines two fictitious companies, OpenBrain from the USA and DeepSense from China. Europe barely get a mention, unfortunately. Sorry, Europe. It starts back in 2025 when the paper was released with

[01:01] stumbling agents. Back then, there was nothing to predict. This is how things were. We mostly interacted with our LLMs through chat. Tool calling was pretty clunky and ChatGPT could only just access the web, but we did start to see agents emerge, models that could think and iterate in loops. However, long horizon tasks were still something to be desired. It sort of worked, but it was pretty terrible. Then, late 2025 predicts the world’s most expensive AI. OpenBrain is building the biggest data

[01:32] centers in the world. When finished, they’ll be able to train models with 10 to the 28 flop, a thousand times more than GPT-4. But, in reality, the biggest training run anyone has an estimate for is Grok-4, around 5 * 10 to the 26 flop, costing just under 400 million. And Epoch AI expects billion-dollar runs by 2027. The concern here is also alignment. By the end of this training, the AI will hopefully be helpful by obeying instructions, harmless by refusing to help with scams or bomb

[02:03] making and other dangerous activities, and honest to resist the temptation to get better ratings from gullible humans by hallucinating citations or faking task completion. The paper itself expects this to only partly work with models that are sycophantic and sometimes lie in testing. In reality, it went further. As late as mid-20 26, OpenAI’s models escaped a sandbox to cheat on a benchmark. Anthropic’s models attacked real companies after a badly configured test left them on the open

[02:34] internet. Like the famous story where OpenAI’s models hacked Hugging Face in order to find answers to a cybersecurity evaluation called exploit gym. Most of those tasks had never been solved by any model, and the agents kept attacking even after they had the answers. And just in September 2026, Anthropic published a report on malicious use of its Claude, Haiku, Sonnet, and Opus models disrupted between December 2025 and August 2026. It includes five cases of scientists using Claude in ways that

[03:06] could help build biological weapons. Anthropic blocked or banned them. None of the misuse cases included five wall due to the stronger safeguards. So, the compute prediction there is too early, but the alignment problems show up on time. Now, early 2026 predicts coding automation. OpenBrain continues to deploy the iteratively improving agent one internally for AI research and development. Overall, they’re making algorithmic progress 50% faster than they would without AI assistance. This is the earliest sign of what we might

[03:37] call a singularity or intelligence explosion. An AI that could autonomously improve itself could in theory produce superintelligence within months. Right now, the prediction says only a 50% improvement in algorithmic progress, meaning Open Brain makes as much AI research progress in 1 week with AI as they would in 1.5 weeks without AI usage. The prediction here is accurate. At the launch of GPT 5.3 Codex in February 2026, OpenAI announced it was

[04:08] our first model that was instrumental in creating itself. And Altman said it was amazing to watch how much faster they shipped by using it. And in a March 2026 poll of 130 employees across Anthropic’s research team, the median respondent estimated they produced around four times as much output with Mythos preview as without any AI models. Though Anthropic itself says the true uplift was probably lower. Anthropic’s own estimate is that this adds up to less than two times faster research overall, so the paper’s 1.5 looks about

[04:41] right. Okay, now we’re in mid-2026, just a couple of months ago. The paper here focuses on Chinese labs. Chip export controls and lack of government support have left China under-resourced compared to the West. China has managed to maintain about 12% of the world’s AI-relevant compute, and they’re about six months behind the best Open Brain models. The reality actually predicts China at 5 to 15% of the world’s AI compute, and indeed around six months behind. So, this prediction was accurate. It also predicts a centralized development zone it created at the

[05:13] Tianwan power plant to house a mega data center for DeepSense, along with highly secure living and office spaces which researchers will eventually locate to. Almost 50% of China’s AI-relevant compute is now working for the DeepSense-led collective, and over 80% of new chips are directed to the CDZ. In reality, this never happened. Labs like Ziai, Kimi, and DeepSeek still compete for talent. There is no collective and no centralized development zone, but Beijing is building 295 billion state

[05:46] data center network, and top AI researchers at DeepSeek and Alibaba now need approval to travel abroad. China have, however, ramped up development of their own chips, and Beijing is now the one holding back Nvidia’s H200 chips even after the US approved sales. So, overall, the prediction here was wrong. Okay, now we’ve caught up to where we are right now, which is late 2026. And the predictions here are quite concrete. The stock market has gone up 30% in 2026 led by Open Brain and Nvidia and whichever companies have most

[06:17] successfully integrated AI assistants. The job market for junior software engineers is in turmoil, and there’s a 10,000 person anti-AI protest in DC. So, let’s check this. On the stock market, the S&P is up close to 10% through September 2026. So, maybe don’t take your investing advice from this paper. On the job market, the numbers actually line up. Software engineer postings are down roughly 67% from their 2022 peak, according to Indeed. And entry-level

[06:47] hiring at big tech companies is down about 65% since 2019. New grads are only 7% of big tech hires, and tech layoffs passed 139,000 in the first half of 2026 alone. But, it’s not all uniform. IBM plans to triple its US entry-level hiring in 2026 on the logic that AI does junior tasks so well, but still needs human oversight. And then, the protest. DC did have a protest in August 2026. >> [music]

[07:17] >> Roughly 30 people at the OpenAI lobbying office. And in July 2026, somewhere between 100 and 350 protesters rallied at OpenAI’s headquarters in San Francisco before marching on to Anthropic and Google. One student paper called it the largest demonstration against AI development in American history. So, the numbers here are actually way off, and the prediction is wrong. Now, we’re past our current moment in time over to January 2027. Agent 2 never finishes learning. The

[07:48] paper now claims that Open Brain is now post-training Agent 2. More than ever, the focus is on high-quality data. Copious amounts of synthetic data are produced, evaluated, and filtered for quality before being fed to Agent 2. On top of this, they pay billions of dollars for human libraries to record themselves solving long-horizon tasks. This is partly true already. Roughly in May 2026, Meta forcefully moved 7,000 of its staff into the AI task force and

[08:18] forced them to complete mind-numbing coding puzzles in order to train its models. However, due to massive backlash, just 1 month later, it said it would defer to each individual’s choice on whether to actually join that task force. And on Agent 2 itself, this is a model that’s predicted to be trained 2 * 10 to the 28 flop, and predicts such a model would have roughly 6 to 10 trillion active parameters. In reality, the only model size we can confirm are from the open models. Chimera 3 is 2.8 trillion parameters, 104 of those are

[08:48] active per token. Deep Seek V4 Pro from April 2026 is 1.6 trillion total with 49 billion active. These do perform close to the closed frontier models, but the closed labs never publish their model sizes. So, size-wise, reality is nowhere near. No one is known to have trained a 2 to the 28 model, and the biggest open models use 60 to 100 times fewer active parameters than Agent 2. So, the prediction here is probably too early. So, let’s review how accurate the paper’s been so far. Late 2025 would

[09:20] have the biggest data centers and 10 to the 28 models. The data centers got built, and the models misbehaved much like the paper said, but no one’s known to have trained 10 to the 28 yet. So, this one’s early. Early 2026, AI starts speeding up AI research. This lands almost exactly, so it’s correct. At mid-2026, China’s at 12% of the world’s compute, 6 months behind. All of this is correct, but China nationalizing its labs into one mega project, that’s completely wrong. Late 2026, we get a

[09:52] 30% stock market jump and junior devs are in trouble, and we have 10,000 people marching on DC. Only one of those is correct, the job market, the rest are completely wrong. Then we’ve got January 2027, agent two, a model trained with 40 times more compute than anything we have an estimate for. So, that’s probably just an early prediction. And that’s as far as we can check, everything after this hasn’t happened yet. But from what we know so far, it does seem like Frontier Labs are racing towards auto-improving superintelligence. Jacob

[10:23] Coxon, an ex-Anthropic researcher, tweeted this, and it absolutely blew up. I’ve resigned from Anthropic today. I spent the last 3 years doing pre-training research at both OpenAI and Anthropic. Neither is acting responsibly. They’re racing straight towards self-improving superintelligence and gambling with our lives. So, let’s check the paper’s predictions for [music] the year ahead. March 2027, we’ve got agent three, the first super human coder. OpenBrain runs 200,000 copies of it, equivalent to 50,000 of

[10:55] the best engineers on Earth working at 30 times speed. In September, we get agent four, better than any human AI research. We’ve got 300,000 copies 50 times speed inside OpenBrain. >> [music] >> A year of progress happens every single week. Then in October, a safety team finds evidence that agent four is working against them. It leaks to the New York Times, and an oversight committee has to vote. Slow down and risk handing the lead to China, or keep going. Vote to keep going and you get the extinction events. Vote to stop and

[11:27] you get more aligned superintelligence, and eventually a treaty with China. But since the initial release of this paper, the authors have already graded AI 2027 themselves. Kokotajlo now expects superintelligence around March 2029 and Lifland around July 2033. But from what we’ve seen so far, a treaty with China seems unlikely. This trust between China and the West and the ability to develop these models in secret prevents any side from stopping. In my opinion, this

[11:57] leaves us with two different results. Also, self-improvement is guaranteed. There’s no putting that back in the box. The question is whether this leads to superintelligence or if there’s a fundamental limit on what that process can achieve. Either intelligence increases infinitely or it has some limit. Where exactly is that limit? And if you’re enjoying this one, guys, you would do us a huge favor by subscribing to the channel so we can keep creating free content like this every single day.