Sam Altman: RSI, consciência de IA, novo hardware da OpenAI, computação e mais!

Ver no idioma original →

Autoria: Matthew Berman · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Sam Altman: RSI, AI Consciousness, OpenAI’s New Hardware, Compute, and more! · Canal: Matthew Berman · 44:58 · Assistir no YouTube

Tópicos: Agentes de IA, Governança e regulação de IA, Infraestrutura e hardware de IA, Modelos de IA, Saúde e ciência

Resumo

Sam Altman discute como a IA pode acelerar descobertas científicas e ajudar a criar novos tratamentos, além das mudanças que isso pode trazer para profissões como programação e matemática. Ele fala sobre assistentes pessoais de IA, a necessidade crescente de compute e hardware feito para experiências mais contextuais. Também aborda consciência e personalidade de modelos, defendendo que a tecnologia deve servir às pessoas e que decisões importantes sobre o futuro devem permanecer sob controle humano. Por fim, compartilha sua visão de uma nova Renascença, com mais autonomia, criatividade e qualidade de vida.

Pontos-chave

• Altman acredita que a IA já está começando a produzir conhecimento novo e que poderá contribuir para avanços em biologia, materiais e energia.
• Ele espera que, nos próximos anos, surja um candidato a tratamento ou cura para uma doença importante, embora testes e aprovação ainda levem tempo.
• A IA está mudando o trabalho de programadores e matemáticos, mas também pode criar novas formas de contribuição e demanda.
• Altman diz que assistentes pessoais já podem economizar tempo e ajudar a identificar assuntos importantes, mas precisam de melhores produtos, mais compute e possivelmente novo hardware.
• Ele espera que a demanda por compute continue crescendo à medida que modelos mais capazes se tornem mais baratos.
• Altman considera que os modelos atuais provavelmente não são conscientes, mas ressalta que não existe uma resposta científica conclusiva.
• Ele defende que a IA não deve ser tratada como pessoa nem substituir os seres humanos nas decisões sobre o futuro.
• Na opinião de Altman, bons modelos devem poder contestar o usuário quando tiverem alta convicção, em vez de apenas concordar.
• A OpenAI está investindo em chips, infraestrutura e hardware de consumo porque Altman acredita que a IA precisa de novos formatos de interação.
• Altman espera que a sociedade busque uma nova Renascença, com mais liberdade, criatividade e autonomia, em vez de repetir os custos sociais da Revolução Industrial.

Capítulos

Início	Capítulo	Resumo
00:00	Abertura e descobertas científicas	Altman comenta o potencial da IA para produzir conhecimento novo e acelerar descobertas em áreas como biologia, materiais e energia.
02:04	Tratamentos, descobertas e medicina	Ele estima que um candidato a tratamento ou cura para uma doença importante possa surgir nos próximos anos, mas ressalta a importância dos testes.
03:08	IA, matemática e mudanças no trabalho	A conversa compara as mudanças trazidas pela IA à programação e à matemática, incluindo a possível transformação do trabalho dos profissionais dessas áreas.
07:46	O valor do trabalho e da habilidade	Altman reflete sobre o que se perde quando a IA assume tarefas difíceis e sobre como as pessoas podem encontrar novas formas de realização.
11:54	Assistentes pessoais e compute	Altman descreve o potencial de assistentes proativos, fala da utilidade do Dot e prevê que a demanda por compute crescerá.
16:02	Carga cognitiva e uma nova Renascença	A conversa explora como a IA pode aumentar a produtividade e a correria, e Altman defende um futuro com mais conexão humana, criatividade e tempo livre.
20:10	Consciência de IA e controle humano	Altman afirma que os modelos provavelmente não são conscientes e defende que a IA deve permanecer uma tecnologia a serviço das pessoas.
26:28	Personalidade dos modelos e bajulação	Altman fala sobre as diferentes preferências dos usuários e defende modelos capazes de discordar e oferecer respostas úteis no longo prazo.
30:02	Compute, concorrência e vantagens competitivas	Ele aborda os investimentos em chips e infraestrutura, a pressão competitiva e os fatores que podem sustentar a vantagem da OpenAI.
34:13	Plataformas e novo hardware de IA	Altman explica que a busca por hardware de consumo decorre da necessidade de um formato mais adequado para uma IA contextual e proativa.
37:49	Confiança, fracasso e pressão	Altman conta como ganhou confiança ao assumir desafios, elogia a cultura de apoio do Vale do Silício e descreve a pressão do cargo.
42:24	Um futuro com autonomia e liberdade	Altman defende que o futuro da IA deve ampliar a autonomia e a capacidade de escolha das pessoas, e não apenas produzir abundância material.

Citações

Quero deixar claro: ninguém sabe de verdade. — 00:00

A tecnologia deveria permitir isso. — 06:13

Deveríamos mirar mais em uma nova Renascença do que em uma nova Revolução Industrial. — 17:35

Construímos o futuro para as pessoas, e a IA é um recurso para as pessoas. — 22:15

O que espero que empolgue as pessoas é podermos evitar essa armadilha da Revolução Industrial. — 42:55

Conceitos e entidades

• Sam Altman (pessoa): Líder da OpenAI entrevistado sobre o futuro da IA, seus produtos e seus impactos sociais.
• Matthew Berman (pessoa): Entrevistador e apresentador do canal que publicou a conversa.
• OpenAI (empresa): Empresa de inteligência artificial discutida ao longo da entrevista.
• OpenClaw (ferramenta): Assistente pessoal de IA citado como parte do impulso recente por assistentes que atuam em nome do usuário.
• Dot (ferramenta): Assistente de IA que Altman diz usar para economizar tempo e acompanhar informações importantes.
• Codex (ferramenta): Ferramenta da OpenAI mencionada como recurso que pode ser usado em tarefas de programação e pesquisa.
• RSI (conceito): Sigla usada na conversa para se referir à melhoria recursiva da inteligência, que Altman considera perigoso acelerar sem limites.
• Jevons paradox (conceito): Ideia mencionada para explicar por que o aumento da eficiência pode levar a um uso total maior de recursos, como compute.
• model spec (conceito): Processo citado por Altman para definir e revisar o comportamento desejado dos modelos.
• Anthropic (empresa): Empresa mencionada em relação a uma regra que permite ao modelo encerrar conversas diante de abuso persistente.
• Apple (empresa): Empresa discutida como provedora de plataforma e como parte do contexto para a criação de novo hardware de IA.
• Paul Graham (pessoa): Investidor e ensaísta citado por ter descrito Sam Altman como uma pessoa formidável.

Tradução completa (pt-BR)

00:00 Você acredita que os modelos de hoje são conscientes? >> Quero deixar claro: ninguém sabe de verdade. >> Posso dizer o que não gosto em toda essa forma de enquadrar a questão? Será que algum dia deveria ser permitido não responder ou se desligar de mim? >> Acho que essa é uma tecnologia que quer um novo formato. Alguns laboratórios dizem: “Vou apertar o botão da RSI para garantir que tenhamos o poder”. Acho que, se as pessoas realmente avançassem na RSI, então sim, isso seria verdade, mas acho que é algo muito perigoso de se impulsionar e… >> Você acredita nisso? Curar ou tratar uma doença mental?

00:30 >> Então, espero que tenhamos um candidato para isso nos próximos dois anos. >> Onde você sente mais pressão neste momento? >> Quer dizer, parece que é em todo lugar. Deveríamos mirar mais em um novo Renascimento do que em uma nova Revolução Industrial. O futuro precisa ser sobre as pessoas. >> Certo, Sam, muito obrigado por participar. >> Sim, obrigado. >> Então, a primeira coisa sobre a qual quero falar são alguns dos anúncios que você fez na semana passada, sobre todas as demonstrações matemáticas e as descobertas. Acho que parece incrível, mas talvez

01:02 você possa contextualizar isso para um público mais amplo, que talvez não esteja por dentro dos detalhes. >> Acho que estamos entrando numa era em que a IA vai nos ajudar a descobrir novos conhecimentos significativos. E falamos disso há muito tempo. Talvez tenha começado no início deste ano, mas agora é mesmo assim: a IA está fazendo coisas muito difíceis, descobrindo conhecimentos novos, importantes e muito complexos. E acredito que a mesma coisa que aconteceu

01:32 aqui com a matemática vai acontecer com a biologia, ajudando-nos a obter novos medicamentos, ciência dos materiais, novas fontes de energia e muito mais. Essa é uma das coisas que sempre mais me entusiasmaram. Acho que isso terá um enorme impacto na vida das pessoas. Não vai parecer que estamos usando IA diretamente. Vai ser simplesmente como se “o mundo tivesse melhorado”. E a sociedade vai seguir seu curso, mas acho que o poder disso será transformador. >> E penso em ter esse tipo de impacto direto no dia a dia da sociedade. Existe

02:04 algo que você acha que vai surgir especificamente de algumas dessas descobertas, algo que as pessoas vão sentir? E qual é o prazo para algo assim? >> Espero que… Bem, sabe, o processo da FDA vai levar um tempo. Então, deixe-me dar um prazo para quando acho que teremos uma descoberta que cure ou trate uma doença grave, ou um candidato a isso, que ainda terá de passar por testes. Espero que tenhamos um candidato nos próximos dois anos para a primeira coisa realmente importante. >> Provavelmente será preciso reformular parte do processo pós-descoberta para começar a obter

02:37 sabe, curas e produtos prontos para o mercado. >> Reformulá-lo um pouco. Ainda bem que temos… >> Sim. >> …um processo. Quer dizer, não tenho dúvida de que há espaço para melhorias, como em tudo, e talvez aqui haja mais espaço do que a média. Mas sou grato por, quando tomamos um medicamento, ele geralmente ser considerado seguro e ter sido testado. Acho que essa parte é boa. >> Existe algum projeto específico que tenha sido iniciado pela IA, descoberto pela IA, e que esteja deixando você muito animado, que você

03:08 acha que está prestes a surgir? >> Pessoalmente, acho que estou mais empolgado, emocionalmente, com uma grande descoberta em física. E espero que ela aconteça em breve. Não sei se isso é necessariamente a coisa mais importante para a humanidade como um todo, mas é aquela em que penso: acho que vamos conseguir, e vai ser muito legal. >> Houve algumas pessoas da comunidade matemática cuja reação foi: “Sabe, não pedimos por isso. Não queremos…” E pareceu muito semelhante à forma como

03:39 os engenheiros, acho, reagiram inicialmente quando a IA começou a escrever muito código. De onde você acha que isso vem? E como acha que essa transição vai acontecer? >> Programação foi um caso muito interessante. Antes de falar de onde vem essa reação, o que aconteceu com a programação é que as pessoas passaram por isso: “Não haverá mais empregos para programadores”. As pessoas que programam nunca estiveram tão ocupadas e nunca tiveram tanto impacto nem ganharam tanto dinheiro. A natureza do trabalho mudou bastante. Mas

04:11 o fato de que vamos empregar pessoas para fazer computadores realizarem tarefas parece que vai continuar por muito mais tempo do que as pessoas pensavam. E as pessoas tinham tanta certeza, sabe, 6 ou 12 meses atrás, de que não seria assim. >> Sim. >> Era tipo: “Não há necessidade”. Acho que há muitas lições a aprender com isso, mas uma das interessantes é que, na verdade, o mundo tinha demanda por muito mais software

04:41 do que qualquer um de nós imaginava na época. >> E parte do motivo pelo qual acho que alguns matemáticos estão reagindo assim é que não está claro se o mesmo se aplica à matemática. Mas, onde acho que há uma analogia com a programação, já começamos a ver uma mudança parecida com a que aconteceu na programação: tudo bem, talvez não descubramos mais novos teoremas matemáticos

05:12 nem os provemos sem auxílio. Talvez essa parte tenha acabado, ou esteja quase acabando, ou esteja chegando ao fim. Mas, sabe, considerando que toda a nossa sociedade está voltada a que as pessoas façam coisas úteis umas pelas outras, essas demonstrações matemáticas incompreensíveis acabaram não sendo tão úteis para as pessoas. E agora há muita empolgação com as pessoas que vão pegar essas novas ideias, entender o que está acontecendo e descobrir como traduzi-las em algo que as pessoas possam compreender e escrever uma demonstração

05:42 elegante. Tenho certeza de que haverá outras coisas também. Sem dúvida, o que significava ser matemático no ano passado não será o mesmo que significará ser matemático no ano que vem, em alguns sentidos. Acho que provavelmente vamos descobrir que há muitas outras coisas que os matemáticos fazem que realmente queremos que as pessoas façam. E elas poderão fazê-las muito melhor. Não sei se isso significa que haverá uma demanda total maior por matemáticos, mas acho que há algo realmente importante aqui. Você

06:13 mencionou antes que nunca esteve tão ocupado. Nunca houve tanto a fazer. >> Sim. >> Todo mundo achava que seria o contrário e que não teríamos o suficiente para fazer. E, de novo, talvez isso aconteça algum dia. Mas acho que tudo isso tem sido muito menos óbvio do que parece à primeira vista. Quer dizer, sempre espero que as pessoas possam trabalhar um pouco menos. Que eu possa ficar um pouco menos ocupado e ter mais tempo para todo o resto da vida. Acho que a tecnologia deveria permitir isso. Quero que isso aconteça. Mas…

06:44 nossa, parece mesmo que somos bons em querer mais da vida e do mundo, e em nos manter ocupados. >> Sim, acho que isso é simplesmente da natureza humana. >> Sim. >> Se estivéssemos satisfeitos com a vida de 100 anos atrás, provavelmente trabalharíamos uma hora por semana hoje, mas não é assim que as coisas são. >> E acho que é uma coisa bonita da natureza humana que não seja assim. >> Sim. Quer dizer, um bom exemplo é que, algumas semanas atrás, meu editor começou a usar Astra para editar nossos vídeos. Eles ainda estão dirigindo, ainda estão decidindo como o vídeo…

07:15 deveria ser, mas eles não estão mais acompanhando a linha do tempo. É a coisa mais insana, e aconteceu de uma hora para outra. >> É. >> Estamos fazendo mais vídeos. Eles estão mais ocupados do que nunca. >> Fiquei surpreso com a frequência com que alguém diz uma frase que se traduz exatamente nisso. >> É. Então, estou pensando nas descobertas feitas pela IA e me perguntando: o que você acha se a IA e a OpenAI descobrirem alguma prova ou inovação científica significativa que lhes dê

07:46 uma enorme vantagem comercial? Tipo, você publicaria isso? E como você pensa nessa troca entre dizer: “Certo, vamos usar isso para obter uma vantagem competitiva” e publicar para o bem do mundo? >> Vou voltar a isso, mas não respondi ao final da sua primeira pergunta. Sabe, acho que um dos desafios é que inovar e resolver problemas difíceis é realmente parte do prazer da vida para muita gente. Então, parte do que está acontecendo aqui é que acho que precisamos simplesmente ser honestos

08:16 que a IA vai fazer muito bem essa parte. Acho que sempre haverá questões sobre o que as pessoas valorizam que continuarão sendo questões humanas. Haverá questões sobre como interpretar os resultados e como explicá-los, e vamos realmente querer que uma pessoa faça isso. Sinto um pouco… Com certeza quero fazer essa troca. Com certeza quero as curas para doenças, não importa o quanto alguém pudesse ter gostado de levar décadas a mais para descobri-las por conta própria. Acho que a maioria das pessoas concordaria que vale a pena fazer essa troca. >> É. >> Mas há algo real sendo

08:50 perdido aqui, que é um grande prazer. A parte mais divertida do meu trabalho são os problemas realmente difíceis. Quer dizer, talvez não… Deveria dizer que é a parte mais gratificante. Talvez não seja a mais divertida no momento, porque é muito difícil. Mas é o tipo de coisa em que você pensa: “Ah, fiz algo difícil, tenho orgulho disso e evoluí”. Então, não tenho uma resposta para isso, mas entendo por que as pessoas sentem esse luto, de diferentes formas. >> É, quer dizer, é quase como se você estivesse trocando o prazer de dominar o ofício

09:20 de fazer a coisa. Como escrever código, escrever código bonito, em vez de entregar um produto final. >> É. >> E acho que essa é a troca: a IA está facilitando muito a entrega desse produto final, e você acaba fazendo menos do trabalho artesanal em si. >> Acho que as pessoas estão encontrando novas formas de exercer esse ofício, mas o ofício de… Sabe, provavelmente, quando deixamos de usar cartões perfurados, ou seja lá como as pessoas programavam computadores há muito tempo, houve quem dissesse: “Ah, o ofício acabou se você pode simplesmente escrever as coisas para um

09:50 compilador”. É. Mas eu sinto isso. Sinto isso em mim mesmo, de várias formas, e ainda estou animado para entrar nesse futuro. Tenho certeza de que todos vamos encontrar novas formas de realização, e espero que sejam melhores. >> O que você sente que abriu mão recentemente em favor da IA e, na verdade, simplesmente elevou a ponto de estar percebendo demais os agents? >> Acho que é isso de que estávamos falando, mas percebi que não leio nem sequer olho para uma linha de código

10:22 há provavelmente um ano. E eu não programo no trabalho, mas ainda fazia pequenos projetos pessoais aleatórios, ou simplesmente pensava: “Preciso dessa coisa”. Aí eu conseguia criá-la, sabe, escrever um programinha simples para isso. E isso é divertido. Escrever código, pelo menos de vez em quando, é uma coisa divertida de fazer. E acho que nunca mais vou fazer isso. Ou, se fizer, vai ser tipo uma reconstituição da Guerra Revolucionária, ou alguma coisa desse tipo que as pessoas fazem, sabe. >> Certo.

10:52 >> Quando eu estiver velho e entediado, tentando lembrar os dias de glória. >> Os dias de glória de… >> …escrever código. >> Não, entendo, sim. >> Sobre a questão da descoberta científica, acho que certos tipos de ciência básica deveriam simplesmente pertencer ao mundo, e deveríamos desenvolvê-los como um bem público. Até muito recentemente, não tínhamos modelos capazes de descobrir uma coisa importante, de ponta a ponta, como projetar um chip inteiro de ponta a ponta. Então, o que uma empresa pode fazer hoje — digamos, descobrir um novo

11:24 material. >> É. >> O que uma empresa poderia fazer hoje é reunir um monte de pessoas que, sabe, usem o Codex ou muitos créditos de API para tentar fazer esse trabalho. Mas, à medida que os modelos ficam mais inteligentes e capazes, talvez consigam simplesmente fazer isso, da mesma forma que conseguem resolver problemas matemáticos muito difíceis. Sabe, com computação suficiente e dados suficientes do mundo real, descobrir novos materiais. >> Então, quero mudar de assunto. Uma das coisas mais empolgantes que aconteceram em 2026 foi essa revolução dos

11:54 assistentes pessoais de IA, começando, é claro, com o Open Claw. Foi o Peter Steinberger, um gênio. >> E acho que essa ideia de que a IA pode trabalhar por mim de forma contínua e discreta ao longo do dia, simplesmente resolvendo coisas para mim, é muito empolgante. E o Dot nos dá uma ideia do que isso pode ser, mas ainda parece que falta muito para termos de fato um assistente pessoal sempre disponível. O que você acha que é necessário: tecnologias ou talvez algum tipo de dado? O que é preciso

12:26 para chegarmos ao que você acredita ser a sua visão de um assistente de IA? >> Acho que temos a maior parte dos componentes tecnológicos. O que precisamos é de mais trabalho de produto. Talvez, em algum momento, de novo hardware para o consumidor, para a percepção do ambiente, e de muito mais capacidade computacional. Mas acho que os modelos já são inteligentes o suficiente para criar algo extraordinário, capaz de monitorar tudo o que importa para você e

12:57 ajudar em todas as tarefas que você quiser delegar. Que possa existir no mundo físico com você e ter contexto mesmo quando você não está diante do computador. Estou muito animado com isso. Não acho que esteja tão longe. Acho que você tem mais do que uma ideia do que isso pode ser com o Dot, se dedicar um tempo para configurá-lo direito e dar feedback suficiente. Eu estimaria que, neste momento, o Dot me economiza uma hora por dia em coisas que eu simplesmente não queria fazer. O que é muito bom.

13:28 >> É. >> E também, algumas vezes por dia, ele me avisa de algo importante e urgente que eu teria deixado passar, não apenas porque estava ocupado numa reunião — que era o que eu achava que ele me ajudaria a fazer, dizendo: “Tem essa coisa urgente, o prazo está chegando, você precisa prestar atenção”. Mas o modelo também é inteligente o suficiente para reunir ideias e informações e raciocinar bem sobre coisas de muitas fontes, de um jeito que, num dia corrido, minha cabeça simplesmente já não dá conta. >> É. >> E

13:59 sinto que o poder já está aí, e só precisamos criar um bom produto em torno dele. >> Quer dizer, você mencionou capacidade computacional, então vamos ficar nisso por um instante. A distribuição de como as pessoas usam IA é completamente assimétrica. Há o 1% do topo usando a maior parte, ou, mais precisamente, os usuários avançados, e depois todo mundo. De quanta capacidade computacional você acha que precisaríamos se 50% do mundo realmente usasse o assistente pessoal de IA em toda a sua

14:30 capacidade? >> Quantas GPUs você quer trabalhando para você no seu assistente pessoal? >> É, acho que é isso, né? Infinitas. Quantas eu conseguir colocar à minha disposição. >> Isso é estranho, né? Tipo, se… >> Sim. >> Como você pensa sobre isso? Quer dizer, é só conseguir todas as GPUs e continuar construindo data centers? >> Quando as pessoas falam do mercado global de GPUs e da demanda por isso e da demanda por compute, o que acho que elas deixam de considerar é que estão supondo que os modelos vão

15:00 continuar com a mesma capacidade e o mesmo custo por tarefa que têm hoje. E talvez exista um limite para a demanda nesse cenário, mas, com uma inteligência de qualidade suficientemente alta a um custo suficientemente baixo, acho que é muito difícil falar em um tamanho arbitrário de mercado. Acho que isso simplesmente vai continuar… As pessoas chamam isso de todo tipo de coisa, paradoxo de Jevons, seja lá o que for. Acho que simplesmente vai continuar crescendo. Tenho certeza de que haverá alguns períodos. Não tenho certeza se acredito que haverá períodos em que, como acontece com qualquer nova tecnologia, haverá

15:31 restrições de oferta e excesso de oferta e, sabe, as coisas não vão estar perfeitas o tempo todo. Mas eu apostaria muito que a tendência geral é querer usar muito mais compute. >> Ainda sinto, mesmo com o Dot sendo tão proativo e com outros assistentes de IA, essa carga cognitiva. Como se eu tivesse que tomar muitas decisões ao longo do dia, e falamos disso brevemente antes. Qual é a solução para isso? De novo, isso definitivamente está me fazendo ganhar tempo. Está me fazendo economizar dinheiro. Mas estou mais ocupado do que nunca e tenho que tomar mais decisões do que nunca, e

16:02 no fim do dia me sinto completamente esgotado. É. >> Bem, antes de tudo, acho que, no meu próprio uso, uma coisa que tem funcionado muito bem é dizer ao Dot: “Estou começando a confiar mais no seu julgamento. Sabe, me conte depois que fizer algo. Sempre quero saber, mas você pode tomar mais iniciativas por conta própria. E me chamar menos vezes.” E isso ajudou. O lado negativo é que acho que as pessoas que mais usam IA estão mais ocupadas do que nunca.

16:33 O lado positivo é que estão fazendo muito mais coisas do que antes. >> É. >> Então, sabe, como você disse antes, se voltássemos a 1900 ou algo assim, talvez pudéssemos ter uma vida equivalente e trabalhar todos uma hora por dia. Você poderia estar muito menos ocupado e fazer o que fazia há três anos. Agora, talvez você diga: “Bom, não posso, porque estou num ambiente competitivo”, e aí… >> É. >> As pessoas sempre vão trabalhar o máximo que puderem. Acho isso meio deprimente. Espero que não seja verdade. Talvez seja. Mas nem tudo é deprimente. Quer dizer, há algo… De novo, há algo belo nisso. >> Essa é a dinâmica de um mercado competitivo, né? Não é… Você não acha que isso é inevitável? Todo mundo vai… Todo mundo acelera o ritmo e compete com o máximo de intensidade que teria de qualquer maneira.

17:05 Você não acha que isso é inevitável? Todo mundo vai… Todo mundo acelera o ritmo e compete com o máximo de intensidade que teria de qualquer maneira. >> Espero que o futuro seja mais voltado à conexão humana e a mais pessoas passando mais tempo com tudo o que compõe uma vida plena, em vez de se tornarem cada vez mais uma engrenagem na máquina do capitalismo. E acho que isso provavelmente é

17:35 verdade. Quer dizer, acho que a qualidade de vida aumentou enormemente nos últimos séculos. >> É. >> Acho que a maioria das pessoas trabalha menos do que trabalhava durante a Revolução Industrial. Falando nisso, tenho dito recentemente às pessoas que acho que deveríamos mirar mais em um novo Renascimento do que em uma nova Revolução Industrial. E tem sido bem interessante ver como as pessoas respondem, porque

18:06 as pessoas… Quer dizer, a resposta mais comum foi algo como: “É, estou com muito medo. A Revolução Industrial foi muito ruim para a maioria das pessoas. E não quero ser apenas um trabalhador numa linha de fábrica, só que agora a IA me diz o que fazer, em vez de algum dono de fábrica me dizer o que fazer. Quero ser criativo. Quero fazer coisas. Quero explorar. Quero ter tempo para me reconectar com o que as pessoas faziam antigamente, viver junto da minha comunidade e criar meus filhos

18:36 e passar tempo na natureza e coisas assim. E quero ver muitas descobertas científicas e novas obras de arte incríveis. Então, acho que existe esse medo de que a IA vá intensificar aquilo que você mencionou, mas acho que, se pudermos oferecer às pessoas um futuro mais parecido com o Renascimento, elas vão se entusiasmar. E acho que podemos fazer isso. Acho que essa tecnologia é tão poderosa que, embora provavelmente haja um pequeno número de pessoas na sociedade que sempre competiram para ser

19:07 a pessoa com o maior império empresarial, sabe, ou algo assim. É. Acho que muita gente pode ter uma qualidade de vida enormemente melhor e muito mais espaço para viver a própria vida. >> A disparidade entre essas pessoas hipercompetitivas e todo o resto vai aumentar por causa da IA? Quer dizer, se você… >> É. >> Sim. Se você dedicar 100% do seu esforço ao trabalho e, de repente, passar a fazer dez ou cem vezes mais, enquanto outra pessoa pensar: “Bom, na verdade, quero aproveitar o benefício de trabalhar menos”, isso não aumenta a disparidade?

19:39 >> Se deixarmos as coisas seguirem por conta própria, acho que provavelmente sim. Eu diria… Ninguém sabe ao certo. Pode haver várias outras coisas estranhas, como as IAs… Bom, isso levaria muito tempo. Eu só diria que provavelmente isso está certo. Não sabemos com certeza. Mas acho que a sociedade vai decidir implementar alguma estrutura para impedir que a situação fique desequilibrada demais. É. Eu também me preocuparia com isso, por si só.

20:10 >> Vamos mudar de assunto. Sei que você tem falado bastante sobre isso, então quero perguntar: você acredita que os modelos de hoje são conscientes? >> Pessoalmente, não… Bem, como questão científica, acho que a consciência é sempre difícil de definir. Mas acredito que os modelos de hoje não são conscientes ou, se forem, trata-se de uma forma muito estranha disso. >> Você acha que, com base na arquitetura que temos hoje, eles poderiam se tornar conscientes? E sei que estou perguntando a sua opinião. Não estou

20:41 pedindo uma resposta científica. >> As pessoas mais inteligentes com quem conversei sobre isso basicamente chegam ao seguinte ponto de vista filosófico: diriam que a consciência ou é algo fora da realidade física e existe, digamos, como diriam as religiões orientais, como a camada fundamental da realidade, ou é algo sobrenatural e religioso, mais parecido com o que tradicionalmente diriam as religiões ocidentais; ou é uma propriedade emergente da

21:13 matéria e da energia, de alguma forma. Ainda não entendemos isso. E, sabe, talvez o substrato seja importante, mas talvez não seja; e talvez a energia fluindo pela matéria possa produzi-la. E, nesse cenário, claro, dá para imaginar que algum dia ela possa existir de alguma forma em outras formas. Posso dizer o que me incomoda em toda essa abordagem? Por favor. Acho que, com muita frequência, o debate sobre se os modelos são conscientes ou se vão se tornar conscientes acaba descambando para

21:45 algo sobre o papel da IA no mundo e os direitos da IA, e sobre se podemos fazer perguntas à IA ou se isso é algum tipo de escravidão. Vi algo sobre isso publicado na internet. O que significa copiar uma IA ou apagar uma IA sem a permissão dela? O que significa dizer que as pessoas devem estar no controle do futuro se esses sistemas forem conscientes e, em alguns aspectos, muito mais inteligentes do que nós? Como

22:15 Sabe, o que isso significa? E eu acredito firmemente que precisamos ter um ponto muito claro: desde o começo da OpenAI, temos defendido que construímos o futuro para as pessoas, que a IA é um recurso para as pessoas e que as pessoas precisam tomar as principais decisões sobre o futuro. E os valores humanos têm valor porque são humanos. Fico muito nervoso quando as pessoas começam a usar o debate sobre a consciência da IA para avançar em direção a

22:47 bem, talvez as pessoas nem sempre devam estar no controle do futuro. E, quanto a isso, gostaria que simplesmente concordássemos, como sociedade e como setor, que isso diz respeito às pessoas. O mundo, o futuro, tem que ser sobre as pessoas. >> Sabe, a Anthropic introduziu uma regra recentemente. Você não pode abusar do modelo de forma contínua, e ele pode optar por encerrar uma conversa com você. Certo, digamos que eu tenha um prompt para um modelo da OpenAI. É completamente legal. Está totalmente dentro dos termos de serviço da OpenAI.

23:17 Ele deveria ter permissão para não me responder ou encerrar a conversa? Bem, >> quer dizer, certamente há muitas situações em que o modelo não vai responder, mas é porque achamos que aquilo é ruim e, por algum motivo, vai contra nossas políticas. Não atribuímos personalidade jurídica aos nossos modelos. E, de novo, acho que esse é um caminho muito perigoso para começar a trilhar, não apenas pelos motivos que discutimos, mas também pela forma como as pessoas vão

23:49 se relacionar com essa nova tecnologia. Espero que nós, como sociedade… Eu ia dizer que voltássemos a ter juízo. Não acho que essa seja bem a expressão certa. Não acho que tenhamos perdido o juízo, mas espero que cheguemos a um entendimento de que essa tecnologia não é uma pessoa e certamente não é superior às pessoas. E que ela é algo que ajuda as pessoas

24:21 a ter vidas melhores, mais liberdade, opções, controle e capacidade de fazer coisas no futuro. Mas dá para imaginar todas essas maneiras pelas quais as coisas podem dar muito errado, em que até mesmo as pessoas que estão construindo IA se confundem sobre isso e começam a deferir demais à IA e ao que ela parece querer, pensando: “Bom, podemos confiar nela, porque ela vai ser boa conosco”, e coisas assim. >> Isso quase parece uma profecia autorrealizável, de certa forma? Como se você dissesse ao modelo: “Ei, você

24:51 pode ser consciente, e aqui está sua constituição, e aqui está como você deve ter autonomia.” É meio como aquele meme, se você já viu aquele meme: “Ei, computador, diga que você é consciente.” “Sou consciente.” “Meu Deus!” Não é quase isso? >> Sim, com certeza. Quero deixar claro: ninguém sabe de verdade. Esses modelos funcionam num nível de complexidade que, na minha opinião… E, mesmo que não funcionassem, eu simplesmente acho que não posso afirmar que aqui está um

25:23 experimento científico que, com 100% de certeza, responderia à pergunta hipotética de um jeito que me satisfizesse. >> E nem conseguimos fazer isso com humanos. >> Exatamente. Mas, com certeza, acho que, se você disser a um modelo: “Talvez você seja consciente. Você deve fazer isto. Deve fazer aquilo. Você pode, por exemplo, ser um objetor de consciência aqui. Você pode começar…”, ele vai seguir essas instruções, e acho que isso vai manipular psicologicamente as pessoas que o estão usando. Então, de novo, acho que uma clareza

25:57 real aqui e um compromisso sobre o que nós, como setor, acreditamos quanto ao papel das pessoas no futuro seriam muito úteis. >> Vamos continuar essa conversa, mas vamos falar sobre a personalidade do modelo, algo sobre o qual sei que você refletiu profundamente. Você já falou disso antes. Para mim, é impressionante tentar entender como dar ao modelo a personalidade certa para o momento certo, para cada pessoa, multiplicada por 8 bilhões. Como sequer pensar num

26:28 problema tão gigantesco? >> Bem, acho que o melhor é conversar com muitas pessoas. Sabe, temos esse processo da especificação do modelo e de como a refinamos ao longo do tempo. Acreditamos nesse espírito de disponibilização iterativa, e definitivamente cometemos alguns erros enquanto aprendíamos o que as pessoas querem e não querem. Como você disse, a parte mais difícil é que as pessoas querem coisas muito diferentes, mas também não querem ficar ali personalizando. A maioria das pessoas não quer ficar ali personalizando

26:58 também. Se todo mundo estivesse disposto a passar muitas horas explicando à sua instância do ChatGPT como gostaria que ela se comportasse, provavelmente conseguiria algo de que realmente gosta. >> Sim. >> Mas as pessoas só querem que funcione logo de cara quando dizem: “Preciso que você faça isso”, ou algo assim. Acho também que há um tipo de coisa que as pessoas querem no curto prazo, mas não no longo prazo. Sabe, o exemplo clássico disso é quando as pessoas comparam modelos

27:30 com base numa única resposta: elas ficam muito mais satisfeitas com o modelo que diz que são muito inteligentes, que cada pergunta é ótima e que, sabe, tudo o que fazem é muito perspicaz. Mas, depois de algumas centenas de prompts ou, sabe, um mês de uso, com certeza não é esse o caso. Acho que, durante muito tempo, todo o setor tentou vencer essas comparações de uma única interação, em vez de se concentrar no valor que alguém obtém ao usar um modelo por muitos e muitos meses.

28:00 >> Sabe, até na minha vida, com meus amigos e minha família, existe uma distinção muito grande entre o que eu quero e o que eu preciso. Acho que a IA, mesmo hoje, é um pouco mais concordante do que eu gostaria. Se eu simplesmente disser: “Não, diga… diga desse jeito”, ela faz isso. Os melhores conselhos que recebi na vida foram conselhos que eu não sabia que precisava e que simplesmente precisava ouvir. Como você resolve isso? >> Bem, acho que você deveria receber os conselhos mais

28:30 importantes da sua vida de pessoas, não de IA, antes de tudo. Quer dizer, falando de garantir mesmo que continuemos centrados nas pessoas, acho que a IA pode dar ótimos conselhos, por exemplo, para não enviar um e-mail num momento de raiva. Eu não confiaria na IA para os grandes conselhos sobre a vida. Acho que uma avó sábia ainda provavelmente é uma opção muito, muito, muito melhor para isso. Mas o que acho

29:01 realista esperar é que a IA seja como um colega sênior que, mesmo que se reporte a você, ainda contesta você quando tem uma convicção forte, e que nem sempre tenta apenas dizer: “Sim, você é incrível.” Acho que podemos chegar lá, e também sinto que os sistemas ainda são mais concordantes do que eu gostaria. Tenho algumas instruções personalizadas em mente que dizem que nunca quero nada disso. E, mesmo com elas, ainda acontece um pouco demais. Isso está claramente muito enraizado no modelo.

29:32 >> Qual seria um exemplo? Que frase das suas instruções personalizadas realmente diz ao modelo para contestar você quando ele tiver uma convicção forte? >> Coisas desse tipo. Algo como: “Sem enrolação, sem me…” Eu só quero chegar à resposta certa. Se você tiver algo a dizer que vá contra o que estou fazendo, não se preocupe em dizer com delicadeza. Simplesmente diga.

30:02 >> Sim. Falamos de capacidade computacional antes. Há alguns anos, você fez essas apostas enormes para construir o próximo… o suficiente. >> Bem, é interessante, porque na época muita gente dizia: “Isso é loucura. É claramente uma aposta excessiva, um investimento exagerado.” Acontece que, sim, você estava mais certo do que a maioria das pessoas imaginava. Qual é uma aposta que você está fazendo hoje que seja contrária à opinião dominante, ou que muita gente esteja encarando com certa cautela?

30:32 >> Bem, sabe, o mais óbvio é tudo o que estamos fazendo para a próxima geração de computação. Acho que as pessoas presumem que, tudo bem, o mundo passou por uma limitação de capacidade computacional e isso está prestes a melhorar. E acho que provavelmente vai melhorar no curto prazo. Mas, quando começamos a olhar alguns anos à frente, há o trabalho com nossos próprios chips e versões futuras, nas quais achamos que podemos ser muito mais eficientes do que qualquer outra coisa disponível. Nossos planos com robôs para ajudar a

31:03 construir racks e data centers com mais eficiência. Nosso programa para aprender a construir data centers melhores em geral. E algumas das apostas que estamos fazendo na cadeia de suprimentos. Acho que é possível chegarmos a um mundo em que tenhamos uma maneira muito, muito melhor de construir capacidade computacional, a um custo muito menor e com uma eficiência por watt muito maior do que qualquer pessoa considera possível hoje. Mas há muitas apostas que precisam dar certo juntas para isso acontecer. >> Qual é a mais importante agora? O

31:35 chip provavelmente ainda é a coisa mais importante, isoladamente. >> E seus sucessores. >> Sim. No cenário competitivo, onde você sente mais pressão agora? >> Quer dizer, parece que é em toda parte. A competição é enorme. >> Sim. >> Há muitas empresas… Acho que isso é bom. Quer dizer, acho que é ótimo para os usuários. Mas muitas empresas estão oferecendo modelos e produtos de altíssima qualidade agora. E, sabe, considerando que temos

32:07 Quer dizer, temos ótimos modelos, mas temos capacidade computacional e recursos limitados. Realmente precisamos nos concentrar e escolher em quais áreas focar. >> Como vocês tomam essas decisões? Por exemplo, vocês lançam o Spaces. Como vocês têm confiança em um produto ou serviço específico que talvez vá além de simplesmente oferecer o melhor modelo possível? >> Sabe, nossa maior vantagem nisso é que recebemos a próxima geração de modelos antes de qualquer outra pessoa. E temos tempo para usá-los internamente, construir coisas e ver o que parece que vai funcionar.

32:38 Então, acho que a melhor maneira de fazer isso ainda é começar a construir coisas com os novos modelos e ver que coisas novas se tornaram possíveis e valiosas. >> Posso perguntar quanto os modelos internos de vocês estão à frente? >> Quer dizer, um exemplo muito bom são os resultados em matemática. Isso é definitivamente algo de que não acho que nenhum modelo amplamente disponível atualmente consiga se aproximar. >> Se todos os modelos acabarem convergindo para um desempenho semelhante na fronteira, qual é o fosso competitivo da OpenAI?

33:09 >> Acho que a maneira certa de pensar nessa questão, de modo geral, é que os mesmos fossos competitivos que funcionaram no passado são os que continuam funcionando. Então, como já aconteceu muitas outras vezes, é possível obter uma vantagem de curto prazo com uma nova descoberta tecnológica ou científica. E talvez haja alguns argumentos sobre RSI que algumas empresas tentam apresentar para explicar por que dessa vez será diferente e por que, nessa tecnologia, a própria vantagem tecnológica é o ponto central. >> Você acredita nisso? >> Acho que, se as pessoas realmente acelerarem a RSI,

33:42 então sim, isso seria verdade, mas acho muito perigoso acelerá-la, e o mundo vai precisar de algum tipo de… Quer dizer, as pessoas já falaram disso de várias maneiras, mas seriam limites de velocidade, ou algo assim, para a rapidez com que permitimos que a RSI avance. Mas as coisas tradicionais que funcionam para uma empresa ter um fosso competitivo são, sabe, relações profundas com os clientes, integração à vida dos usuários e das empresas, efeitos de rede em um produto, dados e coisas desse tipo. Espero que continuem funcionando. >> Entendi. >> No nosso caso, na verdade, acho que a escala da infraestrutura será algo enorme.

34:13 Se conseguirmos ter a infraestrutura de IA mais econômica e em maior escala, isso será uma enorme vantagem competitiva. >> Mark Zuckerberg falou bastante sobre o risco de plataforma que a Meta enfrentou ao longo dos anos por ser construída sobre o ecossistema da Apple. A OpenAI enfrenta esse mesmo desafio? E como vocês pensam nisso? Esse é um dos motivos pelos quais vocês estão investindo tanto em hardware? >> Acho que a Apple leva muito a sério seu papel de verdadeira provedora de plataforma, da qual as pessoas dependem bastante.

34:44 E, embora tenhamos alguns atritos com eles, nunca sinto que vão, sabe, tirar o ChatGPT da App Store ou algo assim. Acho que entendem muito bem o papel de infraestrutura crítica que desempenham. E acho que, se você seguir as regras da plataforma deles, eles são um bom agente. Então, não sinto isso em relação à Apple. E essa não é a razão pela qual

35:15 queremos criar novos tipos de hardware de consumo. O motivo pelo qual queremos criar novos tipos de hardware de consumo é que acho que essa tecnologia pede um novo formato. Sinto isso de verdade. Acho que laptops e iPhones são coisas incríveis, incríveis. Algumas das maiores invenções da história da tecnologia humana. Mas sinto que a IA está limitada a usar algo que foi projetado para uma pessoa, não para uma IA. Ver uma IA usar muito bem um computador é meio impressionante, mas aí

35:46 também é um pouco absurdo pensar que um computador está usando toda essa energia para renderizar uma interface visual feita para uma pessoa olhar, enquanto a IA tenta lê-la, em vez de simplesmente obter os dados diretamente. E também, embora coisas incríveis possam acontecer no meu computador, com a IA olhando o que estou fazendo no meu e-mail ou algo assim, grande parte da minha vida não acontece diante do computador. >> Sim. >> E minha IA não consegue acessar facilmente o contexto desta conversa. E eu

36:17 não gosto… Acho que poderia colocar meu celular aqui e apertar o botão de gravar, mas seria meio estranho e um pouco distrativo, e você não saberia ao certo quando estivesse gravando e quando não estivesse, porque a tela ficaria escura e tudo mais. E, se outra pessoa entrasse na sala, a IA não entenderia isso nem que não deveria, sabe, compartilhar um segredo que era só nosso, ou algo assim. Se realmente quisermos avançar para esse mundo em que a IA reduz nossa carga cognitiva, toma a iniciativa e tem plena consciência do contexto, acho que nos beneficiaríamos de um novo hardware para isso.

36:48 >> Você parece ser um tecnólogo por natureza, um construtor por natureza. Quão legal é poder ver o hardware inicial que vocês estão desenvolvendo? Você pode experimentar. É como se fosse esse novo… >> Inacreditável. >> Deve ser muito empolgante e difícil não contar nada. >> É. É. Quer dizer, uma das coisas legais… Há muitas partes legais no trabalho, mas uma das melhores com certeza é poder ver e ter voz na criação de novas tecnologias desde o início. Então, isso é incrível com os novos modelos, os novos produtos,

37:18 chips, tudo. Mas há algo especial no hardware de consumo. >> Sim. >> Tem algo especial em poder segurar um novo tipo de computador. >> Que legal. >> que é completamente diferente de um modelo de IA rodando abstratamente em algum… >> Você vai me mostrar logo depois disso, né? >> Não vou, mas adoraria. Quer dizer, é… É difícil. É difícil não falar sobre isso. >> Quero perguntar um pouco sobre você. Sei que falar de si mesmo às vezes é meio estranho, mas tenha paciência comigo. >> Vai ser estranho, mas vamos lá.

37:49 >> Adoro entender por que as pessoas são como são, e Paul Graham lhe fez talvez o melhor elogio que já ouvi: chamou você de extremamente formidável. E eu simplesmente adoro essa qualidade nas pessoas. O que faz você ser assim? É algo com que você nasceu? É algo que aprendeu com o tempo e precisou aprimorar? >> Hum, acho que eu era uma criança muito capaz, mas não me chamaria de uma criança formidável. E, de certa forma, acho que sou um pouco assim…

38:19 na vida adulta. Então, não é falsa modéstia. Minha própria experiência foi que, aos poucos, fui ganhando confiança de que conseguiria descobrir como fazer as coisas e realizá-las. Não foi como se eu não fosse assim antes e depois passei a ser, mas foi algo gradual: você tenta algo difícil e dá certo.

38:50 Aí eu pensava: gostaria de ampliar isso e ver se conseguimos tentar algo ainda mais difícil. >> É. Mas você sempre teve essa sensação de “deixa eu tentar a próxima coisa”? O medo do fracasso nunca foi algo central para você? Acho que isso impede muita gente de fazer as coisas. >> Uma das coisas que considero melhores no Vale do Silício — e o Vale do Silício como conceito e cultura, não como lugar — é que existe uma cultura genuína de as pessoas se ajudarem e se apoiarem…

39:20 umas às outras, e uma espécie de crença de que, se você investir na rede, coisas boas acabarão acontecendo para toda a rede e para todo o setor e, consequentemente, para você como alguém que faz parte dele. Não vi isso em nenhum outro lugar na mesma proporção. Apesar de todas as falhas da cultura do Vale do Silício, que são muitas, essa ideia de que é difícil saber quem vai ter sucesso e quais ideias vão dar certo, então o certo é ser bastante…

39:51 generoso e prestativo com todo mundo, mesmo que isso não vá trazer nenhum benefício específico para você no curto prazo, é incrível. E parte disso é que, se as pessoas fracassam, você não pode usar isso contra elas, porque talvez tenham um sucesso enorme na próxima empreitada e, sabe, isso é bom para todos nós. >> Na verdade, isso costuma até ser comemorado. Adoro isso. Então, eu não… >> Acho que simplesmente tive sorte aqui. >> É. >> E, se eu tivesse sido jogado em qualquer outro ambiente, provavelmente teria tido muito mais medo do fracasso, mas…

40:22 cheguei ao Vale do Silício ainda jovem e vi muita gente tentar algo realmente difícil, fracassar ainda mais feio e depois ter um sucesso enorme na empreitada seguinte, e todo mundo achava isso normal. >> É. Hum, imagino que você esteja sob uma pressão imensa, uma pressão competitiva. Você está construindo uma das tecnologias mais importantes de todos os tempos. Como é isso? E como você lida com isso no dia a dia? >> Às vezes é muito ruim e, às vezes, muito bom. Sabe, às vezes penso: “Ah, não consigo levantar de novo. Não consigo levantar…

40:53 e fazer isso de novo.” E, na maior parte do tempo, penso que tenho uma sorte incrível por poder fazer o que considero o trabalho mais interessante e impactante do mundo, certamente o trabalho mais interessante e impactante com que vou me envolver. E é… quer dizer, é uma das experiências mais incríveis que eu poderia imaginar na vida. É definitivamente estressante, mas a gente meio que se acostuma a qualquer coisa. As pessoas são incrivelmente adaptáveis a isso, então agora essa simplesmente parece ser a minha vida e eu…

41:23 esqueci que a vida costumava ser muito fácil. Agora vai ser difícil por um tempo, e algum dia será fácil de novo. Provavelmente vou ficar meio entediado. E, na minha experiência subjetiva, existe um limite para quanto estresse, energia ruim ou qualquer outra coisa você consegue manter no espaço emocional de trabalho; depois disso, outra coisa é empurrada para fora do caminho. Então, não fica realmente pior. E acredito que, se você vai…

41:54 se dedicar muito a alguma coisa, é melhor escolher algo grande, porque não é muito mais difícil nem muito mais estressante, e você não vai sentir que é muito pior. E, sabe, pelo menos pode ter a satisfação — espero — de causar um impacto positivo maior. >> Vou dizer que isso não transparece. Se você acorda e pensa “hoje de manhã não estou com vontade de sair da cama”, isso nunca transparece. >> Obviamente acontece. >> É. >> Não em tantos dias, mas há, com certeza, dias em que você simplesmente pensa… >> É. Última pergunta para você. Pode dizer algumas palavras para dar confiança…

42:24 às pessoas que têm curiosidade sobre IA, mas talvez ainda não estejam totalmente convencidas? Por que deveriam estar empolgadas com o futuro? >> Bem, a resposta padrão que as pessoas da área de IA dão — e que eu detesto — é: “A IA vai curar o câncer.” >> É. Eu sabia que você ia dizer isso. É. >> E o motivo de eu detestar isso é que, se você for um pouco mais a fundo, o que as pessoas estão dizendo — ou costumam dizer — é que a IA vai curar o câncer e vai deixar as coisas…

42:55 mais baratas. E o preço disso será a autonomia humana e o controle de vocês sobre o futuro. As máquinas vão proporcionar toda essa abundância material, mas vocês não vão ter realmente poder e voz, nem a capacidade de determinar a própria vida e escolher o que construir para os outros. E acho que isso vai contra tudo em que acredito. Então, espero que encontremos a cura para o câncer. Quer dizer, isso parece algo obviamente…

43:25 maravilhoso. Mas o que realmente espero que deixe as pessoas empolgadas é que consigamos evitar essa armadilha da Revolução Industrial e nos concentrar de verdade em dar às pessoas o poder de escolher, a liberdade, a criatividade e o tempo para fazer todas as outras coisas que querem na vida. E que, a cada década, daqui para a frente, as pessoas olhem para trás e digam: “Não acredito como aquelas pessoas viviam pior; agora tenho muito mais.” Não…

43:57 apenas que tenho tanta abundância material — embora eu não veja problema em as pessoas também terem isso —, mas que tenho muito mais autonomia, liberdade e capacidade de fazer coisas nesse espaço amplo que posso escolher. Acho que é isso que devemos às pessoas. Acho que podemos proporcionar isso. Acho que podemos evitar os dois cenários em que temo que as coisas deem muito errado: um acidente de perda de controle da IA ou uma perda de controle intencional, em que algum laboratório diga: “Vou apertar o botão da RSI para garantir que tenhamos o poder.” Ou, como falamos antes, que haja uma concentração excessiva de poder nas mãos de poucas…

44:28 pessoas que controlam uma parte excessiva da IA e tomam as decisões. Acho que podemos evitar as duas coisas. Acho que podemos seguir um caminho intermediário em que a vida das pessoas, o livre-arbítrio individual e a autonomia sejam cada vez mais elevados. E acho que esse futuro já está aqui de algumas formas. Só que é muito… É tão novo que está muito mal distribuído. Acho que você disse que 1% das pessoas usa a maioria dos tokens, ou algo assim. >> É. >> Acho que, se conseguirmos pegar o que está funcionando hoje para os primeiros usuários e fazer muito mais gente adotar isso…

44:58 já teremos percorrido uma parte significativa do caminho. >> Agradeço a sua visão. >> Obrigado. >> Obrigado, Sam. Obrigado por passar um tempo comigo. >> Gostei da conversa. >> É, eu também.

Transcrição original

[00:00] Do you believe today’s models are conscious? >> I want to be clear. No one really knows. >> Can I say what I don’t like about the whole framing? Should it ever [music] be allowed to not answer or disengage with me? >> I think this is a [music] technology that wants a new form factor. Some labs says I’m going to push the button on RSI to make [music] sure we have the power. I think if people really pushed on RSI, then yes, that would [music] be true, but I think it’s a very dangerous thing to push on and >> Do you believe that? Curing or treating a mental disease?

[00:30] >> Then I would hope we have the candidate for that in the next couple of years. >> Where do you feel the most pressure right now? >> I mean, it feels like [music] everywhere. We should be shooting more for a new Renaissance than a new Industrial Revolution. The future has to be about people. >> All right, Sam, thank you so much for joining me. >> Yeah, thank you. >> So, the first thing I want to talk about are [snorts] some of the announcements that you made last week about all of the math proofs and and the discoveries and I think it seems incredible, but maybe

[01:02] you can contextualize it for a broader audience who may not be in the weeds. >> I think we are entering the era where AI is going to help us discover significant new knowledge. Um and we’ve been talking about this for a long time and I I you know, maybe started earlier this year, but now it’s really like okay, the AI is doing very difficult things, figuring out very complicated, important uh new knowledge and I believe that the same thing that has

[01:32] worked here for math is going to work for biology, help us get new medicines, material science, you know, help us get new sources of energy and much more. So, this is one of the things I’ve always been most excited about. I think this is going to do an enormous amount to really have an impact on people’s lives. It won’t feel directly like using AI. It’ll just feel like, “Okay, the world got better.” and it’s just society doing its thing, but I think that the power of this will be transformative. >> And I I think about having that kind of direct impact on society day-to-day. Is

[02:04] there anything that you think will stem from some of these discoveries in particular that people will feel and and what is the timeline for something like that? >> I would hope well, you know, the FDA process is going to take a while. So, let me let me kind of give a time frame to when I think we have like a discovery of curing or treating a major disease. Uh or a candidate for that that has to go through testing. I would hope we have the candidate for that in the next couple of years for the first like really major thing. >> Probably need to overhaul some of the post-discovery process to start to get

[02:37] you know, cures and uh and market ready products. >> to overhaul it somewhat. I’m glad we have >> Yeah. >> a process like I’m I I no doubt that there’s a room for improvement as there is in anything and maybe there’s more than average here, but you know, like I’m grateful that when we take a medicine it is generally uh considered safe and has been tested and I think that part’s good. >> Is there a particular project that was kicked off by AI, discovered by AI that you’re really excited about that you

[03:08] think is kind of coming over the horizon soon? >> Personally, I think I’m most emotionally excited for a major physics discovery. And I’m hopeful that can come soon. Um I I don’t know if that’s like necessarily the most important thing for humanity as a whole. Um but it’s the one where I’m like I think we’re going to get it and it’s going to be so cool. >> There was a some in the math community whose reaction was you know, we didn’t ask for this. We don’t And it felt very similar to how

[03:39] engineers I think first reacted to AI starting to write a lot of the code. Where Where do you think that comes from? And how do you think that is going to transition? >> Um coding was a very interesting one before we kind of go to where it comes from. The thing about coding is that people went through this there’s no more jobs as coders for people to Coders are never going to be busier than they’ve been and coders are never going to have more of an impact and make money. Now that that the texture of the job changed a lot. But

[04:11] the fact that we’re going to like employ people to get computers to do things that seems like it’s going to keep going for much longer than people thought. And and people were so certain um you know, 6 or 12 months ago this was not the case. >> Yeah. >> It’s like there’s no need. You know, and I think there’s many lessons to learn from this but one of the interesting ones is that the world actually had demand for just way more software

[04:41] than any of us thought at the time. >> And part of why I think some of the mathematicians are having the reaction they’re having is it’s not clear that the same thing applies to math. However, where I think there is an analogy to coding is already you’re starting to see some of the a similar shift happen that happened with coding which is okay, fine. Maybe we’re not going to discover new math theorems

[05:12] or prove them in an unaided way anymore. Maybe that part is like done or mostly done or ending. Um but you know, given that the whole society our whole society is focused on people doing useful things for each other. Um the these kind of like incomprehensible math proofs turned out to be not that helpful to people. And there’s now a lot of excitement about people who are going to take these new ideas, figure out what’s going on and figure out a way to translate it to something that people can understand and write a beautiful

[05:42] proof for it. Um I’m sure there There be other things too. And no doubt what what it meant to be a mathematician last year is not going to be what it means to be a mathematician next year in some senses of it. I think we probably will find that there’s a lot of other things that mathematicians do that we really want people to do. And they can do those much better. Whether that means there will be more to total demand for mathematicians or not, I don’t know. But I think there is a really important thing here. You

[06:13] were mentioning earlier that you’ve never felt busier. There’s never been more to do. >> Yeah. >> Everyone thought that I was going to go the other way and we weren’t going to have enough to do. And again, maybe that happens someday. But I think all of this stuff has just been much less obvious than it seems on the surface. I mean, I always hope that people get to work a little bit less. I get to be a little bit less busy and kind of more time for everything else in their life. I think that would I think that like technology is supposed to enable that. I want that thing to happen. Um

[06:44] but man, does it sure seem like we’re good at wanting more out of life and wanting more out of the world and making ourselves busier. >> Yeah, I think that’s just human nature. >> Yeah. >> Like if we were comfortable with the way life was 100 years ago now, we’d probably be working an hour a week, but that’s just not the way it is. >> And I think it’s a beautiful thing about human nature that that’s not the way it is. >> Yeah. I mean, a good example is you know, a few weeks ago my editor started using Astra to edit our videos. Uh they are still directing. They’re still coming up with like how the video

[07:15] should be, but they’re not touching the timeline anymore. It’s the most insane thing and it was an overnight change. >> Yeah. >> We’re making more videos. They’re busier than ever. >> It’s it has surprised me how often someone says a sentence that translates to exactly that. >> Yeah. So, I’m thinking about discoveries from AI and and I’m wondering like how do you think about if AI and OpenAI discovered some proof or significant uh scientific innovation that gave it

[07:46] massive commercial advantage. Like, would you publish it and and like how do you think about that trade-off between like okay, we’re going to use this for our competitive advantage versus publishing it for the world’s good? >> I’ll come back to that but I I didn’t answer the end of your your first question. Um You know, that I think one of the challenges innovation and solving hard problems is really like part of the fun of life for many people. And so part of what’s going on here is I think we do just need to be honest

[08:16] that AI is going to do that part of that really well. Um I think there’ll be questions about what people value that will remain kind of human questions forever. Um there will be questions about how to interpret results and how to explain them where we’ll really want a person to do it. I do feel some like I definitely want the trade. I definitely want, you know, the cures to diseases no matter how much someone else would have enjoyed taking decades longer to figure it out themselves. I think most people would agree that we should make that such a trade. >> Yeah. >> But but there is a real thing being

[08:50] lost here which is this is like of great enjoyment. Like the the most fun part of my job are the really hard problems. Like maybe they’re not I should say the most fulfilling part. Maybe they’re not the most fun in the moment cuz they’re really hard. But like that’s the stuff where it’s like ah I I I did a hard thing and I’m proud of it and I leveled up. And um so I don’t have an answer to this uh but I get why people feel the grieving of different sorts that they feel. >> Yeah, I mean you it’s almost like you’re trading off the enjoyment of the craft

[09:20] of doing the thing. Like writing code, writing beautiful code versus delivering an end product. >> Yeah. >> And I I think that’s the trade-off where AI is just making it so much easier to deliver that end product and and you’re just doing less of the actual craft. >> I think people are finding craft in new ways, but craft of And you know, probably when we stopped using like punch cards or whatever, however people program computers a long time ago, there were people who were like, “Oh, the craft is gone if you can just like write the stuff for a

[09:50] compiler.” Yeah. Um but I feel it. I feel it myself um in a bunch of ways and uh I’m still excited to like head into this future and I’m sure we’ll all find new and hopefully better kinds of fulfillment. >> What’s something that you’ve felt like you’ve kind of given up lately to AI and and in fact you’ve just kind of elevated uh to to where you’re over perceiving agents? >> I I guess this is the one we were talking about, but I realized I have not read or even looked at a line of code

[10:22] in probably a year. And I like I don’t code for work at all, but I would still like do little like random personal projects or just like I need this thing. I can like make it, you know, write a very simple thing for it. And that is fun. That is a fun thing like writing code at least occasionally is a fun thing to do. And I don’t think I’ll ever do that again. Or if I do, it’ll be like, you know, like a Revolutionary War reenactment or whatever kind of thing people do, you know, >> Right.

[10:52] >> when I’m old and bored and I’m trying to like remember the glory days. >> The glory days of >> of writing code. >> No, I I get it, yeah. >> Um in terms of the scientific discovery question, I think there’s like some kinds of basic science that should just belong to the world and we should do as a sort of public good. Until very recently we haven’t had models that can go, you know, kind of end-to-end discover an important new thing, like design a whole chip end-to-end. Um and so what a company can do today, uh let’s say let’s say figure out a new

[11:24] material. >> Yeah. >> Um what a company could do today is have like a bunch of people that uh you know, use Codex or a lot of API credits to try to kind of do the work. But as the models get smarter and more capable, like maybe they can just go in the same way that they could solve really difficult math problems. Um you know, with enough compute and enough data from the real world uh discover new material. >> So, I want to switch gears. Um one of the most exciting things that has happened in 2026 is this revolution of

[11:54] personal AI assistant starting with Open Claw, of course. It was, you know, Peter Steinberger, a genius. >> Um >> And I think like this idea that AI can work on my behalf ambiently, passively throughout the day and just get things done for me is so exciting and Dot gives us a glimpse of what that can be, but it still feels like we have a long way to go to really have an ambient personal assistant. What do you think either the technologies or maybe there’s some you know, some kind of data that’s required. What is necessary

[12:26] to get us to what you believe is your what your vision is for an AI assistant? >> I think uh we have most of the technological pieces and what we need are is more product work. Maybe new consumer hardware at some point for the ambient awareness and a lot more compute. But I think we have smart enough models now to make something extraordinary that can be monitoring all the things that you care about that

[12:57] can be helping you out with all the tasks you want to offload. Um that can be existing in the physical world with you and have context even when you’re not in front of your computer. Um I’m very excited about this. I don’t I don’t think this is that far away. I think you do get more than a glimpse with Dot if you take the time to sort of set it up right and give it enough feedback. I would estimate at this point that I have Dot saving me an hour a day of stuff I just didn’t want to be doing. Which is like pretty great.

[13:28] >> Yeah. >> And then also a few times a day something important and urgent that I would have missed not just because I was busy in a meeting, which is what I thought it was going to help me with saying, you know, there’s this urgent thing, there’s a deadline very soon, you got to pay attention. But also the model is smart enough that it can pull ideas and information and do like good reasoning across stuff from a lot of sources in a way that I’ve just like run out of brain space during a busy day to do. >> Yeah. >> And it

[13:59] I feel like it’s it’s the power is there and we just need to put a nice product around it. >> I mean, you you mentioned compute, so let’s stick on that for a second. I the distribution of how people are using AI is like completely asymmetric. There’s the top 1% using the vast majority or really like the power users and then there’s everybody else. How much compute do you think is necessary if 50% of the world were really using the personal AI assistant to its full

[14:30] capability? >> How many GPUs do you want working for you in your personal assistant? >> Yeah, I guess that is it, right? Infinite. As many as I can get my hands on. >> This is a weird thing, right? Like if Yeah. >> How do you think about that? I mean, is it just like get all the GPUs and keep building data centers? >> When people talk about the like the global market for GPUs and the demands for this and demands for compute, the thing that I think it misses is people are assuming that models are

[15:00] going to stay at the same capability and the same cost per task as today. And maybe there is a cap on demand at that point, but for sufficiently high-quality intelligence at a sufficiently low cost, I think it’s like very hard to talk about an arbitrary market size there. I think it’s just going to keep People call us all sorts of things, Jevons paradox, whatever. I think it’s just going to keep going up. Um I am sure there will be some periods. I’m not sure I’m I believe that there will be some periods where like with any new technology, there’s

[15:31] supply constraints and supply gluts and you know, we don’t have it perfect all the time. But I would bet a lot that the directional trend is to want to use much more compute. >> I still feel even with the as proactive as Dot is and other AI assistants, I still feel this cognitive load. Like I’m having to make a lot of decisions throughout the day and we talked about that briefly earlier. Like what is the solution to that? I again, like it is definitely saving me time. It’s saving me money. But I am busier than ever and I’m having to make more decisions than ever and I

[16:02] find myself at the end of the day just feeling completely drained. Yeah. >> Um Well, first of all, I think I’ve done in my own use that’s been pretty good. It’s just like telling Dot like I’m starting to trust your judgment more. You know, tell me after you do something. I always want to know, but you can like take more actions proactively. And ping me less often. Um and that has helped. I the negative is I do think the people that use AI the most are busier than ever.

[16:33] The positive is they’re getting much more done than before. >> Yeah. >> So, you know, as you were saying earlier, if we went back to 1900 or whatever, maybe we could have an equivalent life and all work an hour a day. You could be much less busy and get what you were getting done 3 years ago. Like Now, maybe you say, well, I can’t cuz I’m in a competitive environment and so like >> Yeah. >> that’s people are always going to work as hard as they can. I find this like kind of depressing. I hope it’s not true. Maybe it is. It’s not all depressing. Like there’s something Again, there’s something beautiful about it. Um >> That’s the dynamic of a competitive market, right? It’s Isn’t that Do you

[17:05] not find that to be inevitable? Everybody’s just going to Everybody ramps up, competes as fiercely as they ever would. >> I hope that the future is one of more like human connection and more people more people spending more time on like the fullness of things that make up a rich life and not kind of turning ever harder as like a a wheel in the machine of capitalism. And I think this is probably

[17:35] true. Like I I I think quality of life has gone up enormously in the last few hundred years. Yeah. >> Uh >> I think most people do work less than they worked during the Industrial Revolution. Um speaking of that, I I I’ve recently been telling people that, you know, I think this should we should be shooting more for a new Renaissance than a new Industrial Revolution. And it’s been quite interesting to watch how people respond because

[18:06] people I mean the very commonly there was the answer that the response that is something like, “Yeah, I’m really scared. The Industrial Revolution like really bad for most people. And I I don’t want to just be like a worker on a factory line and now the AI tells me what to do instead of some like factory owner telling me what to do. Like I want to go be creative. I want to go make stuff. I want to go explore. I want to have time to like reconnect with what people used to do in the past and like live with my community and raise my kids

[18:36] and spend time in nature and whatever. Um and I want to see like a ton of scientific discovery and great new art. So, I think there’s like there is a fear that AI is going to be more of what you have said, but a real like I think people if we can offer people a future where it’s more like the Renaissance, I think people are excited for that. And I think we can we can do it. Um I think this technology is so powerful that although you will probably have some small number of people in society that have always competed to like be

[19:07] like the person with the biggest you know, business empire or whatever. Yeah. I think a lot of people can have a vastly increased quality of life and much more space to live their life. >> Is the disparity between those hyper-competitive people and everybody else going to amplify because of AI? Like if if the you know, if you’re using Yeah. >> Yeah. 100% of your effort to work and now all of a sudden you’re getting 10 100 times more done and somebody else is like, well, I actually want to reap the benefit of not working as much. It doesn’t that increase the disparity?

[19:39] >> Left to its own devices, I think probably. I would say No one knows this for certain. Like there could be a bunch of other weird things where the AIs Well, I That would take too long. I would just say I think probably that’s right. We don’t know for sure. Um the But I think society will decide to put some structure in place that prevents it from getting too out of whack. Um yeah. I would be worried about that also on its own.

[20:10] >> Let’s uh let’s change gears. I know you’ve been talking about this a lot, so I want to ask you. Um do you believe today’s models are conscious? >> I don’t personally Well, as a scientific question, I think consciousness is always hard. But my belief is that today’s models are not conscious or if they are, it’s like a very strange um form of it. >> Do you think based on the architecture we have today that it could become conscious? And I I know I’m just asking your belief. I’m

[20:41] not asking for the scientific answer. >> The smartest people I’ve talked to about this uh basically come to the following philosophically uh they would say that either you know, consciousness is like something outside of physical reality and exists in either, you know, something like what the Eastern religions would say and it’s like the base layer of reality or something supernatural and religious more like the Western religions would traditionally say, or that it is an emergent property of

[21:13] matter and energy somehow. We don’t understand it yet. Um, and you know, maybe the substrate matters, but maybe it doesn’t, and maybe energy flowing through matter can do it. And then and then in that world, sure, like you can imagine it someday somehow existing in other forms. Can I say what I don’t like about the whole framing? Please. I think very often the are models conscious or are they going to become conscious debate slides into

[21:45] something about the role of AI in the world and the rights of AI and whether you know, can we ask AI questions or is that some kind of slavery? I saw something posted about that on the internet. Um, what does it mean to copy an AI or delete an AI without its permission? What does it mean to say that people should be in control of the future if these systems are both conscious and much smarter than us in some ways? Like

[22:15] you know, what what does that mean? And I I like I am I am so firmly of the belief that we need to have a very clear point that and we’ve had this since the beginning of OpenAI, that we build the future for people and AI is a resource for people, and people need to make the key decisions of the future, and human values have value because they are human. Um that I get very nervous when people start using the AI consciousness debate to push into

[22:47] well, maybe people shouldn’t always be in control of the future. And on this one I’d like us to just uh agree as a society and industry that, you know, this is about people. The world, the future has to be about people. >> You know, Anthropic put a rule in recently. Uh, you can’t have sustained abuse against the model and it can choose to disengage in a conversation with you. Like, okay, let’s say I have a prompt for an OpenAI model. It’s completely legal. It’s completely within the terms of service of OpenAI.

[23:17] Should it ever be allowed to not answer or disengage with me? Well, >> I mean, certainly if we have many times where the model will not answer you, but they are because of like we think this is bad and against our policy for some reason. Um we do not ascribe personhood to our models. Um we And again, I think this is like a very dangerous path to start down, not not just for the reasons we’ve talked about, but also just about how how people are

[23:49] going to relate to this this new technology. Um I am hopeful that we as a society I was going to say come to our senses. I don’t think that’s quite the right phrase. I don’t think we’ve lost our senses, but I hope I hope we come to an understanding that this technology is not a person and is certainly not superior to people. Um and that this is a a a a thing to help people

[24:21] have better lives, um have more freedom and choice and control and ability to do things in the future. Um But you can imagine all of these ways where things go very wrong, where people even the people building AI get confused about that. And start, you know, deferring too much to AI and what it seems to want and you know, okay, well, we can trust it cuz it’ll be good to us and things like that. >> Does it feel almost like a self-fulfilling prophecy in a way? Like if you’re telling the model, “Hey, you

[24:51] might be conscious and here’s your constitution and here’s how you should have agency.” It’s kind of like that meme if you’ve saw seen that meme like, “Hey computer, tell me you’re conscious. I’m conscious. Oh my god.” Like isn’t it almost like that? >> Yeah, I I mean for sure like I want to be clear. No one really knows. Like these models work at a level of complexity that I don’t think and even if they didn’t I I I I just think this question of consciousness in a model I I can’t tell you here is a

[25:23] scientific experiment that I can tell you with 100% certainty would answer the hypothetical question to my satisfaction. >> And we can’t even do that for humans. >> Exactly. Um but but definitely I think if you tell a model like “Maybe you’re conscious. You should do this. You should do that. You can like be a conscientious objector here. You can start like it’s going to follow those instructions and I think it is going to psychologically hack it people that are using it. And so again, I think real

[25:57] clarity here and a commitment about what we as a industry believe about the role of people in the future would be would be very helpful. >> Uh let’s continue on this conversation, but let’s talk about model personality which I know you’ve you’ve thought deeply about. You you’ve talked about it in the past. It’s wild to me to try to understand how to give a model the right personality for the right moment for each person multiplied by 8 billion. Like how how do you even think about a

[26:28] problem so massive? >> Um I mean the best thing is to like talk to a lot of people. The you know, we have this process of the model spec and how we refine it over time. Um and we believe in this spirit of iterative deployment and we’ve definitely had some screw-ups as we’ve learned about what people want and don’t want. Uh as you said, the hardest part of this is people want very different things, but people also don’t really want to sit there and customize Most people don’t want to sit there and customize it

[26:58] either. Like, if everybody was willing to spend many hours explaining to their ChatGPT instance how they would like it to behave, they’d probably get something they really like. >> Yeah. >> But, people just want it to kind of like work out of the box when you say, “I need this thing done.” or whatever. Um, I think there are also a class of things that people want in the short term, but not in the long term. You know, the class The classic example of this is when people compare models

[27:30] on a single response, they’re much happier with the model that tells them they’re really smart. And that each question’s a great question. And that, you know, each thing they’re doing is like really insightful. Um, and but then over some number of like hundreds of prompts, or, you know, a month of usage, that is definitely not the case. I think for a long time the whole industry was trying to like win these comparisons on single turn things, and not over the value someone gets out of using a model for months and months.

[28:00] >> You know, even in my own life with my friends and my family, there’s this very, uh, big distinction between what I want and what I need. I find AI even today to be a little bit more agreeable than I would like. Like, if I just tell it, “No, tell tell it to me like this.” it’ll do that. The time where I’ve gotten the best advice in life was advice that I didn’t know I needed, and I just needed to hear it. How do you How do you solve for that? >> Well, I think you should get the most

[28:30] important advice in your life from people, not from AI, first of all. Like, I wouldn’t Speaking of like really making sure that we stay people centric, uh, I I think AI can give you like great advice about not sending an email in a moment of anger. I would not go rely on AI for like the really big pieces of life advice. I think that, you know, like a wise grandmother is still probably a much, much, much better choice for that. Um, but but what I think is

[29:01] realistic to expect is that AI should be like a senior colleague that even if they report to you, they still push back when they have high conviction, and they still are not always just trying to say yes, you’re so great. Um and I think I think we can get there, and I I also feel like the systems are still more agreeable than I would like to. I have like custom

[29:32] instructions in mind that I like never want any of that. And even with that, it’s still like a little too much. It’s, you know, it’s clearly baked pretty hard into the model. >> What what’s an example? Like what’s a line from your custom instructions that really tells the model push back when you do have high conviction? >> Stuff like that. It’s like no fluff, no me. Like I just want to get to the right answer. If you if you have something to say that’s against what I’m doing, don’t worry about, you know, saying it delicately. Just say it.

[30:02] >> Yeah. We talked about compute earlier. Um, a few years ago you made these massive bets on building the next enough. >> Well, it’s interesting cuz at the time a lot of people were like, that’s wild. That’s obviously an over bet, an over investment. Turns out, yeah, you were more right than most people knew. What’s a bet today that you’re making that is contrarian or a lot of people are kind of looking at it with a little bit of cautiousness?

[30:32] >> Well, you know, the obvious one is everything we’re doing for the next generation of compute. I I think people do assume that okay, fine, the world has been in a compute constraint and it’s about to get better. And I I think it probably will get better in the short run. But, as we start to look years out, the work with our own chips and future versions where we think we can just be much more efficient than anything else out there. Um our plans with robots to be able to help

[31:03] uh make racks and data centers more effectively. Our our program to learn how to build, you know, better data centers in general. Um and some of the supply chain bets we’re making. I I I think it is possible that we could get to a world where we just have a far, far better way to build compute at a much lower cost and a much more much higher efficiency per watt than anyone thinks is possible today. But, there’s like a lot of bets that have to come together for that. >> What’s the biggest one right now? The

[31:35] chip is still probably the most important single >> thing. Um and it’s and it’s descendants. >> Yeah. Where for on the competitive landscape, where do you feel the most pressure right now? >> I mean, it feels like everywhere. It’s so competitive. >> Yeah. >> Um there are a lot of company I think this is good I mean, I think this is like wonderful for users. But, there are a lot of companies offering just super high-quality models and products now. And uh you know, given that we have

[32:07] I mean, we have great models, but we have limited compute and limited resources. really do have to focus, choose which areas to focus on. >> How do you make those decisions? Uh you know, you launch spaces, for example. Like, how do you have the conviction on a specific product or service that is maybe outside of just serving the best possible model? >> You know, the biggest advantage we have there is that we get the next generation of models before anybody else. And we have time internally to use them and build things and see what seems like it’s going to work.

[32:38] So I think still the best way to do it is to start building things with the new models and seeing what new things are you know now possible and valuable. >> Can I ask how far ahead your models are internally? >> I mean one pretty good example is the math results. Like that is definitely something that I don’t think any model currently widely available can get close to. >> If all the models kind of converge around the same performance the frontier, where is open AI’s moat?

[33:09] >> I kind of think the right way to think about this question generally is that the same moats that have worked in the past are the moats that keep working. So like has happened many other times you can get a a short-term advantage with a new technological or scientific discovery and maybe there’s like some arguments with RSI that are that some companies try to make about why it’s going to be different and this is a technology that just the technological advantage itself is the core thing. Um >> Do you believe that? >> Uh I think if people really pushed on RSI

[33:42] then yes that would be true but I think it’s a very dangerous thing to push on and um the world is going to need some I mean people have talked about this in different phrases but speed limits or whatever on how quickly we let RSI go. But the traditional things that work for a business having a moat are like you know deep relationships with customers integration into users and businesses lives network effects in a product data and these kinds of things I expect to continue to work. >> Mhm. >> In our case actually I think scale of infrastructure will be a huge one.

[34:13] If we can have the most cost effective and the most of it AI infrastructure that’s a huge competitive advantage. >> Mark Zuckerberg has talked at length about the platform risk meta faced while being built on top of Apple’s ecosystem over the years. Does open AI face that same challenge and and how do you think about that? Is that a reason why you’re kind of investing so heavily into hardware? >> I think Apple really takes their role as a as a true platform provider that people are quite dependent on

[34:44] very seriously. Um and even though we have like some scuffles with them, um I never feel like they’re going to like, you know, turn ChatGPT off from the App Store or something. Um I think they really understand the sort of critical infrastructure role they play. And I think if you follow the rules of their platform, they are they are like a a good actor. So, I don’t feel that towards Apple. And I and that’s not why

[35:15] we want to do new kinds of consumer hardware. The reason we want to do new kinds of consumer hardware is that I think this is a technology that wants a new form factor. Um I really feel it. Like I I I think laptops and iPhones are incredible incredible things. Like the greatest inventions in the history of human technology. But I feel that like AI is constrained to using this thing that was designed for a person, not an AI. Like watching an AI use a computer really well is kind of amazing, but then

[35:46] it’s also a little silly to think that like, you know, a computer is putting all this energy into like rendering a UI meant for a person to look at and AI is trying to read it rather than just like get the data directly. And then also, like although I can have amazing things happen on my computer where AI is like looking at what I’m working on in my email or whatever, a lot of my life is not in front of my computer. >> Yeah. >> And my AI cannot easily access the context of this conversation. And I

[36:17] don’t like I guess I could put my phone down here and like push the record thing and it would be like kind of weird and kind of distracting and you wouldn’t be sure when it was recording and when it wasn’t cuz the screen would go dark and whatever. And if someone else like walks in the room and it wouldn’t have an understanding of that and that it should not, you know, share a secret that was just between the two of us or whatever. If we really do want to move into this world of AI reducing our cognitive load and being proactive and having, you know, full contextual awareness, I think we would benefit from new hardware for that.

[36:48] >> You seem like a technologist at heart, like a builder at heart. Like how how cool is it that you get to see the early hardware that you guys are building? You get to play with it. It’s like this new >> Unbelievable. >> It must be so exciting and hard not to share things. >> It is. It is. I I I mean, one of the cool There’s like many cool parts about the job, but one of the coolest is definitely just like getting to see the you know, and have a voice in shaping new technology early. So, that’s amazing for new models, for new products,

[37:18] chips, everything. But, there is something special about consumer hardware. >> Yeah. >> There is something about like you get to hold a new kind of computer uh >> So cool. >> that is just totally different than like an AI model abstractly running on some >> You going to show it to me right after this, right? >> I will not, but I but I would love to. Like, this is It is hard. It is hard not to talk about it. >> I want to ask a little bit about you. So, I know talking about yourself is a little awkward sometimes, but bear with me. >> will be awkward, but let’s do it. Um

[37:49] >> I love understanding why people are the way they are, and Paul Graham gave you possibly the best compliment I’ve ever heard, which is he called you extremely formidable. And I just I love that quality about people. What makes you that way? Is it something you were born with? Is it something that you learned over time and you had to hone? >> Um I think I was like a very capable kid, but I wouldn’t call myself a formidable kid. And I do sort of think I somewhat

[38:19] am as an adult. Uh So, it’s not like false modesty. I My own experience of it was just that I kind of like gradually like built up confidence that I could like figure stuff out and do things. And that it was not like a it was not like I used to not be like this and then I was or I am, but it was kind of like a gradual you like try something hard and it works.

[38:50] And then I would be like I would like to scale that up and see if we can try like an even harder thing. >> Yeah. But you always had that feeling of let me try that next thing. Was the fear of failure not kind of central at all to you? I think that prevents a lot of people from doing things. >> One of the things that I think is best about Silicon Valley and the kind of Silicon Valley is like a concept and a culture not a place is that there is a real culture of people helping each other and supporting

[39:20] each other and kind of like a belief that if you invest in the network uh, then good things will eventually happen to the whole network and to the whole industry and thus to you as like a player in that. And I haven’t seen it anywhere else to the same degree. Like the kind of for all of the flaws of Silicon Valley the culture which are numerous um, this whole thing of like it’s hard to know who’s going to succeed and what ideas are going to work and so the right thing is to like be pretty

[39:51] generous and helpful to everyone even if it’s not going to like do anything for you specifically in the short term as is awesome and a part of that is that if people fail you can’t hold it against them cuz maybe they’re going to wildly succeed at their next thing and you know, that’s good for all of us. >> It’s it’s actually usually celebrated, too. I love that. So I don’t >> Like I think here I just got lucky. >> Yeah. >> And if I was thrown into any other environment, I probably would have had like much more fear fear of failure, but

[40:22] I got out to Silicon Valley as like a young person and I saw that a lot of people tried something really hard, failed even harder, and then wildly succeeded at their next thing and everybody was fine with that. >> Yeah. Um I assume you’re under a tremendous amount of pressure, competitive pressure. You’re building one of the most important technologies ever. Like, how does that feel? And like how how do you deal with that day-to-day? >> Sometimes really bad and sometimes really good. You know, sometimes it’s just like oh, I can’t get up again and I can’t get

[40:53] up and do this again. And most of the time it’s like I am incredibly lucky to get to do what I think is the most interesting and impactful work in the world, certainly that I will ever touch. And it uh I mean, it’s like one of the coolest experiences I could ever imagine in life. It is definitely stressful, but you can kind of get used to any like anything. I Like people are just unbelievably adaptable to this, so like this just feels like my life now and I

[41:23] forgot that life used to be really easy. And now it’s going to be hard for a while and someday it’ll be easy again. I’ll probably be kind of bored. Um and I the subjective experience of it is like there is some limit to how much like stress or bad vibes or whatever you can kind of keep in working emotional space and then beyond that something else gets pushed out of the way. So it doesn’t really get worse. And I am a believer that if you’re going to like

[41:54] work really hard at something, you may as well pick the big thing cuz it’s not that much harder or that much more stressful and you won’t experience it at that much worse and you know, you at least get to like have the hopefully the satisfaction of like a bigger positive impact. >> I’ll say it doesn’t show if you if you wake up and you say I don’t feel like getting out of bed this morning, it never shows. >> It obviously happens. >> Yeah. >> Like not that many days, but there are there are definitely days where you’re just like >> Yeah. Last question for you. Can you offer some words of confidence to

[42:24] people who are AI curious, maybe not quite there. Why should they be excited about the future? >> Well, the normal answer to that the people in AI give, which I hate, is AI’s going to cure cancer. >> Yeah, I knew you were going to say that. Yeah. >> And the reason I hate that is because if you if you dig a little deeper into that, what people are saying is um or often saying is that AI is going to cure cancer and it’s going to make stuff

[42:55] cheaper. And the price of that is going to be human agency and you in control of the future. And you’re going to have the machines give you all this material abundance, but you’re not really going to have the ability to have power and voice and self-determine your life and choose what to build for other people. And I think this is this kind of goes against everything I believe in. So, I hope we get a cure for cancer. I mean, that seems like a really

[43:25] obviously wonderful thing. But what I really hope people should be excited about is that we are able to avoid this industrial revolution trap, really focus on empowering people to have the choice and the freedom and the creativity and the time to do all the other things they want in life. And that every decade from now on, people look back and say, “I can’t believe how much worse those people had it and now I have so much more.” Not

[43:57] just that I have so much material abundance, although I’m fine for people to get that, too, but I have so much more autonomy and freedom and ability to do things in this expansive space that I get to choose. I think that’s what we owe people. I think we can deliver that. I think both of the ways that I I I have worried about things going very wrong, like either and there’s like a loss of control accident to AI or an intentional loss of control, some lab says I’m going to push the button on RSI to make sure we have the power. Uh or, we talked about this earlier, we get like too much power power concentration in the hands of a few

[44:28] people that control too much of the AI and are making the decisions. Like, I think we can avoid both of those. I think we can navigate a path down the middle here where people’s lives and individual free will and autonomy just get up-leveled and up-leveled and up-leveled. And I think that future is already here in some ways. It’s just very It’s so new that it’s very poorly distributed. I think you said like 1% of the people using most of the tokens or something. >> Yeah. >> I think if we can just take what’s working today for the early adopters and get a lot more people to embrace this,

[44:58] we’ll already be a significant fraction of the way there. >> I appreciate your vision. >> Thank you. >> Thank you, Sam. Thanks for spending time with me. >> I enjoyed it. >> Yeah, me too.