Altman sobre os planos de IPO da OpenAI, o agente de IA Dots e segurança em IA

Autoria: Bloomberg Television · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Altman on OpenAI’s IPO Plans, AI Agent Dots, AI Security · Canal: Bloomberg Television · 09:06 · Assistir no YouTube

Tópicos: Agentes de IA, Mercados e economia, Modelos de IA, Segurança de IA

Resumo

Sam Altman fala sobre Dots, um agente voltado inicialmente a usuários profissionais e empresas, e diferencia o produto dos chatbots tradicionais. Ele afirma que a OpenAI busca aumentar a capacidade dos modelos enquanto reduz os preços, e relata forte crescimento nos negócios da empresa sem confirmar números publicados pela imprensa. Altman explica que a OpenAI pode adiar treinamentos ou lançamentos para reforçar segurança, alinhamento, monitoramento e segurança cibernética. Sobre um possível IPO, diz que a empresa pretende abrir o capital no futuro, mas quer primeiro se adaptar às responsabilidades e aos desafios de segurança de uma empresa pública. Ele também defende padrões compartilhados de segurança e métodos para verificar sua aplicação.

Pontos-chave

Dots começou como um produto premium, voltado a realizar trabalho, com foco inicial em empresas e usuários profissionais.
Altman descreve Dots como uma categoria diferente de produto, capaz de assumir mais trabalho do que os agentes que experimentou.
A OpenAI pretende melhorar a qualidade de seus modelos e, ao mesmo tempo, reduzir o custo de uso.
Altman afirma que a empresa está em um período de forte crescimento, mas não confirma o número de ARR divulgado pela imprensa.
A OpenAI adiou lançamentos e treinamento para dedicar mais atenção à segurança, ao alinhamento, ao monitoramento e à segurança cibernética.
Altman diz que velocidade, preço e capacidade são prioridades dos usuários, e que a empresa pretende oferecer melhorias em todas essas dimensões.
A OpenAI quer abrir o capital no futuro, mas prefere se adaptar às novas exigências de segurança antes de lidar com as pressões de uma empresa recém-listada.
Altman defende padrões compartilhados para avaliar a segurança e métodos comuns para verificar se as empresas os implementam.

Capítulos

Início	Capítulo	Resumo
00:00	Dots e os agentes de IA	Altman comenta o estilo de interação com Dots, seu público inicial e como o produto se diferencia de outros agentes.
03:12	Crescimento e decisões de segurança	A conversa aborda o crescimento da OpenAI e a decisão de adiar lançamentos ou treinamento para reforçar medidas de segurança.
06:27	Velocidade, IPO e adaptação	Altman fala sobre o custo da versão ultrarrápida e explica por que a OpenAI quer se preparar antes de se tornar uma empresa pública.
08:04	Padrões compartilhados e divulgação de riscos	Altman defende padrões comuns para avaliar a segurança de sistemas avançados e discute a responsabilidade de comunicar riscos e benefícios.

Citações

Se continuarmos elevando a qualidade e reduzindo o preço, as pessoas usarão nossas ferramentas de maneiras extraordinárias. — 02:42

Quando precisarmos desacelerar o treinamento ou o lançamento de um modelo para avançar mais na segurança, faremos isso. — 04:48

Eu não tinha percebido o quanto ia gostar disso, nem como seria difícil voltar atrás. — 06:27

Seria bom ter padrões compartilhados de segurança e métodos comuns para garantir que todos estejam fazendo um bom trabalho. — 08:36

Conceitos e entidades

Sam Altman (pessoa): CEO da OpenAI, entrevistado sobre os produtos, a segurança e os planos da empresa.
OpenAI (empresa): Empresa de IA cujos produtos, crescimento, decisões de segurança e possível IPO são discutidos na entrevista.
Dots (ferramenta): Agente apresentado pela OpenAI como um produto capaz de ajudar usuários a realizar trabalho.
Astra (modelo): Modelo citado por Altman como parte do produto Dots e em versões que podem ser mais rápidas ou baratas.
ChatGPT (ferramenta): Produto da OpenAI mencionado na conversa sobre o crescimento da empresa.
IPO (conceito): Oferta pública inicial discutida como uma possibilidade futura para a OpenAI.
safety case (conceito): Justificativa ou conjunto de evidências usado para demonstrar que um sistema pode avançar com segurança.

Tradução completa (pt-BR)

00:00 Sam Altman se junta a nós ao vivo na Bloomberg Television, do Fort Mason, em San Francisco, com o apresentador do BTEC, Ed Ludlow. Obrigado, Romaine. Vamos começar falando dessa transição para um agent sempre ativo, o Dots. Sam, sabe o que é interessante na apresentação? É como a equipe da OpenAI conversa com o Dots internamente. Entende o que quero dizer? Acho que sim, mas me explique. Não o tratam como uma IA, tipo: “Ei, ChatGPT. Tenho uma pergunta.” É uma conversa.

00:33 Sim. Sim. Sim. Não acho que seja, tipo, antropomorfizado. Eles não… Nós não conversamos com ele exatamente como se fosse uma pessoa, mas há um estilo diferente do chat tradicional do GPT. O motivo de eu querer começar por isso: para quem é o Dots, afinal? Começou como um produto premium. Sabemos que… você sabe, estamos colocando nele nosso melhor modelo, o Astra. Premium no sentido de prosumer. Desculpe interromper. Ou é um produto empresarial? Mais para… mais para realizar trabalho, acho que é principalmente para empresas, mas há muita gente que vai criar as próprias startups, que se encaixa na categoria tradicional de prosumer. Mas este é, tipo, um modelo muito capaz, e tem um volume enorme

01:07 de uso. Então estamos começando pelo segmento de ponta do mercado, e, com o tempo, vocês verão uma versão para o mercado de massa e consumidores. Quanto você e a equipe, várias pessoas na OpenAI, comparam com os agents que já existem por aí? Quanto vocês usam um Grock Bot, um Muse e um Instinct do ponto de vista do produto? Porque eles já estão por aí há algum tempo, e as pessoas estão realmente usando. Já experimentei. Não uso com regularidade. Não encontrei um lugar para eles na minha vida, mas, sabe, tento experimentar todo grande produto novo de IA.

01:39 Produto. Este é uma categoria totalmente diferente. Tipo, o volume de trabalho, o nível de capacidade, o nível de inteligência que ele pode assumir… Acho que isso é algo completamente novo. Por que é diferente? Tipo, literalmente, estamos falando das capacidades dele ou é uma discussão econômica sobre como vocês definiram o preço ou em quais planos existentes o disponibilizaram? Bem, quero dizer, o preço é mais alto do que o de outros produtos do mercado, mas isso se deve à capacidade e à quantidade de computação que vale a pena investir nele. É por isso que acho que ele é útil de uma maneira nova, em um

02:11 novo patamar. Vocês lançaram o GBT 6.1 Soul com capacidade tipo a do Astra. E por um quinto do preço. Mas o preço é tão diferente. E tenho tentado entender qual é a história geral. Parece que estamos caminhando para uma inference mais barata num momento em que todo mundo está muito mais disposto a pagar por isso. Bem, como vocês chegaram aos planos que criaram? Quero dizer, há muito tempo falamos que nosso objetivo é oferecer inteligência cada vez melhor e reduzir o preço cada vez mais. E a razão pela qual acho que as duas coisas são verdadeiras é que, quanto melhor você torna a IA,

02:42 mais as pessoas querem usá-la. Está claro que as pessoas estão dispostas a gastar mais com IA do que nunca, mas querem fazer tanta coisa com ela. Então, nossa crença é que, se continuarmos elevando a qualidade e reduzindo o preço, liderando de fato a fronteira de Pareto em cada ponto dessa curva, as pessoas usarão nossas ferramentas de maneiras extraordinárias. E até aqui, hoje, ouvir dos desenvolvedores o que estão criando com isso e o que podem fazer se continuarmos reduzindo o preço é realmente impressionante.

03:12 Como está o ritmo dos negócios da OpenAI neste momento? Como vocês encerraram o terceiro trimestre? Como foram os resultados? Acho que não divulgamos nossos números específicos, mas há números nos jornais esta manhã. Quero dizer, estamos num período de crescimento muito acentuado. Acho que as pessoas adoram os modelos. Temos conseguido criar novos produtos e novas ferramentas para desenvolvedores e empresas. O ChatGPT está crescendo muito bem. Então, em todas as áreas — consumidores, desenvolvedores,

03:43 empresas, todas essas novidades que estamos lançando no Dev Day — vemos muito impulso nos negócios. O número divulgado foi um ARR de 70 bilhões, acho que do terceiro trimestre. Não sei… Isso é significativo para você? Não sei de onde vêm esses vazamentos ou números divulgados. Mas, obviamente, não vou comentar nem confirmar nem negar. Só digo que estou muito satisfeito com o crescimento. O interessante sobre o Dots como produto e agent, mas também sobre o 6.1 Soul, é que vocês decidiram lançá-los. Esta semana, vocês seguraram o lançamento do

04:17 Astra 6.1, e, na semana passada, pausaram o treinamento de um modelo diferente. Sim. Explique como vocês tomam essa decisão. Então, o SOL 6.1… Certo. Seguramos o Astra 6.1. Estamos falando disso há alguns meses, mas estamos claramente entrando numa parte muito íngreme da curva de capacidades. E, considerando que nossa missão é criar isso para as pessoas e empoderá-las, e que parte disso é segurança, parte disso é

04:48 distribuir os benefícios, quando precisamos decidir se vamos desacelerar o treinamento ou o lançamento de um modelo para avançar mais e dedicar mais atenção à segurança, ao alinhamento, ao monitoramento e à segurança cibernética, faremos isso de bom grado. É claro que vamos continuar avançando, mas o mundo deve sempre poder confiar em nossos argumentos de segurança, em nossas afirmações sobre segurança e no fato de que seremos responsáveis com essa tecnologia. E não queremos fazer aquilo de: “Ah, precisamos de regulamentação ou

05:21 precisamos que nossos concorrentes façam x, y ou z, senão não estaremos seguros”. Vamos agir com responsabilidade. Queremos que o mundo confie nisso. Ainda há coisas que podemos lançar com toda a segurança. Por exemplo, uma versão mais rápida do Astra ou uma versão mais barata do Astra Six: podemos fazer isso tranquilamente com esses novos produtos maravilhosos. Mas, sabe, acho que entendo por que algumas pessoas querem simplesmente acelerar a todo vapor, sem pensar nas consequências, mas nós vamos ter que agir com responsabilidade enquanto avançamos para esses novos níveis de capacidade. Foram feitas algumas perguntas difíceis. Estou muito atento ao público de desenvolvedores e também aos

05:54 usuários da tecnologia. Você disse que as duas coisas principais que eles querem são velocidade e desempenho, e vocês lançaram novos mecanismos para alcançar isso com a geração atual de modelos. Por que essa técnica é melhor do que lançar um modelo mais capaz? Bem, quero dizer, eles também querem isso. Também vamos fazer isso. Então, acho que todas essas coisas são boas. Sabe, velocidade, preço e capacidade certamente estão entre as coisas que as pessoas mais pedem. E acho que a resposta é: todas. As pessoas querem todas elas, para diferentes casos de uso. Dito isso, acho que a ultrarrapidez é

06:27 algo realmente especial. Eu não imaginava o quanto ia gostar dela nem como seria difícil voltar atrás. Devia ter imaginado, porque todos queremos que tudo seja mais rápido, mas é incrível. É uma proposta econômica para a OpenAI? A economia disso é boa para vocês? Bem, é muito mais caro de operar, mas também cobramos mais por isso. Então, tentamos fazer com que fosse algo… Podemos conversar com a Sarah sobre o equilíbrio entre… Sim. Quero dizer, sabe, acho que o mercado vai decidir, mas acho que as pessoas vão ficar empolgadas com esse preço, e é razoável para nós.

06:57 Perguntaram a você de novo sobre um IPO, e o que você disse foi que quer abrir o capital um dia. Sim. Mas, essencialmente, as obrigações de uma empresa de capital aberto são incompatíveis com o compromisso ou o foco em segurança. É isso? Não exatamente. Para uma empresa que acabou de abrir o capital, e para nós entendermos como é viver como uma empresa de capital aberto, com a pressão dos investidores e todo o peso adicional que vem com isso, enquanto atravessamos esse período de adaptação a esse novo nível de capacidade e aos novos requisitos de segurança correspondentes. Nós

07:32 Só queremos nos estabilizar, ter certeza de que entendemos como operar dessa nova maneira e conseguir tomar algumas dessas decisões que temos pela frente sem a pressão de ser uma empresa recém-aberta na bolsa. E então, acho que vamos abrir o capital em algum momento. Surgirão novos níveis, mas não tudo ao mesmo tempo. Você sente que os investidores atuais estão dispostos a esperar até 2028? Isso importa? Nossos investidores parecem muito felizes conosco e muito pacientes. Deixe-me perguntar uma última coisa. É muito raro as pessoas dizerem que você e

08:04 Jerome Powell e Elon Musk concordam em algo: essa ideia de avançar no ritmo certo na fronteira. E a OpenAI divulgou com bastante clareza estruturas internas do que planeja fazer. Acho que as pessoas ainda estão tentando entender como seria o esforço coletivo. Se vocês colaborarem com seus pares ou trabalharem com o governo, o que isso resultaria, de fato, em termos de segurança de IA? Acho que uma coisa boa seria haver padrões compartilhados para os casos de segurança, sobre o que é necessário em cada nível para avançar sem riscos indevidos, e então…

08:36 algum tipo de método compartilhado para garantir que todos estejam fazendo um bom trabalho na implementação desses padrões. Isso poderia envolver avaliadores independentes. Poderia haver uma análise do governo. As empresas poderiam verificar o trabalho umas das outras. Muitas propostas foram feitas nesse sentido. Mas acho que essas duas coisas seriam boas. Como você se sente em relação à divulgação do risco? Você falou às Nações Unidas que a porcentagem do risco não importa: ele ainda é grande demais. Sim. O ciclo de notícias tinha, em um prospecto da Tropics, a ameaça existencial à humanidade divulgada em preto no branco. Isso é

09:06 uma obrigação sua como laboratório de fronteira? Entendo que você tenha sentido que isso era confidencial, mas você simplesmente precisa divulgar? Acho que isso não tem nada a ver com abrir o capital. Isso é, penso eu, nossa responsabilidade em relação à nossa missão e ao que estamos desenvolvendo. Fazer isso mesmo assim: explicar ao mundo os riscos e benefícios que vemos à medida que o cenário muda e as coisas evoluem. Sam Altman, CEO da OpenAI, recebendo a gente aqui no Dev Day. Muito obrigado. Obrigado por vir. Com certeza.

Transcrição original

[00:00] Sam Altman now joins us live on Bloomberg Television from Fort Mason in San Francisco with BTEC host Ed Ludlow. Thank you, Romaine. And we’ll start with that transition to an always on agent, Dots. Sam, do you know what’s interesting in the presentation is how internally open AI staff talk to Dots? Do you get what I mean? I think I do, but tell me. It isn’t treating it like AI, like, hey, chat GPT. Yeah. Question. It’s a conversation.

[00:33] Yeah. Yeah. Yeah. It’s not I don’t think it’s, like, anthropomorphized. They don’t we don’t quite talk to it like a person, but there is a different style to it than traditional chat GPT. The reason I wanted to catch that first who’s Dots for, really? It started as a premium product. We know it’s you you know, we’re putting our best model Astra in this. Premium kinda being prosumer. Sorry to interrupt. Or or it’s an enterprise product? More like more like for getting work done, I think think is largely enterprise, but there’s a lot of people that are gonna build their own startups that are sort of in the traditional prosumer category. But this is, like, a very capable model, and it’s a ton

[01:07] of usage. So we’re starting for something at the top end of the market, and you will see us over time make a mass market consumer version. How much do you and the team, various people at OpenAI benchmark against the agents that are already out there? So how much do you use a Grock Bot, a Muse, and Instinct from the product perspective? Because they they’ve been out there a while, and people are actually using them. I’ve tried them. I don’t use them regularly. I have not found a sort of place for them in my life, but I, you know, try to try every major new AI

[01:39] product. Product. This is a totally different category. Like, the amount of work, the level of capability, the level of intelligence this can take on, I think this is just a completely new thing. Why is it different? Like, literally, are we talking about its capabilities, or is this an economic discussion of how you’ve priced it or where you’ve made it available in existing tiers? Well, I mean, it is priced higher than other things in the market, but the reason for that is, is because of the capability and the amount of compute worth putting into this, which is why I think it’s useful in a new kind of way at a

[02:11] new level. You’ve launched, GBT 6.1 Soul at, like, Astra capability. And a fifth of the price. But the price is so different. And, like, I’ve been trying to understand, like, what is the big picture story? It seems like we’re moving towards cheaper inference at a time where everyone’s much more willing to pay for it. Well How did you arrive at the tiers that you’ve done? I mean, we’ve talked for a long time about our goal is to make increasingly better intelligence and to drive the price down and down. And the reason, that I think both

[02:42] of those are true is the better you make AI, the more people wanna use it. So people are clearly willing to spend more on AI than ever before, but they they wanna do so much with it. So so our belief is that if we continue to drive the quality up and the price down and really lead the Pareto frontier at every point on that curve, people will use our tools in tremendous ways. And just even here today, like, hearing from developers about what they’re building with this and what what they can do if we continue to drive the price down is really quite remarkable.

[03:12] What is OpenAI’s business momentum right now? How did you end the third quarter? What does that look like? I don’t think we, like, put our specific numbers out, but numbers in the newspapers this morning. It is our, I mean, it’s like a very steep growth period for us. I think what people love are models. We have really been able to make new products and new tools for developers, for enterprises. ChatGPT is growing phenomenally well. So across the board, consumers, developers,

[03:43] enterprises, all this new stuff that we’re launching at Dev Day, we see a lot of business momentum. The the reported number was ARR 70,000,000,000, I think, a three q number. I don’t know Is that meaningful to you? I don’t know where these reported leaks or reported numbers come from. But I I am obviously not gonna comment either way on that, but I will say, like, very pleased with the growth. The interesting thing about Dots as a product and agent, but also, six point one Soul is you made the decision to release those. This week, you held back the release of

[04:17] Astra 6.1, and last week, you paused training on a separate model. Yeah. Explain that how you come to that decision. So SOL 6.1. Okay. We held back Astra 6.1. We’ve been talking about this for a few months now, but our we’re clearly getting into a very steep part of the capabilities curve. And given that our whole mission is to build this for people and to empower people, and part of that safety, part of that’s

[04:48] why they’re distributing the benefits, when we need to make a decision about slowing down our training or our model release so that we can make more progress and put more of our attention into safety, alignment, monitoring, security, we will happily do that. Now, of course, we’re gonna continue to make progress, but the world should always have confidence in our safety cases, in our safety claims, and that we are going to be responsible with this technology. And and we don’t wanna do this thing where, like, oh, we need, you know, regulation or

[05:21] we need our competitors to do x, y, or z, we won’t be safe. We are going to do this responsibly. We want the world to have that confidence. Now there are still things that we can very reasonably release. So, like, a faster version of Astra or a cheaper version of Astra Six, we can totally do on these wonderful new products. But, you know, I think, like, I understand why some people are just like, full YOLO pedal to the metal go, but we’re gonna we’re gonna have to be responsible as we push towards these new levels of capabilities. There are some difficult questions, posed. I’m very conscious of the developer audience and also like

[05:54] the users of the technology. You said that the the two main things that they want are speed and performance, and you you released, new mechanisms to achieve that with existing generation of model. Why is that better as a technique than releasing a more capable model? Well, I mean, they want that too. We will also do that. The the so I think all of those things are good. You know, speed, price, and capability are certainly three of the things people ask for the most often. And I think the answer is all. People want all of them in different different use cases. That said, ultrafast, I think, is

[06:27] a really special thing. I did not appreciate how much I was going to like it and how hard it is for me to go back. I should have known because, like, we all want everything to be faster, but it is awesome. Is it an economic proposition for OpenAI? Are the economics a bit good for you? Well, it’s much more expensive to run, but we do charge more for it too. So we tried to make it something that, you know, it’s like a We can talk to Sarah about the balance between Yeah. I mean, it’s like, you know, I I think the market will decide, but I think people will be excited about it at this price, and it’s reasonable for us.

[06:57] You you were just asked again about an IPO, and what you said is you want to be public one day. Yes. But, essentially, the duties of being a public company are incompatible with a dedication or focus on safety. Is that Not quite. To be a newly public company and for us to understand how to live life as a public company with, you know, pressure from investors and sort of just the all of the additional weight that comes with that while we are going through this period of adjusting to this new level of capability, and the new safety requirements for that. We

[07:32] just wanna get our feet under us, make sure we understand how to operate in this new way, be able to make some of these decisions in front of us without the pressure of being a newly public company. And then I think we’ll be public at some point. There will be more new levels that come, but but it won’t be all at the same time. Do you feel support from the existing cap table to just hold off 2028? Does it matter? Our investors seem, like, very happy with us and very patient. Let me ask you this to conclude. It’s very rare people have said for you and

[08:04] Jerome Powell and Elon Musk to agree on something, this idea of pacing the frontier. And OpenAI has disclosed quite clearly, like, internal frameworks of what you plan to do. I think people are still trying to understand what the collective effort looks like. If you collaborate with your peers or you work with the administration, what does that actually result in on an AI safety I think one thing that would be good would be shared standards for safety cases about when you know, what you need at each level to proceed, without undue risk and then

[08:36] some sort of shared methods for ensuring that everybody is doing a good job in implementing those. And that could be independent evaluators. That could be government review. That could be companies checking each other’s work. There have been many proposals there. But I think those two things would be good. How do you feel about the disclosure of the risk? You talked to the United Nations about it doesn’t matter the percentage risk. Still too great. Yeah. The news cycle had in a tropics prospectus, the the existential threat to humanity disclosed in black and white. Is that

[09:06] incumbent on you as a frontier lab? I appreciate you felt confidentially, but do you just need to put it out there? I think this has nothing to do with going public. This is just, I think, our responsibility for our mission and what we’re working on To do it anyway. Explain to the world the risks and benefits that we see in the sort of shifting landscape as things evolve. Sam Altman, OpenAI CEO, having us here at Dev Day. Thank you very much. Thank you for coming. Indeed.