AI Engineer Paris 2026: palestras de abertura — Mistral, Langfuse e Sizzy | Dia 1

Autoria: AI Engineer · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: AI Engineer Paris 2026 Opening Keynotes: Mistral, Langfuse & Sizzy | Day 1 · Canal: AI Engineer · 1:12:56 · Assistir no YouTube

Tópicos: Agentes de IA, Engenharia de software com IA, Mercados e economia, Modelos multimodais, Segurança de IA

Resumo

A primeira palestra compara a adoção da IA às revoluções do vapor, da eletricidade e dos computadores, argumentando que seus ganhos econômicos dependem de difusão, investimento e mudanças organizacionais. Em seguida, o palestrante conhecido como ThePrimeagen descreve sua trajetória até uma fábrica de software baseada em tarefas isoladas, ambientes descartáveis e revisão automatizada. A Mistral apresenta sua visão de agentes para empresas, com ferramentas unificadas para construir aplicações e automatizar fluxos de trabalho. A palestra também aborda segurança de agentes, soberania de dados e modelos especializados de áudio e OCR.

Pontos-chave

Tecnologias de propósito geral podem levar décadas para produzir ganhos de produtividade, pois exigem melhorias complementares e mudanças organizacionais.
A IA pode tanto sustentar o crescimento econômico quanto acelerá-lo, mas as estimativas sobre o impacto futuro variam bastante.
O investimento em infraestrutura de IA já é expressivo; mesmo que haja uma bolha, a infraestrutura construída pode continuar útil.
O palestrante defende dividir o trabalho em tarefas isoladas, cada uma com seu ambiente de execução e processo de revisão.
Sandboxes, regras de linting e verificações automatizadas ajudam a reduzir erros e impedir que agentes acessem sistemas de produção sem controle.
A Mistral quer oferecer uma experiência unificada para que usuários de diferentes áreas criem aplicações e coordenem agentes sem precisar gerenciar cada integração.
A segurança de agentes exige limitar privilégios, detectar prompt injection, usar sandboxes e observar ações em tempo de execução.
A soberania de IA envolve controlar onde os dados são armazenados e processados, quem pode acessá-los e como a infraestrutura é operada.
A Mistral destaca modelos especializados para voz, transcrição e OCR, além de modelos adaptados às necessidades de clientes.

Capítulos

Início	Capítulo	Resumo
00:00	IA e crescimento econômico	A palestra apresenta a relação entre produtividade, tecnologia e crescimento econômico de longo prazo.
05:28	A revolução do vapor e a difusão tecnológica	O caso da máquina a vapor mostra como melhorias técnicas e tecnologias complementares podem levar muito tempo para gerar impacto econômico.
10:14	Computadores, produtividade e investimentos em infraestrutura	A adoção dos computadores exigiu mudanças organizacionais, enquanto booms de investimento históricos oferecem paralelos para a infraestrutura de IA.
15:05	Os dois ritmos da tecnologia	A conclusão da palestra destaca que inovação, difusão, capacitação e mudanças nas empresas determinam os efeitos econômicos da IA.
18:16	Da vibe coding às fábricas de software	ThePrimeagen descreve a evolução das práticas de programação com IA e a tendência de organizar o trabalho como uma fábrica.
23:31	Ferramentas, métodos e limites dos orchestrators	O palestrante compara interfaces desktop e CLI e discute os problemas de coordenar tarefas em múltiplas conversas e worktrees.
28:20	CLI, Pi e desenvolvimento remoto	A experiência com diferentes ferramentas leva o palestrante a preferir um CLI extensível e máquinas acessadas remotamente.
33:05	Load balancers e conectores para agentes	O palestrante explica como organiza assinaturas, serviços e conectores para reutilizá-los entre diferentes agentes.
37:51	Uma tarefa, uma worktree e um PR	O fluxo de trabalho proposto isola cada tarefa e busca automatizar verificações e revisão de pull requests.
43:25	Demonstração da fábrica de software	A demonstração de Bench mostra tarefas passando por etapas de implementação, revisão e teste em uma interface unificada.
46:41	Mistral: missão, aquisições e expansão	A Mistral apresenta seu crescimento, sua missão empresarial, aquisições e investimentos em infraestrutura de execução.
51:13	Produtos empresariais e fluxos de trabalho com agentes	A empresa demonstra como usuários podem criar aplicações e automatizar tarefas empresariais com ferramentas e agentes integrados.
56:38	Harness unificado e segurança de agentes	A palestra apresenta uma experiência unificada para diferentes usuários e discute riscos de acesso, prompt injection e execução de agentes.
1:01:00	Políticas contra prompt injection e soberania	A Mistral mostra controles empresariais para bloquear ações arriscadas e explica suas dimensões de soberania de IA.
1:05:55	Modelos de áudio e voz	A apresentação aborda os modelos de síntese e reconhecimento de fala, incluindo clonagem de voz, transcrição e diarização.
1:10:13	Visão de futuro e encerramento	A Mistral resume seus planos para o trabalho, a segurança e os modelos, e a organização encerra o primeiro dia do evento.

Citações

Uma tecnologia pode chegar muito antes de se difundir e de um sistema econômico se desenvolver em torno dela. — 07:07

Não tenho a resposta, mas estou animado para conversar com todos que quiserem abordar essa questão. — 16:12

Com o Pi, você tem um CLI que não faz nada por padrão. Você controla totalmente o processo. — 28:50

O futuro do trabalho é garantir que conectemos todas essas pessoas em uma só. — 56:38

Conceitos e entidades

general purpose technology (conceito): Tecnologia de amplo alcance que pode ser aprimorada ao longo do tempo e gerar ganhos em diversos setores por meio de aplicações complementares.
productivity J-curve (conceito): Padrão em que o investimento inicial e a adaptação a uma tecnologia podem reduzir a produtividade antes de seus benefícios aparecerem.
software factory (conceito): Processo estruturado que organiza o trabalho de agentes em etapas como implementação, revisão e teste.
ThePrimeagen (pessoa): Palestrante que apresenta sua experiência com ambientes de desenvolvimento remoto e processos de software assistidos por agentes.
Pi (ferramenta): CLI descrita pelo palestrante como uma base enxuta que pode ser ampliada com plugins para funções como compactação e subagents.
Proxmox (ferramenta): Plataforma usada pelo palestrante para executar máquinas virtuais isoladas em seu próprio computador.
Mistral (empresa): Empresa de IA que apresenta produtos empresariais, infraestrutura própria e modelos gerais e especializados.
Mistral Studio (ferramenta): Produto para desenvolvedores que oferece recursos como workflows, execução de longa duração e sandboxes.
Voxtral (modelo): Família de modelos de áudio da Mistral voltada a recursos como síntese e reconhecimento de fala.
OCR 4.1 (modelo): Modelo apresentado pela Mistral para reconhecer e extrair conteúdo de documentos digitalizados, incluindo manuscritos.
MCP (conceito): Protocolo mencionado como forma de conectar agentes a ferramentas e serviços empresariais.

Tradução completa (pt-BR)

00:00 … trabalho à economia, porque podemos acrescentar capital aos trabalhadores que fazem parte da economia, ou porque nos tornamos melhores em transformar esse trabalho e capital em produção econômica. E é isso que, em economia, chamaríamos de aumentos de produtividade. No longo prazo, os principais motores do crescimento econômico são esses avanços de produtividade, que, por sua vez, são basicamente melhorias na tecnologia e também no progresso organizacional, que está intimamente relacionado. É por aí que quero começar e trazer a história real para traçar um paralelo com a produtividade da IA…

00:30 …o enigma da produtividade ao qual aludi no início. Acho que podemos, por exemplo, comparar muito bem a IA com o principal exemplo de revolução tecnológica da história: a Revolução Industrial. A Revolução Industrial, como mencionei, deu início ao crescimento econômico moderno. Ainda assim, também observamos nela um padrão um tanto semelhante e interessante. A máquina a vapor, sua principal tecnologia subjacente, contribuiu muito pouco para os ganhos de produtividade por muitas e muitas décadas após sua invenção. Na verdade, levou mais de um século até que víssemos a produtividade e o crescimento econômico…

01:03 …aparecerem nos dados depois que a invenção ocorreu. Certo, um breve slide sobre tecnologias. Na história econômica, há uma classe de tecnologias geralmente descrita como tecnologias de uso geral que, curiosamente, também são chamadas de GPTs. Uma coincidência interessante para esta palestra, mas as tecnologias de uso geral geralmente têm três atributos. Elas são pervasivas. Isso significa que se aplicam basicamente a todos os setores da economia. A tecnologia pode ser aprimorada por um longo período. E o terceiro ponto é…

01:37 …bem interessante, porque significa que elas têm complementaridades. Isso quer dizer que a tecnologia aumenta os retornos em suas aplicações à medida que elas melhoram; e, conforme as aplicações melhoram, isso, por sua vez, aumenta o valor da tecnologia inicial que ajudou a viabilizá-las. Em outras palavras, as tecnologias de uso geral podem continuar trazendo benefícios à economia por muito tempo. Uma questão importante que a história — ou o futuro — responderá é se nossa GPT de engenharia de IA será uma GPT capaz de alcançar isso. Bem, não existe…

02:07 …uma lista oficial. Tecnologias frequentemente consideradas de uso geral são, por exemplo, a roda-d’água, a máquina a vapor, as ferrovias, a eletricidade e o computador. Há uma segunda ideia que quero mencionar brevemente e deixar no fundo da sua mente: há outros tipos de tecnologias que são inventadas para nos ajudar a melhorar a forma como fazemos pesquisa e desenvolvimento daqui para a frente. Essas inovações podem, basicamente, nos ajudar a impulsionar o crescimento da produtividade no futuro. Entre elas estão, por exemplo, inovações como a prensa tipográfica, o microscópio, a invenção do…

02:42 …laboratório de pesquisa corporativo ou universitário — que também vemos claramente muito na IA hoje — ou a tecnologia de aprendizado de máquina. Acho que a IA tem bons motivos para ser considerada os dois tipos de tecnologia ao mesmo tempo: uma tecnologia pervasiva, que provavelmente não atingirá rapidamente um ponto de saturação e poderá contribuir para o crescimento econômico por muito tempo, mas também uma tecnologia que pode ser usada para melhorar o próprio processo de invenção. E acho que, nas últimas semanas em particular, vimos isso, por exemplo, na matemática…

03:14 …e acho isso muito empolgante pelo que pode fazer pelos padrões de vida, porque, como vocês podem ver neste gráfico do slide, nos últimos 150 anos a economia dos EUA basicamente cresceu a uma taxa estável de 2% ao ano, em termos per capita. Dá para ver que a linha de tendência se ajusta muito bem. Há períodos em que o crescimento é mais rápido. Há períodos em que é mais lento, ciclos de expansão e recessão etc. Mas, em média, ao longo de 150 anos, foi notavelmente estável: 2%. Este eixo é logarítmico. Então, cada variação linear basicamente significa uma…

03:46 …duplicação. Um crescimento de 2% ao ano não parece muito. Se você fosse investir seu dinheiro e obter 2% ao ano, provavelmente não ficaria muito empolgado. Mas isso faz muita diferença quando se acumula ao longo de muito tempo. Então, nos 150 anos deste gráfico — ou 140 anos, neste gráfico — vemos a renda por pessoa, ajustada pela inflação etc., crescer por um fator de 10, aproximadamente. Para mim, é impressionante o que é necessário para alcançar um crescimento de 2%. Este foi um período, de 1880 a 2020, de inovações incríveis. Basicamente, todas as tecnologias modernas…

04:20 …que admiramos hoje foram inventadas naquela época: o automóvel, a aviação, as viagens espaciais, as biotecnologias, a internet, para citar apenas algumas. E acho que vocês podem preencher as lacunas. No fim, tudo isso se combina para nos dar um crescimento médio de 2% ao ano na economia dos EUA. Agora, a IA pode fazer duas coisas. Primeiro, pode sustentar essa tendência, permitindo que ela continue por mais tempo. E acho que isso já é uma grande conquista, porque podemos ver o nível de inovação tecnológica necessário apenas para manter um crescimento de 2% ao ano.

04:53 Mas, de forma empolgante, ela também pode acelerar esse crescimento. No momento, não há realmente consenso entre os economistas sobre a magnitude do que poderíamos esperar que acontecesse com este gráfico daqui para a frente. As estimativas variam desde um aumento adicional de apenas 0,1 ponto percentual por ano, acima da tendência, atribuído às GPTs. Mas também há modelos de economistas que levam em conta o autoaperfeiçoamento recursivo, algum tipo de explosão de inteligência na IA, e chegam à possibilidade de aumentos de vários pontos percentuais, na casa dos dígitos altos, no que…

05:28 …vocês podem ver neste gráfico. E, à medida que os padrões de vida se acumulam ao longo do tempo, como vocês podem ver aqui, o novo regime de crescimento em que acabaremos nos próximos anos fará uma diferença realmente enorme para os padrões de vida. Certo. Agora, vamos voltar à história e começar pela Revolução Industrial, por onde tudo tem de começar quando falamos de tecnologia. A máquina a vapor é a inovação tecnológica canônica da Revolução Industrial. Em princípio, ela ajudou a desvincular a produção de energia mecânica dos músculos e dos rios…

06:03 …e tornou possível fornecer energia em certa escala e também de forma muito menos dependente da localização do que antes. Foi inventada pela primeira vez por Thomas Newcomen, em 1712, e depois aprimorada significativamente por James Watt, cujo nome pelo menos todos conhecem, mais tarde naquele século. Mas a tecnologia continuou sendo aprimorada até bem avançado o século XIX, antes de ser amplamente adotada na economia, na indústria e nas fábricas. Só quando as máquinas a vapor de alta pressão se disseminaram e o preço da energia caiu muitas…

06:35 …ordens de magnitude é que conseguimos ver a produtividade e o PIB crescerem nas estatísticas. Portanto, a máquina a vapor realmente precisava se tornar uma tecnologia radicalmente melhor por um longo, longo período antes de podermos começar a implantá-la em qualquer escala. Depois, foi preciso inventar e também implantar suas complementaridades: novas máquinas-ferramenta, ferrovias, navios a vapor e uma força de trabalho recém-capacitada, até que todo um sistema econômico pudesse basicamente se desenvolver em torno dela. E a Revolução Industrial como a conhecemos, com a mudança transformadora que vemos nos números, começou realmente a ganhar força e fazer diferença para…

07:07 …as pessoas. Certo. Acho que isso traz uma observação interessante. Uma tecnologia pode surgir muito, muito tempo antes de se difundir e de um sistema econômico se desenvolver ao redor dela. No caso da máquina a vapor, inventada pela primeira vez em 1712, os avanços de produtividade só começam realmente a aparecer na década de 1830, no mínimo. Ou seja, mais de 100 anos até vermos isso aparecer. Outro exemplo é a eletrificação dos Estados Unidos. Thomas Edison instalou a primeira usina elétrica na estação da Pearl Street, em Nova York, em…

07:40 …1812. Mas foram necessários cerca de 30 ou 40 anos para que víssemos uma eletrificação significativa das fábricas nos Estados Unidos. E, desta vez, não era a tecnologia que precisava melhorar, mas sim uma reformulação das fábricas, que eram o lugar onde a energia era consumida, não produzida. Antes, as fábricas funcionavam com máquinas a vapor e eram organizadas para usar uma única fonte de energia. Dá para perceber isso na imagem na parte inferior…

08:13 certo, que fiz com o Grockbot, na verdade. E havia uma única fonte de energia que basicamente movimentava todas as máquinas da fábrica. Então, uma fonte de energia se conectava a todas as máquinas da fábrica por meio de correias e eixos. Isso basicamente significava que era preciso organizar a fábrica de acordo com a forma como a energia era transmitida nela. Além disso, as fábricas costumavam ser organizadas verticalmente, em vários andares.

08:44 Embora fosse possível substituir muito rapidamente o motor a vapor por um motor elétrico, essa não era realmente a melhor maneira de organizar uma fábrica que tinha eletricidade disponível. A eletricidade revelou seus maiores ganhos quando foi possível aproveitar sua vantagem única. E a vantagem única da eletricidade é que ela pode ser gerada em um local diferente daquele em que é consumida. Isso permitiu que o chamado sistema de acionamento individual se estabelecesse, o que basicamente significava que cada máquina na fábrica tinha uma fonte de energia. E acho que as vantagens ficam claras muito rapidamente

09:16 porque, no sistema de acionamento em grupo, você pode desligar apenas uma máquina. Se desligar o motor a vapor, a fábrica inteira para de funcionar. Se desligar um motor, um motor elétrico de uma máquina, só essa máquina precisa ser desligada. Assim, você pode organizar a fábrica de acordo com seu fluxo de trabalho, e não de acordo com o caminho que as correias e os eixos precisam percorrer. Você pode ampliá-la facilmente. Pode reequipá-la. Pode começar a produzir algo diferente. Mas esse é um processo lento e caro. Exige reequipar a fábrica inteira, e não

10:14 consumida nas fábricas. E, depois de 50 anos, 80% da energia consumida nas fábricas vinha da eletricidade. Vamos avançar um pouco até os dias atuais, começando com uma citação famosa do economista Robert Solo, que escreveu que era possível ver a era dos computadores em toda parte, menos nas estatísticas de produtividade. Ele disse isso em 1987, quando os computadores pessoais já estavam por toda parte e a computação já era bastante adotada na economia. E acho que, em geral, é muito conhecido que, na segunda metade do século XX, nós

10:47 vimos inovações realmente impressionantes na computação, na computação pessoal e na internet. Acho que, de modo geral, a tecnologia da informação reduziu drasticamente o custo de processar, armazenar e comunicar informações, mas foi só em meados ou no fim dos anos 1990 que a produtividade de fato respondeu a isso. E, mais uma vez, a economia precisou passar por algumas mudanças; desta vez, foram sobretudo mudanças organizacionais. Empresas e trabalhadores precisaram mudar seus processos, desenvolver habilidades e adotar os complementos certos para realmente se beneficiar da tecnologia dos computadores.

11:20 Desta vez, isso envolveu coisas como desenvolver — bem, outras empresas precisaram desenvolver software corporativo e tecnologia de banco de dados. As cadeias de suprimentos precisaram ser redesenhadas para funcionar de fato com formas digitais de contabilizar mercadorias. E, claro, também significou a adoção e a distribuição de muitos, muitos, muitos itens individuais de hardware e software para os trabalhadores da economia. Na verdade, essa transformação organizacional necessária foi muito mais lenta do que a simples invenção da

11:51 tecnologia dos computadores, que acabou nos ajudando a aproveitar essa tecnologia de uma forma realmente significativa para a economia. E essa relação, ou esse tipo de desenvolvimento que observamos, às vezes é descrito como uma relação em curva em J, em que o investimento inicialmente necessário para adotar a tecnologia, começar a aprender novos processos, comprar novo hardware e assim por diante, na verdade desacelera o crescimento da produtividade antes de permitir que ele acelere mais adiante. Quero falar brevemente sobre

12:24 outro caso em que a tecnologia pode não acompanhar outro fator: os mercados de capitais. Ao longo da história, a verdadeira promessa das tecnologias revolucionárias sempre foi capaz de mobilizar quantidades significativas de dinheiro e recursos desde o início, antes de sabermos como e quando uma tecnologia vai gerar crescimento na economia. Quero comparar dois episódios históricos com a expansão da IA e, pelo menos, comparar um pouco as magnitudes. Na década de 1840, na Grã-Bretanha, o Parlamento autorizou a construção de

12:55 centenas de novas linhas ferroviárias. Isso aconteceu basicamente de uma só vez. Uma espécie de corrida desenfreada por capital barato, o aumento da demanda por transporte de cargas, especialmente carvão, e a crença de que todas as cidades e todos os lugares do país precisavam ter uma conexão ferroviária para participar da economia levaram a um boom de investimentos extraordinário, com poucos paralelos na história. É um dos maiores de todos os tempos, e os investimentos ferroviários chegaram a 5% a 7% do PIB em um único ano, na década de 1840. Outro exemplo

13:30 mais próximo das tecnologias digitais vem do fim dos anos 1990: o computador e a internet. No fim dos anos 1990, a internet comercial decolou, e começou uma corrida para instalar fibra de longa distância, basicamente para possibilitar o acesso à banda larga. Houve muita desregulamentação nos EUA. Novas operadoras e novas empresas estavam instalando fibra, e as expectativas de que a demanda e a transmissão de dados cresceriam sem limites levaram a uma instalação excessiva de

14:01 tecnologia de fibra. Esse boom representou cerca de 1% a 1,5% do PIB em 1999. Hoje, se compararmos essas magnitudes com as da IA, o investimento em infraestrutura de IA já representa cerca de 1,8% do PIB dos EUA neste ano. Já é maior do que o investimento em fibra, e as previsões indicam que chegará a cerca de 3% do PIB dos EUA até 2028. Em outras palavras, o investimento em infraestrutura de IA já está no mesmo patamar de alguns dos maiores booms de investimento da história. Não vou me alongar comentando se é uma bolha ou não. Não sei mesmo. Mas acho que

14:33 há uma observação interessante na história: sejam quais forem os retornos privados que os investidores acabem obtendo desses investimentos em infraestrutura, a infraestrutura construída pode durar e se tornar produtiva mais tarde, mesmo que haja uma bolha. Foi o que aconteceu com os excedentes de trilhos ferroviários, que foram instalados em excesso. Ou com o que também se chama de fibra escura, na era das empresas de telecomunicações, que mais tarde permitiu um transporte muito mais barato e possibilitou coisas como o streaming e a era móvel, com uma infraestrutura muito

15:05 mais barata disponível para a economia. Muito bem. Um padrão importante que espero ter deixado claro é que a tecnologia pode avançar em dois ritmos. Um é o ritmo mais rápido da inovação tecnológica e dos protótipos, quando surge uma tecnologia transformadora; o segundo é o ritmo mais lento de sua implementação, quando ela é profundamente integrada, incorporada à estrutura da empresa e da economia como um todo. No caso do vapor, isso envolveu inovação tecnológica adicional na

15:39 tecnologia central. No caso da eletricidade, foi preciso projetar uma nova fábrica que complementasse a nova tecnologia. E, no caso dos computadores, foi basicamente necessária uma mudança organizacional em grande escala: novas habilidades, novas formas de trabalhar e, claro, a implementação de hardware e software. Já estamos há quatro anos na era da IA generativa, por assim dizer, e gostaria de convidar vocês a pensar no que será necessário para que a IA comece, em última análise, a aumentar a produtividade e o crescimento econômico para

16:12 todos. Isso depende de melhorias na tecnologia central dos modelos de base? Da adoção em outros setores da economia que, no momento, ainda não foram realmente afetados? Dos complementos na camada de aplicações? Da requalificação da força de trabalho? Não tenho a resposta, mas estou animado para conversar sobre isso com todos que quiserem me procurar nos próximos dois dias. Muito bem, para concluir, espero ter mostrado que a invenção cria possibilidades, como ponto de partida. Mas, para transformar

16:42 essas possibilidades em crescimento, é preciso mais. A difusão, o investimento e os complementos, assim como a mudança organizacional, podem determinar quanto disso realmente se traduz em produtividade e, por sua vez, em melhores padrões de vida para todos. Levar a IA para as empresas, reformular a maneira como o trabalho é feito, treinar e transformar a forma como outras pessoas trabalham e criar novas empresas que façam isso do zero, com novas ideias, é, acredito, o que põe essa tecnologia na

17:14 estrada. E isso parece uma mensagem muito animadora para encerrar esta sessão, porque acho que a maioria de nós passa todos os dias trabalhando para reformular a economia para essa nova tecnologia. Muito obrigado pelo tempo de vocês e tenham uma ótima conferência. [aplausos] Vamos aplaudir mais uma vez o Clemens, por favor. Uau. Gosto sempre de ver como podemos, vocês…

17:45 saber, extrapolar o que aconteceu no passado para tentar prever o futuro. E Clemens falou um pouco sobre como devemos nos sentir em relação ao presente. E nosso próximo palestrante vai falar sobre o futuro. Na verdade, nossos próximos dois palestrantes vão falar sobre o futuro. E nosso próximo palestrante é alguém que dispensa apresentações. Se você está nas redes sociais, se está no X, provavelmente já viu as opiniões polêmicas dele. Ele se chama de mestre da gambiarra. Ainda não sei o que isso significa, mas vamos nessa.

18:16 Certo. Tudo bem. Então, por favor, vamos aplaudir o pizza. Certo, isso nunca funciona, mas vamos tentar fazer

18:46 isso funcionar. Certo, slide. Bum. Vocês conseguem ver? Perfeito. Acabei de perceber como isso soa estranho. Chamamos isso de mestre da gambiarra. Eu simplesmente gosto de mexer nas coisas, e montamos toda essa coisa que vou explicar em um segundo. Vamos parar a música ou vou ter uma trilha sonora de fundo? Certo, está parando. Legal. Sou o kids on X. Se me conhece do X, provavelmente discordamos de muitas coisas e provavelmente já discutimos sobre muitas coisas. Então, tenho pouco mais de 20 minutos antes de precisar pegar um Uber. Vai ser divertido. Só preciso levar o cursor até aqui para poder clicar e

19:19 vai ficar perfeito para começar. Normalmente, apresento meus 39 produtos nos quais estou trabalhando. Desta vez, não vou fazer isso. Vou ter apenas um slide. Se você é alguém que mexe com LLMs locais, hardware, hospedagem própria e várias outras coisas, temos um grupo de pessoas malucas chamado thinker.club. Esse é o endereço. Basicamente, cada pessoa desse grupo é uma versão copiar e colar das outras. É hilário ver que todo mundo tem os mesmos interesses, de hardware e impressão 3D a IA, SaaS e negócios. Se quiser se juntar a nós, acesse thinker.club. Então, anteriormente, na AI Engineer, fiz

19:49 uma palestra chamada de vibe coding a vibe engineering, uma transição que muita gente ainda está fazendo. Se eu fizesse a palestra agora, ela ainda seria relevante, porque muita gente está passando de vibe coding para vibe engineering. Mas já consigo sentir a mudança em mim, nos meus próprios aplicativos e nos de outras pessoas. Consigo ver tudo o que está acontecendo no Twitter, e estamos começando lentamente a passar para o próximo nível de engenharia. Vocês provavelmente já ouviram termos como fábricas, fábricas de software e fábricas de código porco, como eu as chamo. E dá para ver que, no quarto trimestre deste ano e

20:20 no próximo ano, vai ser cada vez mais sobre passar de vibe coding e até mesmo dessa versão antiga de vibe engineering para algo novo. Mas, antes de falarmos sobre esse algo novo, precisamos voltar um pouco. Vou mostrar alguns slides sobre o que vivemos nos últimos anos. Ainda tem muita gente usando o Copilot, apertando Tab e chamando isso de IA. Mas passamos muito tempo nessa fase. Em algum momento, copiávamos e colávamos coisas do ChatGPT. E, se você se lembra, se tem idade suficiente, alguns anos atrás ele não conseguia terminar uma função, e você tinha que implorar: “Você pode, por favor, terminar isso?”. Aí esperava a próxima resposta e

20:52 copiava e colava em algum lugar. Depois, tínhamos que implorar de novo, mas dessa vez implorávamos por JSON. A gente dizia: “Você pode simplesmente não colocar Markdown? Só preciso de um JSON limpo.” E ele respondia: “Claro, aqui está um pouco de Markdown e um pouco de JSON.” Então, quem começou a usar IA agora está muito, muito mimado. Depois, nos concentramos em editar uma coisa só. Não havia agents, mas usávamos IA e ela alterava um arquivo, e a gente pensava: “Ah, isso é perigoso. Ela pode fazer alguma coisa, né?” E, muito rapidamente, pareceu que passamos a usar agents, mas ainda tomávamos cuidado e revisávamos cada permissão. Dizíamos: “Tenha cuidado. Não mexa naquilo.” E então, literalmente, um ano depois,

21:25 quando ele me pergunta se pode executar isso, como é que eu vou saber, né? Você simplesmente lê a coisa e diz: “É, acho que sim. Espero que sim.” Então, agora todo mundo está nesse modo de permissões totais. Não conheço ninguém que não esteja realmente executando tudo com permissões totais. Tipo, pegue meus bancos de dados de produção, dados de clientes, GDPR, tanto faz. Pegue tudo. Só termine o trabalho. Então, acabamos aqui. Basicamente, temos algumas categorias de pessoas trabalhando com IA agora. Temos os lançadores de granadas de código porco, que são a maioria de nós. Estamos tentando não ser assim, mas simplesmente

21:57 lançamos granadas de código porco. Temos os proxies de carne. Já ouviram esse termo? É um dos meus termos favoritos que ouvi ultimamente. Adoro mesmo. E temos os verdadeiros engenheiros de IA, que não são muitos, mas estamos tentando transformar todo mundo em engenheiro de IA, basicamente. O lançador de granadas de código porco: todo mundo meio que faz isso porque, com a velocidade da IA, é muito fácil simplesmente dar um prompt a um agent, que então gera um monte de código porco, e você não lê nada, só joga isso para o seu colega. Você diz: “Boa sorte. Boa sorte. Tomara que não exploda a produção. Se vira.” E aí temos o proxy de carne, que é quando você

22:27 não sabe o que isso significa: você fica entre seu gerente ou supervisor, seja quem for, e essa pessoa pede que você faça algo. Aí você literalmente pega o prompt dela, coloca em um LLM, pega o resultado desse LLM, mal revisa e devolve para a pessoa. Você está servindo apenas como um proxy de carne. Atualmente, há tantas empresas — e isso vai ter que mudar — que são, na verdade, constituídas por camadas e mais camadas de proxies de carne conversando entre si. Acho que o próximo ano vai ser brutal, porque muita gente vai acordar para esse fato, vai olhar no espelho e pensar: “Ah.” E vai ser demitida. É inevitável. Tenho falado sobre isso nas minhas palestras, e isso vai

22:59 acontecer, acho, por volta do próximo ano. Os verdadeiros engenheiros tentam criar sistemas em torno dos seus processos, e ninguém tem o sistema certo. Então, esta palestra é sobre o meu caminho até lá. Consigo ver dois grupos de pessoas. Sempre houve uma divisão. Temos o pessoal dos aplicativos para desktop e o pessoal da CLI, os hackers, os que gostam de mexer nas coisas. Aliás, eu sempre odiei o terminal. Sempre odiei a CLI. Eu era um grande crítico. Me deem uma interface bonita em que eu possa clicar. Sempre odiei esse tipo de coisa de ficar mexendo. O que me deixa de queixo caído é que tivemos três anos de lançamentos de orquestradores, do Cursor ao Conductor e todo o resto. Tudo é igual. Ninguém nem está tentando. É só copiar e colar o mesmo layout. À esquerda, uma barra lateral com conversas; no meio, conversas; e, à direita, talvez um git diff. E todo mundo diz: “Acabamos de levantar 37 milhões para um novo orquestrador”, e você olha para a captura de tela e pensa: “Isso é o Codex? É o Cursor?” É sempre a mesma coisa, e ninguém nem está tentando. Vou tentar mostrar o meu no fim da palestra. Vamos ver se vocês gostam. Quanto ao pessoal da CLI, os puristas, eu fico indo e voltando: abro um aplicativo para desktop e depois volto para a CLI. E aí temos os absolutamente

23:31 até o Conductor e tudo mais. Tudo é igual, ninguém está nem tentando. É só copiar e colar o mesmo layout. À esquerda, você tem uma barra lateral com chats. No meio, tem chats e, do lado direito, talvez apareça um git diff. E todo mundo diz: “Acabamos de levantar 37 milhões para um novo orquestrador”, e você olha para a captura de tela e pensa: “Isso é o Codex? É o Cursor? É sempre a mesma coisa, e ninguém está nem tentando”. Vou tentar mostrar o meu no final da palestra. Então, vamos ver se vocês gostam. Ah, sou fã de CLI, das opções básicas, e fico indo e voltando: abro um aplicativo de desktop, depois volto para a CLI, e então temos o absoluto…

24:04 os malucos que gostam disso. Se você nunca ouviu o termo “Oh My Pi”, nem pesquise o que é Oh My Pi. Mas temos gente que instala o Oh My Pi dentro da própria máquina virtual, dentro do Proxmox, e pergunta o que elas lançaram. E elas dizem: “É, mas minha fábrica funciona, eu acho”. Então, eu era quem tirava sarro de tudo isso. Sempre detestei quem hospeda as coisas por conta própria. Eu sempre dizia: “É só pagar a Vercel, pagar a Railway, pagar quem for, não se incomode com isso”. E aí fui com tudo para o outro lado com o Cursor Club, porque quanto mais as pessoas postavam sobre isso, mais eu também queria fazer. Então, tenho umas caixas Linux, Tailscale e um monte de coisas, basicamente.

24:34 Então, temos ferramentas versus métodos. Vamos falar de métodos. Então, temos as duas ferramentas: CLIs e aplicativos de desktop. E depois temos os métodos. Um deles — tenho passado por todos esses métodos e vou contar qual escolhi — é um chat e prompts até funcionar. É como se eu parasse de abrir vários chats para tarefas diferentes e mantivesse só um, especialmente com a compactação inteligente do Codex. Posso despejar um monte de coisas na fila e nem sei em que momento ele compacta. Acho que ele nem avisa que está compactando. Então, simplesmente funciona, pega a próxima tarefa, depois a seguinte e a próxima, e continua trabalhando e entregando. Mas entre cada tarefa

25:09 não há gerenciamento do tipo: iniciar um subagent para revisar e depois outro para testar. Você só torce para que ele passe por todas as tarefas e termine tudo. Gosto um pouco, mas também não gosto. Depois temos — esse é, na verdade, um chat por tarefa, em que você tem uma pasta no Codex ou algo assim e, para cada tarefa que precisa fazer, inicia um chat novo. Mas, se você não usa worktrees, ou precisa adivinhar se os recursos vão se sobrepor ou precisa usar worktrees e então precisa de um chat por cima desses chats para fazer alguma coisa com as worktrees. Então começa a ficar uma bagunça. Depois, você tem worktrees e

25:41 esperança. Aliás, ninguém sabia o que eram worktrees até umas sete semanas atrás. Então, calem a boca. Agora todo mundo está usando worktrees e todo mundo é engenheiro de Git e entende das coisas, né? Mas o problema é que esses sistemas ainda não são totalmente isolados. São uma espécie de coisa diferente do Git, mas ainda podem destruir seu banco de dados tanto quanto se você não estivesse usando uma worktree do Git. Depois temos todos esses termos, que muitas vezes detesto, porque é muita coisa para aprender. Por exemplo, você já ouviu falar de gauntlet loops? Primeiro, tínhamos loops e todo mundo dizia: “O quê?”. E agora é: “Ah, acabei de fazer

26:11 isso usando um gauntlet loop”. Continuamos inventando todos esses termos, e alguns são úteis, outros não. Então, por fim, estamos falando de fábricas de software. Se você pedir a qualquer um dos seus bots que pesquise todos os artigos publicados sobre fábricas de software, sua cabeça vai explodir. Você vai ler metade deles e pensar: “Ah, deixa eu só usar um prompt, pelo amor de Deus. Deixa eu ser um proxy humano”. Porque é muito complicado. Se você olhar de longe, quase ninguém tem uma fábrica de software de verdade. As pessoas estão improvisando, e não concordamos sobre o que uma fábrica de software deveria ser. Deveria ser algo no nível de uma organização inteira? Eu, como engenheiro, deveria ter uma fábrica de software

26:46 e acabamos nessa briga de granadas de slop. Se você olhar qualquer repo do GitHub, qualquer organização, vai encontrar alguém que abriu um PR usando um LLM. Você tem um README lindo, cheio de emojis e parágrafos. Antes, nem nos dávamos ao trabalho de colocar algo em negrito no GitHub, mas agora temos parágrafos, divisórias e tudo mais. Aí o colega responde com uma revisão ainda mais bonita. É ainda mais longa. Estão prestando atenção. De repente, você pensa: “Você não escreveu isso”. Você sabe que foi um LLM. Então agora temos dois proxies humanos servindo a dois LLMs e

27:16 eles conversam entre si e ninguém percebe. No fim, a tarefa é enviada por um cliente ou por um superior, certo? E ninguém percebe o que estamos fazendo aqui. Precisamos desembaraçar essa situação. De certa forma, dá para prever o que estamos fazendo. Então, jogo uma resposta: “Minha IA revisa a sua IA”, blá-blá-blá. No fim, elas chegam a um meio-termo. Mas precisamos encontrar uma solução e fazer o processo evoluir. Então, meu caminho foi do terminal para os aplicativos de desktop e de volta ao terminal. Recentemente, meio que voltei à CLI. Quem já ouviu falar disso? Já ouviu falar?

27:48 Disso? Entendeu? Hein? Já ouviu falar? Sacou? Certo. Certo, se você não sabe o que é, é basicamente uma coisa tipo tmux: se você programa remotamente em qualquer um dos seus dispositivos, as sessões não morrem. E, no terminal, elas ficam organizadas direitinho, para você não perder o fio do que está fazendo. E, ironicamente, passei por tantas configurações diferentes. Até criei meus próprios orquestradores e coisas do tipo. E, na semana passada ou há duas semanas, configurei o Herder com o terminal mais simples possível e entreguei mais do que nunca. Aí pensei: talvez estivéssemos complicando demais toda essa história de fábrica de software. Mas isso depende. Você trabalha com

28:20 outras pessoas? Quantas pessoas? Quantas equipes? Ou você trabalha sozinho? E o que está entregando, exatamente? Mudei para o Pi. O Pi é demais. Gosto do Pi. Também tirava sarro de todo mundo que usava o Pi. Eu dizia: “Seja uma pessoa. Use Claude, use Codex, use o que quiser”. Aí minhas cotas começaram a acabar — minha cota do Claude expirava, sabe? — e eu mudava para o Codex CLI ou o Codex Descope, tanto faz. Eles têm comportamentos completamente diferentes: como iniciam subagents, como fazem compactação, como fazem isto ou aquilo. Então eu alternava entre a CLI do Cursor, a CLI do Claude e o Codex. E, quando eu alternava

28:50 entre eles, os comportamentos eram completamente diferentes. Isso estava me deixando louco. Então, quando criei um orquestrador, criei-o em cima dos três, mas é muito difícil criar um orquestrador que dê conta disso, porque não é só a CLI: eles têm métodos diferentes para fazer as coisas. Com o Pi, você tem uma CLI que não faz nada por padrão. Se quiser compactar, precisa instalar um plug-in. Se quiser iniciar subagents, precisa instalar um plug-in. E você controla totalmente o processo. É como um Linux dos harnesses — vejo que nenhum de vocês está pensando: “Ah, sim, eu adoraria fazer mais coisas no estilo Linux”, né? O Herder também tem esse

29:23 recurso bacana. Acho que adicionaram recentemente: se você tiver o Herder em todas as suas máquinas, ao abri-lo em qualquer uma delas, vai ver seu MacBook Pro, Mac Studio, Linux, VPS, seja lá o que for, tudo no mesmo lugar. Então, é bem prático. Este ano, passei a usar meu laptop só como controle remoto. Comecei com a nuvem e coisas do tipo, e agora estou migrando para minhas próprias máquinas. Mas este laptop ou meu celular são apenas controles remotos para coisas que estão acontecendo na nuvem. Então, entrei num buraco de coelho: não quero meu código aqui, porque derramei milk-shake neste laptop e tinha um repo do GitHub sem push. Felizmente, eles

29:54 Salvei, mas achei que ia morrer, e, sei lá, um mês de trabalho teria morrido junto com esse laptop. E pensei: preciso levar todo o meu trabalho para algum lugar e poder usar qualquer laptop. Cheguei a usar meu MacBook Air de 10 anos só para acessar remotamente minha configuração e fazer as coisas à distância. Então, primeiro comecei a enfiar as coisas no Mac Studio, mas percebi que o Mac e o macOS não foram feitos para agents remotos. Aí, provavelmente depois de 15 anos sem nem pensar nisso, pensei: tudo bem, vou tentar, e talvez Linux seja uma boa. Então comecei a alugar um VPS por uns US$ 128 por mês e pensei:

30:25 Ah, se isso me der dinheiro, tanto faz. Aí fiz as contas. Pensei: mas, se eu pagar isso por dois anos, posso simplesmente comprar uma máquina Linux, e de repente você tem um Linux no porão. Mas percebi que tenho um PC gamer e não gosto do Windows nem de jogar, porque hoje em dia isso é muito mais divertido do que jogar. Não quero jogar. Não quero assistir a séries. Só quero mexer nos agents. Então decidi formatar esse PC. Vou instalar Linux nele, mesmo sendo uma porcaria, certo? Mas o Windows está ali em cima. E aí percebi que funciona. É ótimo, mas não tenho RAM suficiente. Então comecei a procurar peças. Quer dizer, fui longe demais de realmente entregar valor aos meus clientes. E a toca do coelho

30:58 vai ainda mais fundo. Pensei: isso aqui tem 32. Preciso de mais, mas preciso atualizar a placa-mãe, e preciso disso, e daquilo. Acabei com um segundo PC Linux. Então montei um segundo PC Linux do zero. Aí alguém perguntou: por que você escolhe qual distribuição Linux instalar? Você pode instalar o Proxmox. Quem aqui é nerd o bastante para ter configurado isso? Vou pular essa parte. Temos várias mãos levantadas. Então, essa é uma coisa muito legal que usei para cuidar de todas essas coisas que discutimos, porque eu tinha que entrar nas configurações e clicar nas coisinhas. Agora, tudo o que eu mencionar aqui, apenas

31:28 presuma que eu não sou inteligente o bastante para lidar com isso. Eu só disse aos meus agents: “Ei, um amigo me falou para usar o Proxmox. Use-o.” E, de repente, está sendo configurado na máquina. Isso é bom porque, na verdade, em um computador — digamos, um PC — você pode ter, como se fosse um sistema operacional de nível mais alto, várias instalações de Linux, um Windows, pode ter o Windows XP, todos como máquinas virtuais; e aí seus agents fazem tudo direitinho. Você nem precisa mexer manualmente em nada. Eles também têm coisas como VMs e containers. Basicamente, você pode hospedar por conta própria no seu computador um monte de coisas disponíveis na sua rede e também executar VMs completas

32:01 Então, meus agents, como meu agent Hermes e outros, receberam VMs pequenas para não conseguirem escapar. Eles não podem fazer alguma besteira. Têm apenas minicomputadores dentro do meu computador. Para deixar tudo pronto no Proxmox, conectei um KVM e fui ao Codex. Eu disse: “Por favor, termine isso. Não quero olhar para isso.” E aí funcionou, funcionou, funcionou. Vi que estava pronto e pensei: “Legal, funciona e não quero mexer nisso.” Muitas vezes, as pessoas começam a programar remotamente, e vejo gente me mandando capturas de tela com endereços IP esquisitos. Então, dá para fazer uma configuração muito boa. Se você está programando remotamente, pode simplesmente pedir ao seu agent para configurar

32:34 o tráfego, ou como quer que se pronuncie, o Traefik e o PM2. Aí todos os seus processos serão gerenciados magicamente e ficarão em URLs legais. Você pode ter seu blog, seja qual for o seu domínio, e subdomínios com processos de desenvolvimento. Então, sempre que quiser ver como está a sua landing page no ambiente de desenvolvimento, pode acessar minha linda landing page-dev.m, meu URL, seja lá qual for, e vai conseguir vê-la, lembrar dela e adicioná-la aos favoritos. Não vai ser um endereço IP aleatório. Então, essa é uma dica legal. O agent configura tudo. Então, o objetivo de tudo isso

33:05 é que as pessoas me perguntam: “O que tem na sua configuração?” E eu digo: “Não sei. Faz dois anos que não vejo uma configuração. Só desejo as coisas e elas acontecem magicamente.” Aí comecei a atingir os limites, porque, claro, todos nós estamos lidando com isso. Tenho uma dica: pago por quatro assinaturas de US$ 200. Ainda sai mais barato do que contratar uma pessoa. É mais ou menos tranquilo, mas você precisa gerenciá-las em horários diferentes. Existe uma coisinha chamada balanceador de carga do Codex, que vocês podem usar para… O quê, vocês não usam balanceador de carga? [risos] Achei que isso fosse ser amplamente aceito e que as pessoas fossem dizer: “Sim, sim, eu faço isso.” Então, isso é

33:37 basicamente um único endpoint, mas, quando você o acessa, ele escolhe de qual serviço consumir. Assim, sabe quais são seus limites, os limites semanais, diários e tudo mais. E, basicamente, meus limites nunca acabam — até lançarem o Astra; aí, acabaram em um dia. Com o Astra, como bônus, dá para usar voz ao vivo no mesmo endpoint e gerar imagens no mesmo endpoint. Então, você pode fornecer esse endpoint para todos os seus aplicativos e eles usam o balanceador de carga. E fica ainda pior, pessoal. Aí você tem isso para o Codex, mas e os outros? Tenho o Cursor, o Gemini e várias outras coisas escondidas atrás deste proxy de API fácil, com CLI

34:11 que é outro proxy com balanceador de carga. E, por cima, temos um roteador de IA, que é o endpoint mestre. Então, quando quero programar, falo com ele, e ele decide para qual desses serviços mandar a solicitação. E ainda não entreguei muita coisa. Então, enquanto acompanham os slides, pensem: dá para ser mais produtivo só com Pi, Herder e o que mais for. Assim, cada modelo tem um endpoint, em todo lugar. Isso não cria capacidade nova; só tenta espremer um pouco do OpenClaw, um pouco do Codex e outras coisas para fazer tudo funcionar. Então, minhas conexões estavam espalhadas, e um

34:41 problema aqui — esse seria um slide que eu tiraria uma foto só para vocês lembrarem do nome Exeutor, caso ainda não tenham configurado o Exeutor. Tenho divulgado isso mais do que divulguei o OpenClaw, porque é simplesmente a melhor coisa de todas. Eu gostaria de trocar de configuração. Gostaria de experimentar, sei lá, o Grogbot, o Madeam Muse ou isto e aquilo. E, sempre que fizesse isso, teria que conectar meu Gmail, meu calendário, meu GitHub, meu Cloudflare, todos os conectores. O que isso faz é funcionar como uma central de conectores, com um único MCP. Conectei tudo ao meu Exeutor e agora, se quiser experimentar o Muse, da Ma, posso simplesmente

35:14 pedir que use um MCP, que é o meu Exeutor, e, por meio do Exeutor, ele vai acessar todos os meus outros serviços. Assim, fica muito fácil alternar entre, sei lá, Pi, Claude, Codex ou qualquer um dos bots. É muito bom. Aí percebi que isso é open source. Está no meu GitHub. Chama-se Skillbox. Percebi que estamos fazendo errado: nossas skills ficam armazenadas em arquivos Markdown. Eu tinha um script no GitHub que sincronizava minhas skills entre espaços, e era uma bagunça. Aí eu configurava um computador novo e pensava: “Não tenho minhas skills aqui.” E pensei: se temos o Exeutor para MCP e o Exeutor realmente

35:46 reúne todos os meus MCPs. Por que não tenho um único MCP para todas as minhas skills? Aí aconteceu que, enquanto eu trabalhava nisso, transformaram a ideia em uma especificação oficial. Então, agora, na especificação do MCP, existe algo chamado skills over MCP. Em vez de ter 30 mil arquivos Markdown espalhados por aí, você pode hospedar o seu próprio; é só dizer ao seu bot: “Ei, gostei desta Skillbox. Configure para mim.” Ele vai fornecer uma URL bacana, com uma interface gráfica e tudo mais, e todas as suas skills vão ficar lá. E não é só isso: existe algo chamado skill bundles. Então, você pode ter um agent pessoal, um agent de programação e outras coisas. Meu agent pessoal precisa de umas quatro skills aqui, e

36:19 meu agent de programação pode precisar de outras 20 skills, mas eles não precisam saber um do outro. Então, se eu configurar meu OpenClaw ou Hermes, vou apontá-lo para o meu pacote de skills pessoal, e ele vai trabalhar apenas com aquelas skills, sem ficar perguntando: “Ah, o que é Cloudflare?”. Era muito irritante que todas as minhas skills fossem para todo mundo e ficassem numa única pasta com um monte de arquivos Markdown. Agora, minha configuração é portátil. Posso simplesmente pegá-la, conectar em outra coisa e pronto, funciona. No momento, estou trabalhando em algo novo, mas não sei se vou terminar. É como uma camada por cima, porque percebi que temos skills, temos MCP e Codex. O app do Codex chama a

36:49 camada de cima de plugins, certo? Certo. Então, se você acessar o Codex e instalar, por exemplo, um plugin de desenvolvimento para macOS, ele vai instalar MCPs para você e também vai instalar skills. Aí eu penso que precisamos de alguns nomes novos, tipo playbooks, sei lá, e tenho várias ideias. Talvez eu apresente isso na próxima palestra. Você vai ver no meu Twitter. Mas a ideia é que consigo imaginar a Skillbox e o executor meio que se fundindo, e que algumas camadas por cima tornariam muito mais fácil empacotar toda a sua configuração e conectá-la em outro lugar. Como o Cody, do Kenny Dots, se você conhece o Cody, que é mais ou menos isso. Ele é hospedado no Cloudflare Workers e usa um monte de

37:20 termos complexos que eu não entendo de verdade, mas a ideia dele era basicamente pegar o cérebro dos agents dele, colocá-lo no Cody e, então, poder levá-lo para qualquer lugar. Então, o Cody é como uma Skillbox e um executor com um monte de recursos extras por cima. E o Executor está lançando uma nova versão, a versão dois, que vai ser parecida com o Cody. É muito difícil acompanhar tudo isso, mas espero plantar algumas sementes para mostrar a vocês para onde as coisas estão indo. Então, nossa RAM, nosso cérebro, na verdade, não consegue acompanhar tudo o que estamos fazendo. Temos o Power, temos as quatro

37:51 assinaturas, temos um balanceador de carga, temos um proxy, temos isso e aquilo, e decidi que, a menos que eu construa meu próprio orquestrador para organizar toda essa bagunça, nada vai dar certo. Vai ficar muito confuso. Então, considerando tudo o que mencionei, como fui trabalhando nas coisas, foi nisso que cheguei até agora, neste dia de hoje. Percebi que um único chat, que fica compactando o contexto o tempo todo e no qual despejo um monte de tarefas, não vai dar certo, porque vai haver muitos conflitos. Aí temos a outra opção, em que tenho vários chats, e eles vão

38:23 atrapalhar uns aos outros. Depois, temos a terceira opção, com worktrees. Essa também é problemática. Então, percebi que havia este artigo — espero que esteja nos meus slides — que propunha um chat, uma worktree e um PR. Era o que muita gente estava fazendo. Eu, pessoalmente, como desenvolvedor independente, digamos, nem trabalhava com PRs; simplesmente enviava tudo direto para a branch principal, e isso seguia um ciclo. Mas agora percebi que quero estabelecer como objetivo ter um PR de altíssima qualidade, com todas as verificações de tipos, linting e várias outras coisas. E quero basicamente automatizar esse processo, em vez de

38:53 fazer as coisas manualmente, porque aconteceu de eu começar a usar apenas worktrees e uma delas, por ser só uma coisinha de G, apagou o banco de dados de produção. Por sorte, eu tinha um backup, e ela disse: “Opa, desculpa, eu estava tentando ver o banco de dados para testar, mas não estou testando em um container; estou testando na sua máquina”, e basicamente apagou tudo, porque uma worktree não é um sandbox de verdade. Tenho o slide aqui: orbs. Esse cara da AMP Code, Thren, ou algo assim, estava falando sobre orbs, mas meu cérebro já estava tão sobrecarregado com essas expressões novas que eu fiquei tipo: “O quê? Orbs não estão

39:24 rolando”, e tuitei isso algumas vezes, tipo: “Orbs não são uma coisa. Não vão entrar no nosso vocabulário. Calem a boca. Não falem de orbs.” Basicamente, a filosofia dele era que, sempre que seu agent trabalha em uma tarefa, você precisa dar a ele uma espécie de sandbox pequeno, uma VM pequena, um computadorzinho onde possa trabalhar. Enquanto trabalha, ele disponibiliza um túnel com uma única URL. Você pode abrir essa URL, navegar por ela, conferir. Basicamente, você pode ser o testador, certo? Nosso papel está mudando um pouco agora. Nós vamos ser os testadores da IA.

40:18 Então, no começo, eu estava tirando sarro disso. Eu dizia: “Isso não vai acontecer.” Aí passei por toda a jornada que contei a vocês e pensei: “Orbs, chegou a hora dos orbs.” Ele tinha essa expressão, que era meio cafona, mas chegou a hora dos orbs. E percebi que essa é a maneira mais estável de criar algo que seja devidamente testado, isolado e que tenha passado por um processo de fábrica de software. Então, uma tarefa cria uma maquininha temporária. Lembram que mencionei o Proxmox? Meu dispositivo Proxmox consegue iniciar uma dessas; tem uma coisinha de Docker. Não acredito nas palavras que estou

40:49 dizendo. Se vocês tivessem assistido às minhas palestras de três anos atrás, perguntariam: “Quem diabos é esse cara?”. Então, sempre que precisa de um orb, ele inicia uma VM pequena, que tem tudo: o banco de dados, os dados de seed, o navegador, tudo de que precisa. Aí ele simplesmente trabalha nisso. Estou usando algo chamado Podman, que, sinceramente, eu nem conhecia até a semana passada. E ele não consegue acessar coisas externas, como credenciais de produção e blá-blá-blá. Além disso, tem uma fila, então não destrói meu computador, porque só dá para executar oito orbs de cada vez antes de meu computador morrer. Aí eles ficam na fila. Se preciso executar uma nova tarefa, ela espera; quando um orb termina, ele morre, e outro é iniciado, e eles seguem um ciclo bem organizado.

41:21 O bom disso — e mencionei na minha palestra anterior — é que, quando eu trabalhava em várias tarefas por chat, não havia muitas proteções. E, mesmo quando havia, você abria o ESLint e via que metade estava desativada porque o agent só queria terminar. Era tipo: “Pronto, sem erros. Está bom?” “Sim, simplesmente desativei cinco linhas da sua configuração.” Então, se você não estabelecer proteções bem rígidas, os PRs vão ser uma porcaria, e você vai ser um lançador de granadas de porcaria. Então, tenho esta

41:51 combinação. O Anti-Slop é uma biblioteca do Dylan Monroy — Mulroy, não sei como se pronuncia. Então, temos Oxlint, Ultraite e Anti-Slop. Essas três ferramentas trabalham juntas. Você também pode tirar uma foto disso e pedir ao seu agent para configurar tudo, e elas garantem que cada PR siga essas regras. Porque você tem as regras na cabeça, precisa tirá-las de lá e colocá-las num linter, numa ferramenta que as verifique, para garantir que vai obter o resultado que quer. Percebi que muitas das minhas regras não cabem no Oxlint. Então, simplesmente perguntei ao meu agent: podemos simplesmente

42:21 criar nossa própria CLI de policiamento? Vamos chamá-la de Police. E, se eu tiver uma regra específica, como nunca usar seus próprios botões, mas sempre usar chats e botões, não dá para colocar isso no lint. Mas a minha coisinha de policiamento — tipo, meu agent estava escrevendo coisas, e agora tem muitas, muitas, muitas regras que vão além do lint e garantem que os agents não façam besteira. E agora finalmente temos o Jeff, e o Jev é bem legal. Percebi por que criei algo como o Jeff Rabbit. Está no meu GitHub e é como um CodeRabbit, mas você descreve em inglês simples as regras sobre coisas que não quer que aconteçam. E o Jeff, muito rapidamente e

42:52 por um custo muito baixo, verifica todo o seu PR e confere se seus comentários são inúteis ou se você está fazendo alguma besteira. Em vez de escrever regras de LinkedIn, você pode simplesmente se expressar em inglês, e, para cada regra que tiver, o Jev vai verificar aquele PR. Então, isso é como um nível extra por cima. Criei minha própria fábrica, algo que eu queria muito — queria mesmo mostrar para vocês como funciona. Funciona com todas essas coisas. Tudo o que mencionei aqui, do balanceador de carga à criação de orbes, aos testes e tudo mais, faz parte disso. Estou olhando o cronômetro. Infelizmente, não vou ter tempo para mostrar. Bem, talvez eu tenha um segundo

43:25 ou um minuto para mostrar como ela é, porque quero simplesmente dizer que essas fábricas podem ter aparências diferentes. Então, me deem um minuto. Quero mudar para isto: será o primeiro orquestrador de agents bonito que vocês vão ver na vida. Se carregar — vai carregar. Então, isto não é como nada que vocês já tenham visto. Bem, talvez em uma tela widescreen. É como se Steve Jobs tivesse acordado e dito: “É, vamos criar um orquestrador, certo?”. Não é uma barra lateral à esquerda, nem um monte de coisas que vocês já viram. Ele organiza todos os meus projetos de um jeito legal. Então posso, digamos, acessar meu projeto Bench. Vou entrar aqui

43:56 e aqui tenho um monte de tarefas que quero fazer. Vou até aqui; há planos, sinais de vida e várias outras coisas. E há uma fábrica que, se eu clicar, vocês vão ver os processos pelos quais cada tarefa passa. Então, se eu adicionar uma tarefa, passamos pelo soulbot, que é como a parte de programação. Depois temos o soul fast, que revisa o trabalho, e eles ficam em ciclo até que esteja totalmente revisado. Quando estiver totalmente revisado, temos o testador, que clica por aí e verifica se a tarefa foi concluída. Então, se eu voltar da fábrica para um dos projetos e quiser concluir alguma coisa, vou até as tarefas aqui e posso dizer, sei lá, “faz a coisinha”, e, se eu pressionar

44:29 Enter, isso não vai funcionar agora, mas deveria passar para “pronto” e percorrer todo o processo da fábrica até chegar à revisão. Aí você recebe uma interface bonita para revisar o trabalho e realmente sente que está coordenando uma fábrica, em vez de apenas conversar com um aplicativo de orquestração inchado. Estou sem tempo. Queria mostrar mais isso para vocês. Chama-se Bench. Espero que seja anunciado no meu Twitter em breve — por favor, me cobrem — porque realmente mudou meu jeito de trabalhar. Não uso CLIs, não uso aplicativos do Codex, não uso nada disso. Posso abrir no meu celular, posso abrir em qualquer lugar e, até mesmo em qualquer dispositivo pouco potente, posso orquestrar toda a minha fábrica de coisas de baixa qualidade. Então, obrigado por

45:04 escutarem. Estou sem tempo, tenho um voo para pegar e agradeço por ouvirem minhas divagações. Obrigado. [aplausos] Obrigado. Vamos aplaudir. Obrigado. Certo, vamos aplaudir mais uma vez o Kit. Uau. [aplausos] Esqueci de dizer que o Kit é um dos palestrantes mais vistos — na verdade, do AI Engineer. Se vocês acessarem o AI Engineer no YouTube, vão encontrar muitas palestras dele, e elas estão sempre entre as melhores e mais

45:36 vistas. Então, também foi interessante ver como me identifico com muitos desses problemas no meu dia a dia. Esqueci de dizer que trabalho na Replit e uma das coisas que fazemos é construir infraestrutura para criar aplicativos também. Desculpem, uma hora vou conseguir dizer isso direito. Certo. Ainda vamos falar sobre o futuro e agora vamos ouvir o VP de engenharia da Mistral, que também é

46:09 o terceiro funcionário da empresa. Por favor, recebam no palco Leo. Certo. Olá a todos. Muito obrigado por virem aqui esta noite, por serem tantos.

46:41 Hoje vamos falar um pouco sobre o que a Mistral tem preparado, o que há de novo e, com sorte, dar algumas informações sobre o que temos feito. Para quem não nos conhece, somos a Mistral. Somos o principal laboratório de IA de fronteira da Europa. Começamos há três anos e quatro meses. Na época, éramos uma empresa bem pequena. Agora somos 1.300 pessoas. Crescemos muito. Temos uma missão clara: colocar IA nas mãos dos clientes e mudar a forma como as empresas operam. Portanto, não estamos buscando AGI; estamos buscando

47:15 utilidade, e é por isso que agora temos uma equipe dedicada a colocar as coisas em prática, levando provas de conceito à produção. É basicamente isso que a empresa está fazendo agora. Se olharmos para a edição anterior do AI Engineer Summit, há um ano, eu estava muito animado por ter sido convidado no ano passado pela COB. Algumas coisas aconteceram desde então. Vocês são mais de 700 inscritos. Temos mais de 50 palestrantes hoje. É um evento incrível. E, quanto à COB, que nos convidou no ano passado, agora tivemos

47:50 a sorte de tê-la dentro da Mistral. E vocês podem perguntar: por que fizemos essa aquisição? Bem, com a migração para cargas de trabalho agentic, com enxames de agents indo para todos os lados, fazia muito sentido trazer uma equipe focada em criar esse tipo de carga de trabalho agentic. É algo completamente diferente de obter servidores e coisas assim: o foco é o sandbox, a unidade de computação necessária para executar cargas de trabalho em escala. Foi isso que Yan disse no ano passado. Se funciona

48:27 desde o primeiro dia, mantivemos proximidade com o hardware para oferecer alto desempenho a custos sustentáveis. Operamos dezenas de milhares de aplicações em servidores bare metal em 10 locais no mundo todo. E eles estão se juntando à Mistral para construir essa infraestrutura. Assim, garantimos que, para nossas próprias cargas de trabalho — tudo o que precisamos construir e que exige execução assíncrona em segundo plano, segura e rápida — possamos aproveitar a tecnologia deles. Em maio, também anunciamos a aquisição da Emmy AI. A Emmy é uma

48:59 empresa focada em simulação de IA física. E, citando novamente Yannes: “Ao integrar nossa experiência ao ecossistema de IA de classe mundial da Mutual AI, estamos em posição de revolucionar a P&D essencial. Juntos, estamos fornecendo a inteligência fundamental necessária para projetar e construir a próxima geração de aeronaves, veículos e semicondutores.” Então, trata-se realmente de reunir todas as capacidades, as simulações e tudo o que ajuda a compreender e modelar o mundo, incorporando isso aos modelos para que possamos

49:32 ajudar nossos clientes industriais a melhorar. No início deste ano, anunciamos uma parceria de US$ 150 milhões com a Orbus, e é justamente nesse tipo de situação que ter essa experiência dentro de casa nos ajuda a criar modelos especializados de ponta para esse tipo de cliente. Também anunciamos na semana passada nossa Série D. É a maior rodada de financiamento de uma empresa de tecnologia na Europa: três bilhões de euros. Temos muito orgulho de que ela também tenha atraído muitos

50:05 investidores da Europa, de todo o mundo, que confiam em nós nessa missão de realmente tornar a IA útil e transformar empresas. E isso mostra que a maneira como temos trabalhado nos últimos três anos está dando certo. Mas eu, eu [aplausos] vou fazer de novo. Vocês vão ver. Eu não

50:36 fiz. Se acontecer de novo, vocês vão saber que fui eu. Vou falar brevemente sobre o futuro do trabalho e como o vemos. Isso significa também falar de como lidamos com a segurança agentic. Vamos falar um pouco sobre soberania e, depois, sobre como estamos trabalhando para criar novos modelos. Sei que todos vieram para ouvir sobre o Le Chat. Não vou anunciá-lo hoje, mas fiquem tranquilos: estamos trabalhando duro para chegar lá. Então, aparentemente, essa é difícil.

51:13 Certo, perfeito. Então, sobre o futuro do trabalho: vou falar um pouco sobre nosso conjunto de produtos atual e sobre como o imaginamos. Temos um produto robusto para desenvolvedores chamado Studio, no qual construímos muitas primitivas sobre os próprios modelos. Hoje há muitos modelos, mas isso não basta para colocá-los em produção. Por isso desenvolvemos o Studio, que agrega muito valor de produto a essas coisas de que vocês realmente precisam para colocar algo em produção. Pensem em workflows como execução de longa duração, os ambientes isolados que mencionei antes, todas as primitivas

51:46 de que vocês precisam para fazer isso acontecer. E temos o Vibe, nosso produto voltado ao usuário final, que aproveita todos esses recursos para, bem, resolver problemas de produtividade para clientes usuários finais, especialmente usuários corporativos. Obviamente, também temos uma equipe robusta de soluções que está criando casos de uso incríveis para todos os nossos clientes. E também temos, claro, uma equipe de ciência que desenvolve modelos genéricos, mas também modelos especializados para todos. Mas o que realmente queremos alcançar

52:18 como não tenho controle daqui — desculpem — é… Então, este é o Steven. Steven é uma pessoa muito legal. Ele trabalha na área financeira da Mistro e é responsável por garantir que nossa receita seja usada corretamente. Steven é o que alguns chamariam de inventor de soluções, mas, infelizmente, não tem tempo para montar novas estações de trabalho no porão. Então, precisa de uma ferramenta que permita fazer perguntas muito simples, mas também criar aplicações. Ele precisa ter acesso a

52:51 ferramentas que lhe permitam, por exemplo, criar uma aplicação para analisar e cruzar alguns dados vindos do data lake, da planilha do Excel e do workspace do Notion, e garantir que possa reunir tudo isso em um app para compartilhar basicamente com os colegas de trabalho. Isso é mais ou menos o que ouvimos antes, mas ele trabalha em um ambiente corporativo, com diretrizes que precisam garantir o uso adequado dos dados. E é nisso que estamos trabalhando com a versão unificada do Vibe: em como

53:23 garantir que esse tipo de usuário construtor — usuários finais comuns que estão começando a aprender cada vez mais sobre aplicações e sobre como usar esses modelos para criar coisas úteis — aproveite nosso conjunto de produtos para isso. Este é um exemplo de automação em que temos trabalhado, principalmente para engenheiros: como passar de um alerta no Slack de que algo deu errado no meio da noite para uma investigação feita por um agent. Assim, garantimos que o engenheiro de plantão, que recebe para acordar quando

53:58 vai ao computador, já tenha informações prontas para lidar com o alerta e processá-lo. Isso normalmente funciona com nossa pilha do Vibe, porque teremos agents assíncronos sendo executados imediatamente em algumas máquinas. Entenderam? Eles usarão os conectores que temos — conectores do Grafana, do Sentry e também do GitHub — para entender quais PRs podem ter causado uma regressão e propor uma investigação, algumas pistas que ajudem os engenheiros de plantão, em meio a um sistema enorme, a

54:30 entender onde pode estar o problema e, obviamente, publicar as descobertas de volta no Slack. Assim, pode haver uma conversa, e os engenheiros de plantão conseguem começar por algum lugar sem perder muito tempo. Este é um exemplo: vocês terão o alerta inicial do Sentry e, imediatamente, o agent responderá com algumas das coisas que encontrou, que ajudarão o engenheiro a entender o que está acontecendo. O interessante nisso é que antes era preciso

55:00 fazer muita integração para isso, porque é preciso conectar vários sistemas. O agent precisa estar rodando em algum lugar. É preciso configurar essas conexões, dizer que ele precisa de acesso a este conector e àquele outro. É por isso que estamos nos concentrando nesta versão unificada do Vibe: você começa com um prompt simples o suficiente para nosso querido Steven inserir: “Quando faltar uma avaliação de entrevista, envie um lembrete personalizado ao entrevistador que se esqueceu de fazê-la.” Antes, era preciso pensar em conectar o MCP certo do seu ATS ou algo assim. O que estamos

55:35 fazendo é garantir que isso seja praticamente tudo o que você precisa fazer, porque tudo o que vimos na apresentação anterior está absolutamente certo. E você precisa pensar nisso. Mas, para nossos inventores de soluções corporativos, que não são desenvolvedores e não sabem nada sobre máquinas virtuais Linux ou algo do tipo, o que eles querem é poder enviar um prompt como esse e ter todos os conectores e ferramentas corporativas de que precisam prontamente disponíveis. E é aí que o Vibe agora consegue entender essa intenção e iniciar agents

56:06 em segundo plano, criar código, executá-lo, rodar os testes, fazer o deploy, hospedá-los e, basicamente, iterar por conta própria durante minutos ou horas, até chegar a um resultado final que você possa compartilhar com seus colegas de trabalho, com um conjunto de controles de acesso restritivos baseados nas suas permissões. Tudo de que você precisa para criar software corporativo. E é aí que isso fica interessante, porque vemos esse tipo de caso de uso em toda parte, e todo mundo está programando ou conectando o que precisa, ligando diretamente

56:38 conectores e permitindo qualquer tipo de acesso a dados, quero dizer, qualquer tipo de acesso de agent, a qualquer tipo de dado, sem nenhum controle — o que basicamente impede que esses casos de uso sejam implantados em produção. Então, acreditamos que o futuro do trabalho consiste em garantir que unamos todas essas personas em uma só, e é nisso que estamos investindo. Em vez de usar software, já que nosso querido Steven não sabe necessariamente como criar software, nós simplesmente direcionamos agents. Temos um harness unificado. Então, não vou apresentar um produto diferente

57:13 se você trabalha na área financeira, na área jurídica ou é engenheiro. O produto, o modelo, consegue se adaptar: ao que vai usar e ao que vai mostrar, com um harness unificado em diferentes interfaces. Então, o que vimos antes é exatamente aquilo em que estamos trabalhando: garantir que você possa iniciar uma sessão localmente, no seu próprio laptop, depois transportá-la para a web e executá-la em ambientes isolados, verificá-la no seu celular, no app, e até mesmo orientá-la. Ela pode até enviar para o GitHub. Pode verificar sua

57:43 CI. Pode iterar nisso. E é por isso que o harness unificado funciona tão bem: um usuário corporativo que só quer processar algumas planilhas poderá usar a mesma coisa sem perceber a diferença. Então, obviamente, a plataforma fica mais valiosa cada vez que alguém a usa. Alguém cria uma skill, alguém cria um app e compartilha com o restante da equipe. Também podemos aprimorar as skills e os prompts. Então, nos casos de uso que acabei de compartilhar, vocês podem ver o que acontece depois de uma semana de execução.

58:14 do agente investigativo: o que funcionou, o que não funcionou. Talvez a forma como ele chamou o MCP do Grafana no início estivesse errada, porque não entendeu bem essa opção não documentada. Ao analisar os traces, agora a skill consegue se corrigir e pode especificar como usar corretamente esse conector no futuro, garantindo que seja mais eficiente em tokens e mais rápido. Isso nos leva à segurança agentic, porque esses agents são muito poderosos. Eles fazem muitas coisas, mas, obviamente, têm riscos, e tenho certeza de que todos vocês têm

58:45 alguém na família que, nos últimos dez dias, perguntou se a IA vai acabar com o mundo. Bem, Mistral não vai, e estamos investindo pesado em segurança agentic por esse motivo. Resumidamente, o que é segurança agentic? Se falarmos dos diferentes modelos de ameaça que temos com agents, eles geralmente têm acesso privilegiado a muitos conectores e a muitos dados, e podem fazer qualquer coisa com eles. Como não são determinísticos, é muito difícil criar barreiras de segurança rígidas, com regras do tipo: “Se você fizer isso, não faça aquilo”. É difícil porque

59:20 na próxima execução, talvez ele não faça isso. E, obviamente, há entradas controladas por atacantes, as prompt injections que todos conhecemos. Elas estão ficando cada vez mais sofisticadas e tentamos incorporá-las ao modelo, mas cada modelo tem um jailbreak. Assim que você busca dados do usuário ou dados vindos de fora, isso é sempre uma ameaça e algo que pode acontecer. Então, como podemos nos proteger contra isso? Há trabalho a ser feito no modelo. Queremos que o modelo entenda o máximo possível o que

59:52 é uma injeção, o que é uma instrução legítima e o que vem de um contexto inseguro do usuário. Obviamente, também queremos restringir os privilégios dos agents. Queremos garantir que, em tempo de execução, eles só possam fazer o que precisam fazer. Isso pode ser dinâmico: dependendo da etapa e do workflow, você também pode alterar as permissões dinamicamente. Obviamente, os sandboxes são muito importantes aqui. E então temos as barreiras de segurança em tempo de execução. Temos tudo de que precisamos para observar o comportamento do próprio agent

1:00:25 analisando os traces, os traces de baixo nível. E é aí que os sandboxes também são tão importantes. Você pode analisar cada chamada de sistema, cada chamada de rede e, a partir disso, derivar heurísticas e entender o que o sandbox está realmente tentando fazer. Se o agent está seguindo um padrão normal ou fazendo algo um pouco anormal. O problema é que, quando você adiciona todas essas barreiras de segurança em todos os lugares, acaba quebrando todos os casos de uso, porque tinha um agent tão poderoso, ferramentas tão poderosas, mas agora está restringindo tudo porque tem medo de tudo. E esse é um

1:01:00 dilema claro com o qual precisamos lidar. Estamos resolvendo isso com colaboração dinâmica e garantindo, como eu disse, que as permissões certas sejam concedidas na medida certa, no momento certo, quando forem necessárias e houver um bom motivo para concedê-las. Também garantimos que possamos filtrar quais operações devem ser permitidas e por quê. Esta é uma demonstração rápida de uma prompt injection típica, em que vamos pedir ao VIP CLI para executar uma tarefa analisando uma issue do GitHub. Vai acontecer muito rápido, mas, ao

1:01:33 analisar a issue do GitHub que contém uma prompt injection, ele vai publicar um comando aqui que exfiltra uma chave secreta, simplesmente porque você usou o conteúdo da issue publicado por um usuário malicioso. Estamos trabalhando em regras para prompt injection, nas quais você pode descrever um conjunto de classificadores. Você escolhe quais quer usar. Podem ser dados pessoais identificáveis, segredos, conhecimento da empresa e coisas do tipo. Você define uma fonte, define limites, define o tipo de moderação que quer usar. E também pode definir o que quer fazer depois disso. Então, depois de

1:02:07 definir sua regra, você vai vinculá-la a uma política. >> A política permite basicamente decidir onde aplicar essa regra e em qual superfície do produto, porque pode ser o Vibe na web, o aplicativo móvel ou o CLI. É exatamente isso que a regra permite fazer como administrador corporativo, e você pode definir o limite aqui. Pode aplicá-la e, depois, só precisa ativá-la. Então, ao usar o VIP CLI novamente para executar a mesma ação, ela será interrompida no nível da rede

1:02:42 sem que o usuário precise configurar nada. Esse é o poder dos controles corporativos: o usuário nunca precisou optar por receber proteção. Esta é uma política definida e aplicada no nível corporativo. Esse é o tipo de trabalho que estamos fazendo em segurança. Mas a segurança não basta se sua IA não for soberana. Então, o que é soberania? Bem, existe a soberania dos dados. Onde estão seus dados? Onde os dados dos seus usuários e dos seus clientes são armazenados? Por quanto tempo são retidos? Quem tem acesso a

1:03:12 eles? Qual hyperscaler ou empresa poderia, por causa da jurisdição ou de algum outro fator, ler esses dados? Há também a soberania da inteligência: onde isso acontece quando você analisa o comportamento do modelo, tenta ajustá-lo ou faz fine-tuning? E há também a soberania computacional. Hoje, todas as inferências são feitas com ZDR em todos os lugares, mas os dados ainda transitam por alguns locais. Entender isso também é muito importante. E há a soberania operacional, porque você precisa saber exatamente o que está acontecendo na sua

1:03:46 empresa, exatamente o que está acontecendo em termos de segurança, logs de auditoria e coisas do tipo. A forma como respondemos a isso é construindo esse tipo de data center. Há algum tempo, a Mistral era apenas uma empresa de modelos; depois, tornou-se uma empresa de produtos e agora estamos construindo nosso próprio data center. Trata-se de uma instalação de 10 megawatts perto de Paris, com B300 da Nvidia. Este é um dos maiores

1:04:18 data centers com esse tipo de hardware de ponta da Nvidia na Europa. É onde atendemos nossas cargas de trabalho críticas internas. É onde a Lat talvez esteja treinando agora. Mas também é onde colocamos as cargas de trabalho dos clientes mais sensíveis. É assim que podemos oferecer aos clientes um caminho de soberania completo, de ponta a ponta, que inclui segurança agentic, mas também inferência e treinamento. Mas, obviamente, você também precisa de modelos para que tudo isso funcione. Estes são

1:04:52 basicamente os modelos gerais que temos, em diferentes tamanhos para diferentes necessidades. Sei que todos estão esperando um modelo grande, e espero que possamos entregá-lo muito em breve. Mas também temos nos concentrado bastante em modelos especializados. Há dois tipos de modelos especializados. Os modelos especializados que atendem a muitas finalidades. Vamos falar sobre OCR e VR daqui a pouco. Mas também há todos os modelos que ajustamos com fine-tuning para clientes específicos que têm conjuntos de dados específicos. Pense em idiomas raros; pense em empresas que têm suas próprias linguagens de programação, das quais ninguém nunca ouviu falar. Então, obviamente, por padrão, os modelos de programação não são bons nisso. Poder sentar com uma empresa e criar um modelo especializado faz uma diferença enorme. E temos alguns modelos experimentais que nos permitem ampliar as fronteiras da ciência. Linstrol, para demonstrações formais. Chillstrol, que anunciamos há um mês. Todo mundo fala de jev por toda parte, mas o Chillstrol basicamente responde a uma pergunta de moderação muito rápido, com uma arquitetura muito boa, para fins de segurança.

1:05:23 …já ouviu falar. Então, obviamente, por padrão, os modelos de programação não são bons nisso. Como você pode, de fato, sentar com uma empresa e criar um modelo especializado faz uma diferença enorme. E temos alguns modelos experimentais que nos permitem refinar a fronteira da ciência. O Leanstral, para provas formais. O Chillstral, que anunciamos há um mês. Você sabe, todo mundo está falando do Jev por toda parte, mas o Chillstral basicamente responde a uma pergunta de moderação com extrema rapidez, usando uma arquitetura muito boa para fins de segurança.

1:05:55 Se eu entrar um pouco nos modelos especializados, deixe-me falar um pouco sobre o Voxtral, nossa família de modelos de áudio. Temos modelos de conversão de texto em fala e, para isso, vou mostrar algo que eu diria que mencionei no ano passado no AI Engineer, e vocês me dizem qual é: vimos mesmo que a missão de oferecer modelos open source para levar a IA às massas também era compatível com ir além no setor empresarial e desenvolver

1:06:25 um foco forte. Então, o que construímos na Mistral? Depois de coletar todos esses dados, você quer observar as pessoas fazendo o que fazem. No contexto empresarial, é muito importante usar isso para entender como as pessoas realmente trabalham, como organizam seus dias, que tipos de workflows adotam. Como vocês devem ter imaginado, uma das vozes foi gerada por IA e a outra era minha. Esse é o tipo de recurso de clonagem de voz em que estamos investindo bastante para tornar esse tipo de modelo

1:06:58 extremamente útil. A segunda amostra não era minha de jeito nenhum. E esse é o tipo de recurso que estamos desenvolvendo para conversão de fala em texto. Trabalhamos para obter mais precisão. Garantimos que seja possível, basicamente, imitar qualquer tipo de voz, qualquer tipo de sotaque, para que isso seja útil em qualquer situação. Para a conversão de fala em texto, já temos modelos de ponta e estamos aprimorando-os bastante. O que estamos desenvolvendo é a diarização em tempo real, para que, em uma reunião, você tenha uma transcrição ao vivo e também saiba quem é cada

1:07:31 pessoa que está falando. Também estamos garantindo o suporte a mais idiomas, obviamente com marcações de tempo precisas, e que funcione em ambientes muito barulhentos. E também conseguimos fazer transcrições ao vivo. >> No setor bancário, temos um processo muito importante chamado KYC. É um processo demorado. Com a Mistral AI, começamos a trabalhar em um processo de KYC específico para empresas na Bélgica e desenvolvemos dois agents. Conseguimos reduzir de 80% para apenas 10% a proporção de arquivos incompletos enviados ao middle office. Para os

1:08:06 clientes, o processo de solicitação demora muito. Então, não houve truque. Foi uma transcrição e tradução ao vivo de um vídeo, usando nossos modelos mais recentes. Estamos trabalhando ativamente para torná-los mais úteis para os clientes. Isso é fundamental para a maneira como trabalhamos. Não estamos tentando fazer benchmark de tudo. Estamos tentando criar coisas que façam diferença na prática para nossos próprios clientes. Falando rapidamente sobre o OCR 4.1, o modelo que anunciamos neste verão. Então, este é

1:08:39 também um modelo de OCR de ponta, que agora consegue transcrever qualquer tipo de escrita à mão e qualquer tipo de documento antigo digitalizado, dos anos 60 ou algo assim. Passei por isso um pouco rápido. Este é normalmente um documento bastante difícil, no qual dá para ver os rótulos. É possível distinguir legendas, títulos, texto, tabelas e também imagens. Você consegue extrair tudo isso. Este é um modelo muito poderoso, usado, em geral, pela nossa biblioteca de documentos.

1:09:09 A biblioteca de documentos dentro do Vibe é onde você pode carregar uma grande quantidade de dados. Podem ser terabytes de dados, documentos não estruturados ou qualquer outra coisa, e tudo passa pelo pipeline de OCR, se necessário, para que você possa fazer consultas em tempo de execução sempre que precisar. É exatamente isso que usamos em pipelines avançados de RAG com nossos próprios clientes, nesse tipo de contexto. Estamos trabalhando bastante para torná-lo mais robusto, para que entenda mais idiomas e seja muito resistente a ruído. Mas esse é o tipo de modelo de

1:09:41 ponta em que estamos trabalhando ativamente, porque realmente resolve problemas empresariais. Eles ajudam a criar casos de uso reais, que podemos implementar e colocar em produção, e que mudam muita coisa para nossos clientes. Estes são os ambientes de teste. Você pode acessar o Studio e testar esses modelos. Pode testar, opa, desculpe, os modelos de voz, os modelos de OCR com as caixas delimitadoras que não mencionei, mas que também adicionamos há alguns meses. Elas permitem criar casos de uso extremamente avançados com base em

1:10:13 tudo isso. Para resumir, estamos trabalhando em uma nova visão do trabalho, tentando ir além da assistência por chat para criar algo útil e aproximar as personas do usuário final e de quem desenvolve. Estamos trabalhando bastante na segurança de agents, garantindo que possamos manter agents muito poderosos, mas ainda entender o que estão fazendo, proteger o conhecimento da empresa e o conhecimento empresarial e ter o conjunto certo de primitivas. Também estamos trabalhando muito em soberania, garantindo que oferecemos o nível certo de controle a todos

1:10:44 os nossos clientes. Estamos investindo bastante em data centers — mencionei um na França, mas também há outros em toda a Europa — para sermos uma empresa de IA totalmente full stack. E continuamos trabalhando bastante em modelos avançados. A equipe de ciência nunca foi tão grande. Muita coisa está acontecendo nessas diferentes frentes. Obviamente, os LLMs continuam sendo um dos principais casos de uso em que estamos trabalhando ativamente neste momento. Espero que tenhamos coisas muito interessantes para compartilhar em breve. Muito obrigado por estarem aqui. Espero que tenham aproveitado o evento. Muitas pessoas da equipe estarão por aqui. Algumas delas estão de camiseta, mas, de todo modo,

1:11:15 fiquem à vontade para entrar em contato. Lembrem-se de que somos 1.300 pessoas, mas ainda estamos contratando. Então, venham também dar um oi. E obrigado a todos os palestrantes. Também quero agradecer a Jen Aliser e a toda a equipe da Debell por organizarem isso e, obviamente, ao Ralph por ser nosso mestre de cerimônias esta noite. Muito obrigado e aproveitem. Legal. Certo. Obrigado, Lilio. Vamos aplaudir Lilio mais uma vez. Isso! Com certeza. Acho que foi certeiro. Acho que também devemos aplaudir

1:11:49 a Jen Ali’s there e toda a equipe de ML por organizar isso. Certo, tenho uma notícia triste. A notícia triste é que, sim, a noite acabou, não é? Vocês podem voltar e relaxar etc. Mas também tenho duas notícias melhores. Certo, vamos voltar amanhã. Há tantas coisas que vamos abordar amanhã. Vocês vão ouvir a Black Forest Labs. Vão ouvir a Nvidia e muitas outras pessoas. A programação de amanhã vai ser extraordinária. Certo. Quem vai voltar

1:12:22 amanhã, aliás? Estou vendo todos vocês. Isso! Certo, nos vemos amanhã. Mas, por esta noite, temos uma recepção na área de exposição. Certo. Podemos ir para lá sem pressa e aproveitar, conhecer pessoas, tirar um tempo e conversar com todo mundo. Alguns dos palestrantes estarão lá, assim como alguns dos nossos patrocinadores. Então, por favor, juntem-se a nós lá em cima, na área de exposição, e nos vemos daqui a pouco. Certo. Muito obrigado, pessoal. Vocês foram incríveis hoje.

1:12:56 Legal.

Transcrição original

[00:00] labor to the economy because we can add capital to the workers that are in the economy or because we become better at turning this labor and capital into economic output and that’s what we would call productivity increases in economics and in the long run the main driver of economic growth are these productivity advances and those in turn are basically improvements in technology and also in organizational progress which is closely related and this is where I want to start and to bring in actual history um to to to draw parallel to the AI

[00:30] productivity puzzle that I was alluding to at the start. We can, for example, I think very well compare AI to the prime example of a technological revolution in history, which is the industrial revolution. Um, the industrial revolution, as I mentioned, kickstarted modern economic growth. Yet, we observe a somewhat similar and interesting pattern for it too. The steam engine, its main underlying technology, contributed close to nothing to productivity gains for many, many decades after it was invented. And it took actually over a century until we see productivity and economic growth

[01:03] showing up in the data after the invention happened. All right, a brief slide on technologies. In economic history, there’s generally a class of technologies that’s described as general purpose technologies um which are in economic history uh funnily enough referred to as GPTs. Um and nice coincidence for this talk, but general purpose technologies generally have three attributes. They are pervasive. That means they apply across basically all sectors of the economy. The technology can be improved over a long period of time. And the third point is

[01:37] pretty interesting because it means that they have complimentarities. And that means the technology raises the returns in its applications as they improve and as the applications improve that in turn raises the value of the initial technology that helped bring them to life. In other words, uh, general purpose technologies can keep on giving for a really long time for the economy. And an important question that history or future will tell is whether our AI engineering GPT turns out to be a GPT that can achieve this. Well, there’s no

[02:07] official list. Um, technologies that are often considered to be general purpose technologies are, for example, the waterhe, steam engine, the railways, electricity, or the computer. Um, and there’s a second idea that I just want to briefly mention and keep in the back of your mind, and that’s that there’s other kinds of technologies that are invented that help us improve how we do research and development going forward. So these innovations can basically help us drive productivity growth going forward. And among these are for example innovations such as the printing press, the microscope, the invention of the

[02:42] corporate or the university research lab which we also obviously see in AI a lot right now or machine learning technology. I think AI has a good claim to be both of these kinds of technologies at the same time. um both a pervasive technology that is unlikely unlikely to saturate quickly and can add economic growth for a long time but also a technology that can be used to improve the process of invention itself and I think over recent weeks especially we’ve seen that in in mathematics for example

[03:14] and I think that’s very exciting for what it can do for living standards because as you can see on this graph on the slide um for the past 150 years is the US economy has basically grown at a stable 2% per year and per capita terms times you see the trend line fits very well. There’s periods where growth is faster. There’s periods where growth is slower, booms and busts, etc. But on average over 150 years, pretty remarkably stable two years uh 2%. This is a lo axis is a log. So um every linear change basically means a

[03:46] doubling. 2% a year growth um doesn’t sound like a lot. If you were going to invest your money and get 2% a year, you’d probably not be terribly excited. But it does a lot when it compounds over a long time. So over the 150 years on this graph or 140 years on this graph, we roughly see income per person in adjusted for inflation, etc. grow by a factor of 10. And to me, it’s pretty astounding what it takes to achieve 2% of growth. This was an era 1880 to 2020 of amazing innovation. Basically, all modern

[04:20] technologies that we marvel at today were were invented then. the automobile, aviation, space travel, biotechnologies, the internet, just to name a few. And I think you can fill in the gaps. And in the end, all of this comes together to giving us an average growth in the economy in the US economy of 2% per year. Now, AI might do two things. Um, firstly, it might support this trend so that it can keep going for a longer time. And I think that’s already a great achievement because we can see what level of tech technological innovation it takes to just sustain 2% per year.

[04:53] But um and excitingly it might also accelerate this. There is not really consensus right now in economists um of the magnitude of what we might expect this uh graph to look like going forward. and estimates range from as little as a 0.1 percentage point increase of additional GPT above trend um per year. But there’s also models of economists that take into account recursive self-improvement, some sort of intelligence explosion in AI that arrive at the possibility of high singledigit percentage point increases um to what

[05:28] you can see on this chart. And as living standards compound over time, as you can see here, um what new regime of growth we end up in over the next couple of years is really going to make an incredible difference to to living standards. All right. Now, let’s turn back into the history. Um and start with the industrial revolution where it all has to start when talking about technology. Um the steam engine is the canonical technological innovation of the industrial revolution. Um in principle it helped divorce the creation of mechanical power from muscles and rivers

[06:03] um and made it possible to provide power at some scale and also much more location independent than we were able to do so before. Um it was first invented by Thomas Newman in 1712 and then materially improved by James Watt whose name at least everyone knows um later in the century but the technology really took well into the 19th century to continue to improve before it was widely adopted in the economy and industry and factories and only when high pressure steam engines spread and the price of power came down by many

[06:35] orders of magnitude we can actually see productivity and GDP take up in the statistics. So the steam engine really had to become a radically better technology for a long long period of time because we could start to deploy it at any scale. And then it took the invention and also deployment of its compliments, new machine tools, railways, steamships, a newly skilled labor force until an entire economic system could basically develop around it. And the industrial revolution as we know it and the transformative change that we see in the numbers starts really humming and making a difference for

[07:07] people. Right. I think this carries an interesting observation. Um, a technology can arrive a very very long time before it diffuses and an economic system develops around it. In the case of the steam engine first invented in 1712, productivity advances really showing in the 1830s at the earliest, so more than 100 years really until we see that show up. Another example um is the electrification of the United States. Um Thomas Edison installed the first power plant in New York Post Street station in

[07:40] 1812. Um but it took about 30 40 years for um us to see any meaningful electrification of factories in the United States. And this time it wasn’t the technology that needed to improve but it was really a redesign of the factory that was required as the place where power is consumed and not created. um factories had previously run on steam engines and were laid out to use one power source and you can kind of see that on the um picture on the bottom

[08:13] right that I made with Grockbot actually. Um um and there was one power source that basically ran all machines in the factory. So one power source connected with belts and shafts to all machines in the factory. Um which basically meant um that you had to lay out the factory in a way to accord with how you transmit power in it. And also factories were often laid out vertically over multiple stories. Um,

[08:44] while you could really quickly actually replace the steam engine with an electrical motor, um, this wasn’t really the best way to set up a factory that had electricity available to it. Um, and electricity really unfolded its biggest gains when you could use its unique advantage. And the unique advantage of electricity is that you can generate it at a different point than the place where you consume it. Um, and this allowed for the so-called unit drive system to take hold, which basically meant every machine in a factory has uh one power source. And I think the advantages become clear very quickly

[09:16] because now if you you can turn off just one machine uh in the group drive system. If you turn off the steam engine, the entire factory starts running. If you turn off one motor, electrical motor for a machine, only this one um machine needs to needs to be turned off. Um so you can start laying out the factory according to your workflow and not according to where the belts and shafts need to go. Um you can expand it easily. You can retool it. You can start producing something different. Um but this is a slow and expensive process. requires a retooling of the entire factory and not

[10:14] consumed in factories. And after 50 years, 80% of power consumed in factories came from electricity. We’ll move a bit closer to our own time right now um and starting with a famous quote from the economist Robert Solo um where he wrote that you can see the computer age everywhere but in the productivity statistics and he said that in 1987 where personal computers were already all over the place and computing quite widely adopted in the economy. Um and I think in general very well known uh second half of the 20th century we

[10:47] saw really amazing innovation in computing personal computing internet I think altogether information technology that drove down the cost of processing storing communicating communicating information precipitously but it took until the mid to late 1990s for productivity to actually respond here and again the economy needed some changes and this time these were mostly organizational so firms and workers need to change their processes um develop the skills, adopt the right compliments to really gain from computer technology.

[11:20] And this time around that was things like developing well other firms had to develop enterprise software, database technology. Supply chains needed to be redesigned to actually work with digital ways of accounting for for for goods. Um and of course also it meant the adoption and rollout of many many many individual pieces of hardware and software to workers in the economy. And this is actually a much slower transformation of the organization that was required rather than the invention just of the

[11:51] computer technology that ultimately helped us take advantage of this technology in a really meaningful way for the economy. And um this relationship or this kind of development that we saw there is sometimes described as a J-Curve relationship where um the investment required initially to adopt the technology to start learning new processes, buy new hardware etc etc actually slows down productivity growth before it enables it to to accelerate um later in the process. And I want to very briefly touch on

[12:24] another place where technology can be out of sync with another factor and that’s in capital markets. Um, in history, the real promise of groundbreaking technologies has always been able to marshall significant money and resources early on before we actually know how and when a technology is going to produce growth in the economy. And I want to put two historical episodes next to AI’s buildout and compare it a little bit at least in magnitude. Um in the 1840s in Britain, uh Parliament authorized

[12:55] hundreds of new railway lines um that they could be built. And this was basically happened all at once. And a sort of mad rush of cheap capital, um rising demand for freight, especially coal, and a belief that every town and everywhere in the country needs to have a railway connection to to participate in the economy led to a crazy investment boom that has not many many comparables in history. um it’s one of the largest of all time and railway investment reached 5 to 7% of GDP um in a single year in the 1840s. And another example

[13:30] uh closer to digital technologies from the late 1990s um the computer and the internet in the late 1990s commercial internet takes off and a race to deploy longhaul fiber started to basically enable people broadband access. Um and there’s a lot of deregulation in the US. New carriers, new companies that were laying fiber and expectations that demand and transmission of data was going to to grow insatiably led to basically a way overbuilt out of of

[14:01] fiber technology. Um this boom was around 1 to 1.5% of GDP in 1999. And today if we compare these magnitudes to AI, um AI infrastructure investment is already at about 1.8% of US GDP this year. are already bigger than fiber and forecasted to reach about 3% of US GDP by 2028. So in other words, uh AI infrastructure has already up there with um some of the largest investment booms that we’ve seen in history of all time. I’m not going to really be drawn out to to comment on whether it’s a bubble or not. I really don’t know. uh but I think

[14:33] there’s an interesting observation from history that no matter what the the private returns for investors end up being from investment in this infrastructure the infrastructure that’s built out can outlast and turn out to be productive later on even if there’s a bubble. So this is the case with um railways surplus railway tracks that were late and overbuild or it’s also called dark fiber um in the com era that later enabled much cheaper transportation and things like streaming the mobile era to to happen with much

[15:05] much cheaper infrastructure available to the economy. All right. Um a strong pattern that I’ve hopefully driven home um is that technology can move at two clocks. Um, one is the faster clock of technological innovation and prototypes when a transformative technology emerges and the second is the slower clock of actually deploying it when a technology gets deeply integrated embroidered into the fabric of the firm and and the economy as a whole. For steam, that was additional technological innovation in

[15:39] the core technology. And for electricity, it was a new factory that needed to be designed to complement um the new technology. And for computers, it was basically large scale organizational organizational change, new skills, new ways of working and also the deployment of course of hardware and software. We’re now four years into the generative AI era, if you will, and I would like to invite you to think about what it’ll take for AI to ultimately start to raise productivity and economic growth for

[16:12] everyone. Um, is that the core technology improvements in foundation models? Is it adoption across other sectors of the economy that are currently not really touched? Is it complements the application layer? Is it reskilling the workforce? I don’t really have the answer with me, but I’m excited to speak with everyone uh that wants to approach me over the next two days about this. All right, to wrap up, um I hope I’ve made the point that invention creates possibility as a start. But to create

[16:42] turn this possibility into growth, more is needed. diffusion, investment and compliments, organizational change can all determine how much of this really turns out into productivity which turns into improved living standards for everyone. Um, bringing AI into firms, rewiring how work gets done, training and transforming how other people work, and starting new companies that do this from scratch with new ideas is, I think, very much how this technology gets on

[17:14] the road. And that feels like a very encouraging message to to end on for this room because I think most of us spend all of their days working into rewiring the economy for this new technology. Thank you so much for your time and have a great conference. [applause] Let’s give it up one more time for Clemens, please. Wow. I always like to see how we can, you

[17:45] know, extrapolate what happens in the past to kind of try to predict the future. And uh Clemens spoke a little bit about how we should feel about today. And our next speaker is going to talk to us about the future. Actually, our next two speakers are going to talk to us about the future. And uh our next speaker is somebody who doesn’t need any introduction. If you’ve been on social media, if you’ve been on Axe, you probably have seen his hot takes. Uh he calls himself a master tinker. I still don’t know what that is, but we’ll go

[18:16] with that. Okay. All right. So, please let’s give it up for the pizza. Okay, this never works, but let’s try to make

[18:46] it work. All right, slide. Boom. You guys can see it. Perfect. I just realized how bad it sounds. We call it master tinker. I just like tinkering with stuff and we form this entire thing that I’m going to tell you in a second. Are we going to stop the music or am I going to have a background soundtrack? Okay, it’s going away. Cool. So, I’m the kids on X. If you know me on X, we probably disagree about many things and we probably argued about many things. So, um I have 20 something minutes before I need to catch an Uber. That’s going to be fun. Um I just need to get my cursor over here so I can click and

[19:19] it will be perfect to start. So, usually I plug in my 39 products I’m working on. This time I won’t. I’ll just have one slide. If you are someone who tinkers with like local LMS and hardware and self-hosting and a bunch of other things, we have a group of crazy people called thinker.club. That’s the URL. And basically every person within this club is a copy and paste version of themselves. It’s hilarious to see that everyone has the same interest from like hardware and 3D printing and AI and SAS and business owners. If you want to join us, it’s at thinker.club. So previously at AI engineer, I’ve given

[19:49] a talk uh called from vibe coding to vibe engineering which still many people are going to that transition. So if I would do the talk right now, it would still be relevant because so many people are just moving from vibe coding to vibe engineering. But I can already sense the shift within me within my own apps and within other people’s like I can see what’s everything that’s going on on Twitter and we’re slowly starting to move to the next level of engineer nearing you probably heard the term like factories and software factories and slopp factories that I call them and you can see that within Q4 of this year and

[20:20] within next year it’s going to be more and more and more about going from like VIP coding and even this old version of VIP engineering to something new. But before we talk about the something new we got to go a little bit back. So I’ll take you just a few slides through what we went through in the last few years. There’s still many people who are using copilot and they’re pressing tab and they call that AI. But we went through that for the longest time. Uh at some point we were copy and pasting from chat GPT. And if you remember if you’re old enough like few years ago it couldn’t finish a function and you have to beg it and be like can you please finish that and you wait for the next one and you

[20:52] copy and paste it somewhere. Then we had to beg again but that time we were begging for JSON. We’re like, can you just not put markdown in it? Just I need clean JSON. And it be like, sure, here’s some markdown and some JSON. So, whoever started with AI now, you’re very very spoiled. Then we uh we focused on editing one thing. So, there was no agents, but we would just use AI and it would change a file and we were like, oh, this is dangerous. It might do something, right? And then very quickly, it felt like we went through agents, but we were still careful and we were just reviewing every permission. We’re like, be careful. Don’t touch the the thing. And then like literally one year later,

[21:25] like when it asks me if I can run this, like how the should I know, right? You just read the thing, you’re like, “Yeah, I I guess I I hope so.” Right? So now everyone is in this full yellow mode. There’s not a single person that I know that’s not actually running on full permissions. Like take my production databases, customer data, GDPR, whatever, man. Take everything. Just finish the the job. So we ended up here. Basically, we have a few categories of people that are working with AI right now. We have the slop grenade throwers, which is most of us. We’re trying not to be, but we’re just

[21:57] throwing the slop grenades. We have the meat proxies. Have you heard this term? Like, this is one of my favorite terms I’ve heard lately. Like, I absolutely love it. And we have actual AI engineers, which are like not a lot of people, but we’re trying to make like uh everyone an AI engineer basically. the slop grenade thrower. It’s like everyone is kind of doing this that because of the speed of AI, it’s very easy to just prompt an agent and then it generates a bunch of slop and then you don’t read it and you just throw it at your colleague. You’re like, “Good luck. Good luck. Hopefully it doesn’t explode production. You figure it out.” And then we have like the meat proxy which is like if you

[22:27] don’t know what this is it means you’re sitting between your manager or your supervisor whoever it is and they ask you to do something and then you literally take their prompt you put it into an LLM then you take the result from that LLM you barely review it you give it back to the person so you’re just serving as a meat proxy and currently there’s so many companies and this would have to change that they’re actually consisted of layers or layers or layers of just meat proxies talking to each other and I think next year is going to be brutal because many people they’re going to wake up to the fact they’re going to go to the mirror and be Oh And they’re going to get fired. Like it’s inevitable. I’ve been talking in my talks about this and it’s going to

[22:59] happen I think around next year. The actual engineers actually try to build systems around their processes and no one has the right system. So this talk is about like my road there. I can see like two camps of people. It’s always been a division. So we have the desktop people and we have the CLI people, the hackers, the tinkers that that like I always hated the terminal by the way. I always hated CLI. I was a big hater. Like give me a beautiful UI that I can click on. I always hated this tinkering type of stuff. What’s mindblowing to me that we had like three years of orchestrators being released from cursor

[23:31] to conductor to everything else. Everything like no one is even trying. It’s just a copy and paste of the same layout. On the left you have sidebar with chats. In the middle you have chats and on the right side you might get a git diff and everyone is like we just raised 37 million for a new orchestrator and the screenshot you’re like is that codeex? Is it cursor? is it’s the same always and no one is even trying. I’m going to try to show you mine eventually at the end of the talk. So, we’ll see if you like that. Uh CLI camper the vanilla once and I’m going between back and forth like I launch a desktop app and then I go back to the CLI and then we have like the absolute

[24:04] crazies who like if you haven’t heard of the term oh my pi don’t even research what is oh my pi but we have people who have these oh my pi inside of her inside of inside of VM inside of proxmog and ask them what they shipped and they be like yeah but my factory works I guess. Um, so I was the one roasting all of this. I always hated like self-hosters. Like I was always the one just pay Versel, pay railway, pay whoever, don’t bother with this. And then I just full went and do the other side with Cur Club because the more people post about this, the more I want to do it too. So I have like Linux boxes and tails scale and a

[24:34] bunch of basically. So we have tools versus methods. We’re going to talk about methods. So So we have like the two tools like CLIs and desktops. And then we have uh methods. So the one me like I’ve been going through all of these and then I’m going to tell you which one that I landed on. one chat and prompt until work. This is like I would stop opening multiple chats for different tasks and I just keep one and especially with the smart compaction of codecs. I can just dump a bunch of things in the queue and I don’t even know where it compacts. I think it doesn’t even tell you that it’s compacting. So it would just work and pick up the next task and pick up the next task and the next one and it would work and ship but in between every task

[25:09] there’s no like management where it’s like launches a sub agent to review and then another one to test. you just hope that it’s going to go through all the task and it’s going to finish all the tasks. Kind of like it, kind of dislike it. Then we have this is actually uh one chat per task where you have like a folder in codeex or whatever and then for every task that you need to do, you start a new chat. But if you don’t use work trees, you either have to guess whether the features are going to overlap each other or you have to use work trees and then you need a chat on top of those chats to do something with the work trees. So it’s kind of getting messy. Then you have like work trees and

[25:41] hope. So no, nobody knew about work trees by the way until like seven weeks ago. So shut up. So now everyone’s using work trees and everyone is a git engineer and you know stuff, right? But the problem is these are still not fully isolated systems. They’re like they’re a different git thingy but they can still nuke your database equally as like not using a git work tree. Then we have all of these terms which a lot of times I hate because they’re overwhelming to learn all of this. Like they have, have you heard of gauntlet loops? First we had loops and everyone was like what? And now it’s like, oh, I just did

[26:11] this using a gauntlet loop. Like I keep we keep inventing all of these terms and some of them are useful, some of them are not useful. So yeah, and finally, we’re talking about software factories. If you ask any of your bots to make a research of all the articles published about software factories, your mind’s going to be blown and you’re going to read through half of it and be like, “Oh, just let me prompt for sake. Let me be a meat proxy.” because it’s very overwhelming because uh if you look at if you zoom out like almost nobody has an actual software factory and people are just scraping it together and we don’t agree on what a software factory should be. Should it be on a level of a company organization? Should I have as an engineer uh um a software

[26:46] factory and we end up with this slob grenade fight. So if you look at any GitHub repo, any organization, you just have someone who opened a PR using an LLM. You have a beautiful readme with like emojis and paragraphs. We never even bothered to make something bold on GitHub, but now we have like paragraphs and dividers and everything. And then their colleague responds with even more beautiful review. It’s even longer. They’re paying attention. Suddenly things you’re like, you didn’t write that you You know it’s by an LLM. So now we’re going between like two meat proxies serving two LLMs and

[27:16] they’re talking to each other and nobody realize and eventually the task has been submitted either by a customer or by a superior, right? And no one is realizing what what what are we doing here? We need to like untangle this. It’s actually predictable in some way to know what are we we doing. So I throw one back. My AI reviews your AI and blah blah blah. Eventually they meet in the middle. But we need to find a solution and we need to make the process to evolve. So my road to this from terminal to desktop apps to terminal again. I kind of recently went back to the uh CLI. Who has heard of this? Heard of

[27:48] this? Get it? Huh? Heard of it? You get it? Okay. Okay, so if you don’t know what this is, it’s basically like a T-Max thingy that if you do remote coding on any of your devices, the sessions are not going to die. And in the terminal, they’re going to be very nicely organized so you don’t lose track of of what you’re doing. And um ironically, like I’ve been going between so many setups. I even made my own orchestrators and stuff. And like last week or two weeks ago, I just set up Herder with like the simplest terminal and I shipped the most. And I’m like maybe we were over complicating the entire software factory thing. But it really depends. Are you working with

[28:20] people? How many people? How many teams or are you solo or shipping? Shipping what exactly? I moved to Pi. Pi rocks. I like Pi. I was making also fun of everyone who used Pi. I was like just be a person. Use Claude, use Codex, use whatever. And then as my quotas were going, you know, like my claude quota would die. And then I would switch to Codex CLI or Codex Descope, whatever. They have completely different behaviors like how they launch sub agents, how they do compaction, how they do this, how they do that. So I would switch between the cursor CLI, between cloud CLI, between codec. And as I switch

[28:50] between them, they completely have different behaviors. And this was driving me crazy. So when I build an orchestrator, I build it on top of the three, but it’s so hard to build an orchestrator that needs to serve like it’s not only the CLI, it’s like they have different methods of doing things. And with PI, you just have a CLI that does nothing out of the box. So if you wanted to compact, you need to install a plug-in. If you wanted to launch sub agents, you need to install a plug-in. And you fully control the process. So it’s like a Linux of harnesses, which I see none of you are like, “Oh yeah, yeah. I would love to do more Linux of things, right? So, Herder also has this

[29:23] nice feature uh I think they added it recently that if you have Herder on all of your machines, when you open it on any of the machines, you’re going to see your I don’t know MacBook Pro, Mac Studio, Linux, VPS, whatever, and it’s all in one place. So, it’s kind of like very nice. I shifted this year to using my laptop only as a remote control. So, I started by the cloud and whatever and now I’m moving to my own things. But, it’s this laptop or my phone are only remote controls for things that are happening in the cloud. So I went into this deep rabbit hole of like I don’t want my code because I spilled milkshake on this laptop and I had like an unpushed GitHub repo and thankfully they

[29:54] saved it but like I thought it’s going to die and like I don’t know like a month of work would have died with this laptop and I’m like I need to move all of my work somewhere and just use any laptop. I even used my 10-year-old MacBook Air to just remote into my setup and do things remotely. So I started first by shoving things into the Mac studio but I realized that Mac and Mac OS is not made for remote agents. So then like probably after 15 years of not even thinking about this I was like fine I’ll just try and maybe Linux will be a good thing. So I started renting a VPS for like $128 per month and I was like

[30:25] ah if it makes me money it doesn’t matter whatever. Then I did the calculation. I’m like but if I pay this for two years I can just buy a Linux machine and suddenly you have a Linux in your basement. But I realized I have a gaming PC and I don’t like Windows and I don’t like gaming because this is way more fun than gaming nowadays. I don’t want to game. I don’t want to watch shows. I just want to tinker with the with the agents. So, I just decided I’m going to format this PC. I’m going to put disgusting Linux on it, right? But Windows is like up there. And then I realized that this works. It’s great, but I don’t have enough RAM. So, I started searching for part. Like, I went so far away from actually shipping value to my customers. And the rabbit hole

[30:58] goes even deeper. So, I was like, this is 32. I need to get more, but I need to upgrade the motherboard, but I need this, but I need that. I ended up with a second Linux PC. So, I built a second Linux PC from scratch. And then someone was like, why do you choose which Linux to DRO to install? You can install Proxmox. Now, who is nerdy enough here to have set up cuz I’m going to skip this. Okay, we have a bunch of hands. So, this is really cool thing that I used to look at all of these things we discussed because I had to I had to go into the configs and click thingies. Now, anything that I mention here just

[31:28] assume I’m not smart enough to deal with this. I just told my agents, hey, my friend told me to use Proxmox, use it. And then boom, it’s it’s getting set up on the thing. So this is nice because actually on one computer like let’s say you have a PC you can have this is like a higher level OS you can have multiple Linuxes you can have a windows you can have Windows XP all of them as like virtual machines and then your agents do everything beautifully you don’t even need to manually tinker with anything they also have these things like VMs and containers so basically you can like self-host on your own computer a bunch of things that are available on your network and you can actually run full

[32:01] VMs so my agents like my Hermes agent and whatever I’ve given them small VMs so they cannot break out. They cannot do something stupid. They just have like mini computers within my uh computer. So, how I promified, I just plugged in a KVM and I went to Codex and I was like, “Please finish this. I don’t want to look at it.” And then it worked, it worked, it worked and I saw it and I was like, “Cool, it works and I don’t want to um touch it.” So, a lot of times people start remote coding and I see like people who send me screenshots, they have some weird IP addresses and So, you can do like a very very nice setup. If you’re remote coding, you can just tell your agent to set up

[32:34] traffic, however you pronounce that, rayic and PM2. And then all of your processes are going to be like magically managed and on nice URL. So you can have your blog, whatever your domain is, and as subdomains, you can have like dev processes. So anytime you want to see how your landing page looks like in dev, you can go to my beautiful landing page-dev.m my URL whatever and you’re going to see it and you’re going to remember it and you’re going to bookmark it. It’s not going to be a random IP address. So that’s like a nice uh tip there. Agent sets it all up. So the entire point of

[33:05] this, people ask me, “What’s in your config?” And I’m like, “I don’t know. I haven’t seen a config in two years. I just wish for things and the things magically happen.” Then I hit the limits because of course all of us are dealing with this. I have a tip here. I’m paying for four $200 subscriptions. It’s still cheaper to than a human. It’s like kind of fine, but you need to manage them in a different time. So there’s this thingy called codeex load balancer which you can like what you got you guys don’t use a load balancer. [laughter] I thought this is going to be like widely accepted and people going to be like yeah yeah I do that. So this is

[33:37] basically like one endpoint but when you hit it it chooses from which one to siphon from. So it knows your limits, your weekly limits, your daily limits, whatever. And it just like my limits never expire basically until they released Astra and then they were gone in a day. So with Astra it was like a At bonus, you can do live voice on the same endpoint and you can generate images on the same endpoint. So you can give this endpoint to all of your apps and they just use the load balancer and it gets worse guys. Um then you have like that’s for codex but what about the other ones? I have like cursor, gemini and a bunch of other things hidden behind this easy CLI proxy

[34:11] API which is like another load balancer proxy. And then on top we have an AI router which is like the master endpoint. So when you when I want to code I talk to it and then it figures out who to ping from all of these things and I still haven’t shipped much. So as I’m going through the slides just be like you can be more productive with just like pi herder and and whatever. So every model one endpoint everywhere it doesn’t uh create new capacity just trying to squeeze out from a little bit of claw a little bit of codeex this and that to actually make it work. So my connections were scattered and one

[34:41] problem here and like this would be one slide that I take a picture of just so you remember the name exeutor if you haven’t set up exeutor. I’ve been spreading the word around more than I did for openclaw because this is the like it’s absolutely the greatest because I would want to switch setups. I would want to try I don’t know Grogbot or the Madeam Muse or this and that and anytime I would have to connect my Gmail, connect my calendar, connect my GitHub, connect my Cloudflare, connect like all of the connectors and what this is is like a house of connectors like with one MCP. So I’ve plugged in everything to my exeutor and now if I want to try Muse by by Ma I can just

[35:14] tell it to use one MCP that’s my exeutor and through the exeutor it’s going to ping all of my other services. So it makes it super easy to switch between I don’t know pi claude codeex any of the bots. It’s really nice. Then I realized uh this is open source. It’s on my GitHub. Um it’s called skillbox. I realized that we’re doing it wrong that our skills are stored in markdown files. Like I had like a GitHub script that sync my skills across spaces and it was very messy. And I would like set up a new computer. I’m like I don’t have my skills here. And I’m like if we have exeutor for MCP and exeutor actually

[35:46] holds all my MCP, why I don’t have a single MCP for all of my skills? And then it turns out as I was working on this, they made it an official spec. So now in the MCP spec, you actually have something called skills over MCP. So instead of having 30,000 markdown files here and there, you can just self-host your own like you can tell your bot, hey, I like this skill box. Set it up for me. It’s going to give you a nice URL with like a graphic interface and everything and all of your skills are going to be there. And not only that, there’s a thing called skill bundles. So you have like a personal agent, a coding agent, and other things. My personal agent needs like four skills here, and

[36:19] my coding agent might need another 20 skills, but they don’t need to know about each other. So if I set up my open claw or Hermes, I’m going to point to my personal skill bundle and it’s only going to work with those and it’s not going to be like, oh, what is Cloudflare? So that was very annoying that all of my skills were for everyone and in one folder with a bunch of markdown. So now my setup is portable. I can just take it and just plug into something else and it works. I’m currently working on something new which I’m not sure if I’m going to finish. It’s like a layer on top because I realized like we have skills. We have MCP and Codeex. The Codeex app calls the

[36:49] layer on top. They call it plugins, right? Right. So if you go to Codeex and you install like a Mac OS development plugin, it’s going to install MCPS for you and it’s going to install skills for you. So I’m like we need some new names like I don’t know like playbooks and like I have a bunch of ideas. Maybe I’m going to present that in the next presentation. You’re going to see it on my Twitter. But the idea is like I can see skillbox and exeutor kind of merging and a couple of layers on top would make it way nicer to pack your entire setup and just plug it somewhere else. Like Kodi by Keny Dods if you’ve seen Kodi is like kind of that. It’s hosted on Cloudflare workers and a bunch of

[37:20] complex terms that I don’t actually understand, but his idea was basically to take his brain of his agents, put it into Kodi, and then he can just port it anywhere he wants. So Cody’s like a skillbox and exeutor with a bunch of goodies on on top. And executive is coming out with a new version, version two, which is going to be similar to Kodi. It’s very hard to keep track of all of this, but I hope I’m going to plant some seeds that going to tell you where things are going with this. So our RAM, our our brain actually cannot keep up with everything that we’re doing. So we have power, we have the four

[37:51] subscriptions, we have a load balancer, we have a proxy, we have this and that and I decided that unless I build like my own orchestrator to organize all of this mess, this will never go anywhere. It’s going to be very messy. So my from everything that I mentioned to you like how I was actually working through things, this is what I landed on right now on this day today. So I landed on realizing that one chat where it constantly compacts and I dump a bunch of tasks is not going anywhere because there’s going to be plenty of conflicts. Then we have the other thing where I have multiple chats, they’re going to

[38:23] trample over each other. Then we have the third one with work trees. That’s also problematic. So I realized there was this article, I hope it’s in my slides here, that you get one chat, then one work tree and one PR. So this is what many people were doing. I personally as a solo indie hacker let’s say I wasn’t even working with PRs I would just ship everything on main and it would go in a cycle but now I realized I want to set it as a goal to have like a very high quality PR with all the type checks with linting and a bunch of things and I want to basically automate the process there instead of

[38:53] doing things manually because it happened like I started using only work trees and one of my work trees because it’s just a g thingy it wiped the production database luckily I had a a backup and it’s like oop sorry I was trying to see the database to test but I’m not testing in a container I’m just testing on your machine and it just basically wiped everything because a work tree is not an actual sandbox. I have the slide here orbs. So this guy from AMP code thren something he was talking about orbs but my brain was so overloaded by these new phrases that I’m like you. Like orbs are not

[39:24] happening and I just tweeted that a couple of times like orbs are not a thing. They’re not going to be in our dictionary. Shut up. Don’t talk about orbs. And basically his philosophy was that anytime your agent works on a task, you need to give it like a mini sandbox, mini VM, mini computer thingy where it can work in it. And as it works, it exposes a tunnel with like one URL. You can observe that URL, you can scroll it, you can check it. Basically, you can be the tester, right? Our role is a bit changing right now. We will we’re going to be the testers for the AI.

[40:18] So, at first I was making fun of it. I was like, “This is not going to happen.” And then I went through the entire journey that I told you and I’m like, “Orbs, it’s orbin time.” He had that phrase and it was like cringy, but it is orbin time. And I realized that this is the most stable way to actually to make something that’s properly tested. that’s isolated and that’s been gone through like a software factory process. So I have like one task making one throwaway mini machine. Remember how I mentioned Proxmox? So my Proxmox device can spawn like it has like a little docker thing. I cannot believe the words that I’m

[40:49] saying. Like if you watch my talks for three years ago, you would be like who the is this guy? So it makes anytime it needs like an orb, it spawns a mini VM and that VM is like has everything. It has the database, the seeds, the browser, everything that it needs and then it just works um in that. Uh, I’m using something called Podman, which honestly I haven’t heard of until last week. And it cannot take things from outside like uh production credentials and blah blah blah. And it has like a queue, so it doesn’t destroy my computer because it can be like only eight orbs at a time before my computer dies. So they just queue up. If I need to do a new task, they wait and one orbs

[41:21] comes out, it dies, and then another one gets spawned and it they go in a nice like cycle. What’s nice about this, and I’ve mentioned this in my previous talk, that when I was working multiple tasks per chat, there was no not many guard rails. And even when they were, you would go in your ESLint and you see half of it is disabled because the agent just wanted to get done. It was like done, no errors, are you? Yeah, I just disabled five of your configuration lines. So, unless you put these very hard guardrails, the PRs are going to be slop and you’re going to be a slop grenade uh thrower. So, I have this

[41:51] combo. This anti-slop is a library by Dylan um Monroy, Mulroy, I don’t know how it’s called. So, we have Oxlint, Ultraite, and Anti-Slop. These three work together. You can also take a picture of this, tell your agent to set it up, and they make sure that every PR is according to these rules. Because you have the rules in your head, you need to get them out of your head, put them in a llinter, put them in a thing that checks them to make sure that actually you’re going to get the result that you want. I realized that many of my rules don’t fit in oxintable. So, I just asked my agent, can we just

[42:21] make our own police CLI? Let’s call it police. And if I have a specific thing like never use your own buttons but always use chats and buttons that you cannot put that in lint but my police thingy like my agent was writing things and now it has like many many many rules that actually go on top of the linting and they make sure the agents don’t do something stupid and now finally we have Jeff and Jev is pretty cool and I realize why I made like Jeff rabbit. It’s on my GitHub and it’s like a code rabbit, but you describe plain English rules of things you don’t want to happen. And Jeff very quickly and very

[42:52] cheaply goes to your entire PR and checks if your comments are useless or you’re doing something stupid like instead of writing LinkedIn rules, you can literally express yourself in the English language and for every rule that you have, Jev is going to go and check that PR. So this is like a one extra uh level on on top. So I built my own factory which I wanted I really wanted to show you this how does it work. It works like with all of these things. Everything that I mentioned here from the load balancer to spawning orbs to like testing and everything is part of the thing. And I’m looking at the timer. Unfortunately, I won’t have time to show you. Well, maybe I’ll have like a second

[43:25] or a minute to show you how it looks because like I want to just tell you that um these factories can actually look different. So, just give me a minute here. I want to switch to this will be the first beautiful agent orchestrator that you see in your life. If it loads, it’s going to load. So this is not like anything you’ve seen. Well, maybe on a wide screen one. It’s like if Steve Jobs woke up and he was like, “Yeah, we’re going to make an orchestrator, right?” So it’s not a left sidebar. It’s not a bunch of like things that you’ve seen. It actually organizes all my projects in a nice way. So I can go, let’s say I’m going to go to my bench project. I’m going to go in here

[43:56] and here I have a bunch of to-dos that I want to do. Uh I go here, there’s like a plans and heartbeats and a bunch of things. And there’s a factory which if I click, you’re gonna see these are the processes that every task goes to. So if I add a task, we go through the soulbot which is like coding on the thing. Then we have soul fast which is reviewing the thing and they’re going in a cycle until it’s like fully reviewed and then when it’s fully reviewed we have the tester which clicks around and checks if the thing is done. So, if I go back from the factory to one of the projects and if I want to get something done, I just go in the to-do here and I can say, I don’t know, the do the thingy and if I press

[44:29] enter, this won’t work right now, but it should jump into ready and it should go through the entire factory process until it’s in review and then you get like a beautiful interface where you review it and you actually feel like you’re coordinating a factory and not just talking to a bloated orchestrator app. I am out of time. I wanted to show you this more. It’s called Bench. It’s going to be announced on my Twitter hopefully. bully me please soon because it really changed the way I don’t use CLIs I don’t use codeex apps I don’t use anything I can open it on my phone I can open it anywhere and just from any underpowered device I can orchestrate my entire slop factory of things so thank you for

[45:04] listening I’m out of time I have a flight to catch and appreciate you listening to my rambles thank you [applause] thank you let’s give it up thank you all right let’s give it up one more time for the kids Wow. [applause] I forgot to say that the kit is one of uh actually the most viewed speaker, the AI engineer. Like if you go on AI engineer on YouTube, you’ll see so many of his talks and they’re like they rank always among the the best and the most

[45:36] viewed. So um it was also interesting to see how u I relate to many of those problems in my day-to-day. I forgot to say that I work for Replet and one of the things that we do is we we we we build you know infrastructure to to to uh to to uh build applications as well. Sorry, I’m going to get that right at some point. All right. So, we are going to still talk about the future and now we’re going to hear from VP of engineering of Mistral and he’s also uh

[46:09] the third employee of the company. So, please join me in welcoming to the stage Leo. All right. Hello everyone. Thank you so much for uh coming here tonight for being so many.

[46:41] Uh today we are going to talk a bit about what Mistrol has been cooking uh what’s new uh and hopefully give you a few information about what we are uh actually been working on. So for the ones who do not know us uh we are Mistrol. We are the top frontier AI lab in Europe. Uh we started three years and four months ago. Uh very small company at the time. It’s now 1,300 of us. So we grew a lot. Uh we have a clear mission putting AI in the hands of customers, changing the way enterprises operate. So we’re not looking for AGI, we’re looking

[47:15] for usefulness and this is why we now have a team that is dedicated in making things uh on the ground turning PC’s into production. And this is uh basically what the company is doing now. So if we look back at the previous AI engineer summit a year ago, I was um very excited to be invited last year by COB uh some things happened uh since then. You are more than 700 to be registered. We have more than 50 speakers uh today. So it’s an amazing event. And about COB um that was inviting us uh last year uh we now had

[47:50] the chance of having them within Mistrol. Um, and you could ask why did we make this acquisition? Well, as we are moving towards agentic workloads, swarm of agents going everywhere, it made so much sense to get a team that focused on building this kind of agentic workloads completely different from getting servers and things like this, just focusing on the sandbox, focusing on the unit of compute that you need to actually run workloads at scale. Um, this is what Yan said uh last year. If it works

[48:27] from day one, we’ve stayed close to the hardware to provide high performance with sustainable costs. We are operating tens of thousands of applications of on top of bare metal servers across 10 locations worldwide. And they’re joining mistrol to build that infrastructure. So making sure that for our own workloads, anything that we need to build and that requires secure, safe and fast async uh execution in the background, we could leverage their technology. We’ve also in May announced the acquisition of Emmy AI. Um Emmy is a

[48:59] company that is focused on physical AI simulation. Um, and if I read the same quote from Yannes, u, by integrating our expertise into Mutual AI’s world-class AI ecosystem, we’re positioned to revolutionize core R&D. Together, we’re providing the foundational intelligence required to design and build the next generation of aircraft, vehicles, and semiconductors. So this is really about bringing all the capabilities, the simulation, all the things that actually help understand and model the word back into the models so that we can actually

[49:32] help our industry customers be better. We announced earlier this year uh $150 million partnership with Orbus and this is typically where having this kind of expertise inhouse will help us build state-of-the-art specialized models uh for these kind of customers. We also announced uh last week our series D. This is the biggest round from a technical company uh in Europe. So three uh billion euros. Um we are very proud that this is also gathering a lot of

[50:05] investors from Europe from all over the world who trust us with this mission of actually making AI useful of transforming uh companies. And this is showing that uh the way we’ve been working uh for the past three years is actually working. But I I [cheering] I’ll do it again. You you watch me. I didn’t

[50:36] do it. If it happens next, you you’ll know that it’s me. Um I’m going to talk briefly about the future of work and the way we see it. Uh this means how we also deal with agentic safety. Uh we’re going to talk about sovereignty a little bit and then how we are uh working towards new models. I know you all came to hear about lhaton fat. I’m not going to announce it today uh but uh rest assured that we’re working hard to get it there. So um this is a tough one apparently.

[51:13] Okay, perfect. Um, so the future of work, uh, let me talk a bit, uh, about our product suite today and how we envision it. We, uh, do have a strong product for developers called the studio in which we built a lot of primitives uh, on top of the models themselves. So you have so many models today and that’s not enough to go into production. And that’s why we developed the studio uh which brings a ton of product value on top of this uh things that you actually need to go into production. So think about workflows like long lived execution, the sandboxes that I mentioned earlier uh all the primitives

[51:46] that you need to actually make this happen. uh and we do have vibe uh that is our end userf facing product that leverages all those capabilities uh to actually uh well solve problems for productivity for uh end user customers uh and especially enterprise users. Obviously we also have a strong solutions team that is building amazing use cases for all our customers. Uh and we are also having science team obviously building models generic models but also specialized models for everyone. But what we really want to get

[52:18] to since I have no power here, sorry, is there uh so this is Steven. Uh Stephen is a very nice person. He works in finance at Mistro and he is in charge of making sure our revenue is properly used. Um Steven is what some could call a tinkerer, but he doesn’t have time to build uh new workstations in his basement, unfortunately. So he needs to have a tool that will allow him to ask very simple questions but also build applications. He needs to have access to

[52:51] tools that will let him uh build for instance an application to analyze and cross-check some data coming from the data lake from the Excel spreadsheet from the uh notion uh workspace and make sure that he can wrap that up into an app that he can share to uh basically his co-workers. So this is pretty much what we heard before but he operates in a corporate environment where there’s some guidelines where we need to make sure that the data is properly used and this is the unified version of vibe that we’re uh actually working on is how we

[53:23] make sure that this kind of users of builders who are just regular end users but starting to know more and more about applications about how to use those models to create useful stuff are going to leverage uh our product suite to do so. So this is typically an automation that we’ve been working on uh mostly for the engineers uh how we start from a slack alert that something is wrong in the middle of the night to an agent investigation. So making sure that basically the on call engineer that is getting paid while he wakes up while he

[53:58] goes to his computer has ready to go information to address uh when they try to address and process the alert. And this is working typically with um our vibe stack because we’ll have immediately asynchronous agents running on some boxes. You got it. Um that will plug through the connectors that we have graphana connectors, sentry connectors, uh GitHub as well to understand what PBS could have regressed all of that and propose uh some investigation some clues that will help the engineers that is on call uh among a huge system to

[54:30] understand where the issue could be and then obviously post back the findings on Slack. uh so it can be a conversation and so the UN call engineers are able to start from somewhere without wasting too much time. So this is uh an example uh you’ll have the initial sentry alert uh and immediately the agent is answering with some of the things um that uh it found uh that will help the engineer understand what’s going on. What’s funny with this is that you used to need to do

[55:00] a lot of plumbing to do this because you’re plugging multiple systems. You need the um agent to be running somewhere. You need to be setting up those connections saying you need access to this connector and to this other connector. And this is why we’re focusing on this um unified vibe version is where you will start from this kind of prompt that is simple enough for our dear Steven uh to enter it. When interview feedback is missing, send a personalized reminder to the interviewer who forgot to do it. and before you need to think about connecting the right MCP of your ATS or something. What we’re

[55:35] working on is making sure that this is pretty much everything that you have to do because all we’ve just seen in the previous presentation is entirely right. Um, and you need to think about it. But for our own tinkerers, enterprise tinkerers who are actually not developers and who actually know nothing about Linux VMs or something, they just want to be able to send such a prompt and have all the connectors and all the enterprise tools that they need readily available. And this is where VIP can now understand this intention, spawn agents

[56:06] in the background, build some code, run it, run the test, deploy them as well, host them, and basically iterate by itself for minutes or hours till you have an end result that you can actually share to your co-workers with a set of, you know, restrictive u access controls based on your permissions. All you need to actually make enterprise software. And this is where it gets interesting because this kind of use cases you see them everywhere and everybody is code coding or you know connecting whatever they need by directly plugging

[56:38] connectors just letting any kind of data access any kind I mean any kind of agent access any kind of data without any kind of control which basically prevents this kind of use cases to be deployed into production. So we really think that the future of work is making sure that we bridge um all those personas into one and this is where we’re investing. So instead of using software because our dear Steven does not necessarily know how to make software we just direct agents. Um we have one unified harness. So I’m not going to present a different

[57:13] product if you’re in finance or if you’re in legal or if you’re an engineer. the product, the model is able to adapt, what it will use, what it will show with a unified harness across the different surfaces. So, what we saw earlier again is exactly what we’re working on, making sure that you can start a session locally on your own laptop and then teleport it to the web and then execute it in sandboxes, just check it on your phone, on the app, actually steer it. It can actually push to GitHub. It can actually check your

[57:43] CI. It can iterate on that. And this is where the one unified harness works so well because a business user who just wants to process some spreadsheets will be able to use the same without noticing the difference. So the platform obviously gets more uh valuable each time someone uses it. Someone create a skill, someone creates an app, they share them with the rest of the team. Um we can also refine the skills, refine the prompts. So typically in the use cases that I’ve just shared uh well you can see after one week of execution uh

[58:14] of this investigative agent what worked what did not maybe the way it called the graphana MCP at first was wrong because it did not understand this undocumented option well by looking at the traces now the skill can self-correct and can actually specify how to properly use this connector in the future to make sure that it will be more token efficient and faster. This leads to agentic safety because those agents, they’re so powerful. They do so many things, but obviously they have risks and I’m sure you all have

[58:45] someone in your family that in the past 10 days ask you if AI would kill the word. Well, Mrol will not and we are investing heavily in agentic safety for that reason. Um, briefly, what is uh agentic safety? Uh if we talk about the different threat models that we have with agents, they usually have privilege access to a lot of connectors, a lot of data, and then can do anything with it. Since they’re nondeterministic, it means that it’s really hard to put hardcoded uh guard rail uh saying if you do that, well, don’t. It’s hard because

[59:20] next run it might not do it actually. Uh and then obviously attacker control inputs the prompt injections that we all know about uh they’re getting more and more sophisticated and you know we try to uh make it and bake it into the model but then each model has a jailbreak and as soon as you’re fetching uh user data or data coming from the outside uh this is always a threat and always something that can happen. So how can we protect against this? Um there is some work to be done in the model. You want the model to understand as much as possible what

[59:52] is an injection, what is a true instruction and what comes from user unsafe context. Um, obviously you want also want to restrict the privileges of your agents. You want to make sure that at runtime they can only do what they need to do and this can be dynamic depending on the step depending on which workflow you could change the permission uh dynamically as well. Obviously send boxes are very important here. Um and then you have runtime guardrails. You have everything that you uh need to observe the behavior of the agent itself

[1:00:25] by looking at the traces the low-level traces. And that’s where sandboxes are also so important. You can look at each system call at each network call and from this you can derive heristics and understand what sandbox is actually trying to do. If the agent is following a nominal pattern or doing something that is a bit abnormal. So the problem with this is when you add all those security guard rails everywhere, you basically break all the use cases because you had such a powerful agent, such powerful tools, but then now you’re restricting everything because you fear everything. And so this is a clear

[1:01:00] dilemma that we have to deal with. So we are solving this with dynamic collaboration and making sure that as I said you will grant the right amount of permissions at the right moment when you need it and when you have a good reason to grant them. Um and also making sure that we can filter which operations should be allowed and why. This is a very quick demo of a typical prompt injection where we will ask VIP CLI to perform a task by looking at a GitHub issue. So it’s going to go very fast, but by

[1:01:33] looking at the GitHub issue that has a prompt injection in it, it will actually post a command here that exfiltrates a secret key just because you took the uh issue content that was posted by an adversarial user. So we’re working on prompting injection rules where you can describe a set of classifiers. You can pick which one you want. It could be PIIs, it could be secrets, it could be uh you know company knowledge and things like this. you define a source, you define thresholds, you define the kind of moderation that you want to use. Um, and you can define as well what you want to do uh after that. So once you’ve

[1:02:07] defined your rule, you will now attach it to uh a policy. >> And the policy will allow you to basically find out where you want to apply this rule on which product surface because it could be vibe on the web, it could be the mobile app, it could be the CLI. Uh so this is exactly what the rule allows you to do as an enterprise admin and you can define the threshold here. You can apply it and then you just need to enable it and now you will uh use the VIP CLI uh again perform the same action but it will be stopped at the network

[1:02:42] level without the user having to configure anything. And that’s the power of enterprise controls is that the user never opted in to get protected. This is a policy that has been defined and pushed at the enterprise level. And this is the kind of work that we’re doing on uh on safety. But safety does not is not enough if your AI is not sovereign. So what is what is sovereign? Well, you have data sovereignty. Where is your data? Where uh or your users data, your customer’s data, where is it stored? Where is it retained? Who has access to

[1:03:12] it? Which hyperscaler or which company because of jurisdiction or something could actually read this data? intelligent sovereignty as well is when you analyze the behavior of the model when you try to tweak it when you finetun it where is this happening um compute as well so now you have all the inference when you do inference you all by ZDR everywhere but still the data transiting through some places uh and understanding this is also so important or is operational because you need to know exactly what’s going on in your

[1:03:46] company uh exactly what’s going on in terms of security uh audit logs and and things like this. So the way we answer this is typically this kind of data center that we are currently building. Mrol was just a model company some time ago then it became a product company and now we are building our own data center. Um this is typically leis uh 10 megawatt um facility uh near Paris with B300 from Nvidia. So this is one of the largest uh

[1:04:18] data center with this kind of cutting edge hardware uh from Nvidia in Europe. Uh and this is typically where we serve our critical workloads internal ones. This is where Lat might be training right now. But this is also where we put the most sensitive customers uh workloads. And this is how we can have from end to end a full sovereignty path uh that represent to the customers including agentic safety but also including inference and training. But you also need models obviously for uh all of this to work. Uh this is

[1:04:52] basically the family of models that we have the generalist ones. Uh different size for different matters. I know you’re all expecting a big one uh and I hope we can deliver it very soon. Uh but we’ve also been focusing a lot on specialist models. There are two kind of specialist models. The specialist models that serve many purposes. We’re going to talk about OCR and VR in a moment. But also all the models that we fine-tune for specific customers that have specific set of data. So think about the rare languages, think about you know some companies have their own programming languages that nobody has

[1:05:23] heard of. So obviously by default coding models are not good at it. So how you can actually um you know sit down with a company and make a specialized model makes an amazing different. Uh and we have a few experimenting uh models that allow us to uh refine the frontier of science. Uh linstrol for formal proof. Uh chillstrol we announced a month ago. Uh you know all talking about jev uh everywhere but chill troll is basically you know answering a moderation question extremely fast uh with a very nice architecture uh for safety purposes.

[1:05:55] If I dive in a bit into the um into the specialist models, let me talk a bit about Voxrol uh our family of audio models. So we do have uh texttospech models and for this I will just showcase uh I would say something that I said last year at AI engineer um and you tell me which is what we really saw that the mission of providing open source models to actually uh bring the AI to the masses uh was also compatible with pushing enterprise beyond and building

[1:06:25] some strong um focus. So what we build at mistrol uh so once you actually collect all this data you want to watch people do what they do um and in enterprise context it’s really important to use this to understand how people are actually doing their job how are they processing their days what kind of workflows are they putting in place so as you might have guessed uh one of them was uh AI generated the other one was me uh so this is the kind of voice cloning capability that we are heavily investing on to make uh this kind of models

[1:06:58] extremely useful. The second sample was not me at all. Um and and this is the kind of capabilities that we’re working on for uh speech to text. We work on higher accuracy. Um we make sure that we can uh uh yeah basically mimic any kind of voice, any kind of accent so that it can be useful in any kind of settings. For the speech to text, uh we already have state-of-the-art models and we’re improving them a lot. Um what we’re working on is real-time derization so that you can have in a meeting a live transcription but also knowing which

[1:07:31] speaker is which. Uh making sure that we support more languages obviously accurate time stamps uh more languages uh making sure that it works in very noisy settings. Uh and we can do live transcription actually. >> So within banking uh we have a very important process which is called QYC. It’s a long process. So with Mistral AI, we started to work on a specific QYC process for corporates in Belgium and we developed two agents. We were able to go from 80% of files incomplete sent to the middle office to only 10%. For the

[1:08:06] clients, the application takes much. So it was no cheating. It was an actual live transcription and live translation uh of a video using our uh latest models. So we are actively working on making it more useful for customers. Uh and this is something that is key in the way we work. We’re not trying to you know benchmark everything. We’re trying to make things that are going to make a difference on the ground with our own customers. Briefly about OCR 4.1 the model that we announced uh this summer. So this is

[1:08:39] also a state-of-the-art uh OIR model that is now able to transcribe any kind of handwriting, any kind of scanned old document from the 60s or something. Um I went uh slightly fast here. So this is typically a pretty hard document where you can see the labling. Uh you you distinguish captions, titles, text, tables, um images as well. You’re able to extract all of this. Uh this is a very powerful model that is used uh both by our typically our document library.

[1:09:09] So document library within vibe is where you will upload a trove of data. It could be you know terabytes of data uh unstructured documents or anything and everything will go through the otr pipeline if needed so that you can actually query it um at runtime whenever you need it. This is exactly what we use for advanced rag uh pipelines with our own customers uh when you have this kind of uh of of setting. So we’re working hard to make it more robust to understand more languages as well making sure that it is very very noise resilient. Uh but this is the kind of uh you know models that are

[1:09:41] state-of-the-art um and that we are actively working on because they actually solve enterprise issues and they’re I mean they help building true use cases uh that we can implement that are in production uh and that change a lot of things for uh our own customers. Uh those are the playgrounds. So you can go to the studio, you can actually test those models. Uh you can test the oops sorry uh you can test the uh voice models, you can test the OCR models uh with the bounding boxes that I didn’t mention but that we added uh a months ago as well. Uh and that allow you to do extremely advanced use cases based on

[1:10:13] all of this. So briefly we’re working on a new vision of work trying to go beyond the chat assistance to make something useful and merge the personas between the end user and the builder. Uh we’re working hard on agentic safety making sure that we can keep very uh powerful agents uh but still understand what they’re doing making sure that we can protect uh company knowledge enterprise knowledge and that we have the right set of primitives um we are working on sovereignty a lot making sure that we give the right level of control to all

[1:10:44] our customers investing a lot in data centers I mentioned one in France but also all across Europe so that we can be a fully full stack uh AI company and we’re still working hard on advanced model. Uh the science team has never been bigger. Uh there are many things happening on those different fronts. Uh obviously the LLMs remain one of the major use cases that we’re actively working on at the moment. Uh and I hope we have uh very interesting things to share uh very soon. Uh thank you so much for being here. Uh I hope you enjoyed the summit. Many people in the team will be here. Uh some of them have uh aren’t

[1:11:15] shirt but otherwise feel free to reach out. Remember that uh we are 1300 but still hiring. So uh also come and say hi and thanks for all the speakers. I want to thank also Jen Aliser and all the Debell team for organizing this and obviously Ralph uh for being our MC tonight. Thank you so much and enjoy. Nice. All right. Thank you, Lilio. Let’s give it up one more time for Lilio. Yeah. [applause] Yeah. Absolutely. I think uh it was on on point. I think we should give it up

[1:11:49] also for Jen uh Ali’s there and all the ML team for putting this together. Okay, so I have one sad news. The sad news is that yeah, tonight is over, right? You can go back and relax, etc. But I also have two better news. Okay, so we’re going to we’re going to come back tomorrow. There are just so many things that we’re going to cover tomorrow. You’re going to hear from Black Forest Labs. You’re going to hear from Nvidia, from so many folks. So, the lineup is going to be extraordinary tomorrow. All right. So, uh who’s coming

[1:12:22] back tomorrow, by the way? I see all of you. Yeah. Okay. So, we’ll see you tomorrow. But for tonight, we have a reception at the expo. Okay. So, we can all just slowly go there and um just enjoy, meet people, take the time and and talk to everybody. Some of our speakers are going to be there, some of our sponsors are going to be there. So, please join us all upstairs at the expo and see you in a minute. All right. Thank you so much, guys. You are awesome today.

[1:12:56] Super.