Microsoft reescreve runtime do Copilot em Rust com agentes

Author: Compilado do Código Fonte TV [OFICIAL] · Watch on YouTube

Video authored by the channel shown, not by IANIA; all rights belong to the creator. Transcript and summary generated automatically; the original-language content is preserved.

Original language: Portuguese

Original video: Microsoft reescreve runtime do Copilot em Rust com agentes · Channel: Compilado do Código Fonte TV [OFICIAL] · 06:50 · Watch on YouTube

Topics: AI agents, Software engineering with AI, Model inference and optimization

Summary

A Microsoft migrou para Rust o runtime que dá suporte ao GitHub Copilot e a ferramentas do Office, usando agentes de IA para converter código TypeScript. O processo durou 14 semanas e meia e, segundo a transcrição, consumiu cerca de US$ 120 mil em tokens; um desenvolvedor humano trabalhou três semanas na supervisão e nos ajustes. Em um benchmark específico, a versão em Rust atingiu quase 16 vezes mais ciclos de sessão por segundo e usou menos memória. Os participantes destacam que o compilador do Rust não impede erros de lógica e discutem as vantagens e limitações de usar Node.js e JavaScript em servidores.

Key points

A migração foi feita módulo por módulo, sem alterar a estrutura global do sistema.
Agentes converteram 430 mil linhas de TypeScript em 800 mil linhas de Rust de produção, ao longo de mais de 135 releases.
O projeto levou 14 semanas e meia, com média de 1,3 pull requests por dia.
A iniciativa custou cerca de US$ 120 mil em tokens de IA e contou com três semanas de trabalho de um desenvolvedor para supervisão e ajustes.
Em um teste com 100 pipelines concorrentes, o runtime em Rust executou 120 ciclos de sessão por segundo, contra 7,55 na versão em TypeScript.
Na medição citada, um lote de 10 clientes consumiu 126 MB em Rust, ante 1.383 MB na implementação original.
A migração teve dezenas de regressões: a segurança de memória do Rust não garante que a lógica escrita pela IA esteja correta.
Os participantes avaliam que a Microsoft pode migrar outros projetos para Rust, mas observam que a comparação de desempenho depende do workload e da stack.

Chapters

Start	Chapter	Summary
00:02	A migração do runtime do Copilot	A conversa apresenta a reescrita em Rust, o uso de agentes e o escopo do projeto.
01:37	Desempenho, memória e modelos de IA	Os participantes comentam os resultados de benchmark e memória, o custo e os modelos citados na conversão.
03:44	Impacto da migração e regressões	O vídeo discute a relevância do runtime em produção e os limites da verificação de código feita com IA.
04:16	Rust, Node.js e servidores	Os participantes comparam as stacks e discutem a adequação de JavaScript e Node.js para cargas de servidor.
06:19	Encerramento	Os apresentadores convidam o público a comentar e divulgam o canal e seus episódios.

Quotes

A Microsoft migrou inteiramente para Rust o runtime que suporta o GitHub Copilot e ferramentas do pacote Office. — 00:34

A substituição foi realizada módulo por módulo, sem alterar a estrutura global do sistema. — 01:05

O novo motor em Rust executou 120 ciclos de sessões por segundo, contra 7,55 da versão em TypeScript. — 01:37

O compilador do Rust assegura a integridade de memória, mas não impede que a IA escreva a lógica errada. — 03:13

Concepts and entities

Microsoft, GitHub Copilot, Rust, TypeScript, Node.js, V8, Claude Opus 4.8, Stephen Toub, Deno

Full transcript (original language)

00:02 E a Microsoft reescreve o runtime do Copilot em Rust com a gente. >> A Microsoft deve estar cheio desses projetos que ela falou assim: “Se a gente botar isso com o Rust, será que fica legal?” >> [risadas] >> Tá todo mundo fazendo isso. >> é uma boa solução. >> Pois é, a gente já viu aí o o Bun sendo reescrito em em Rust, vários outros projetos indo também pro Rust. A gente falou semana passada, tem comentários aqui da galera que que comentou no corte sobre o Rust, falando sobre o Rust. Então, aguarde e fica até o final, tá? >> A Microsoft migrou inteiramente pra

00:34 linguagem Rust o runtime que suporta o GitHub Copilot e ferramentas do pacote Office, utilizando o agente de inteligência artificial pra realizar a maior parte do trabalho. O processo durou 14 semanas e meia, cobrindo mais de 135 releases, com uma média de 1,3 pull requests diários, período em que os agentes converteram 430.000 linhas de código em TypeScript para 800.000 linhas em Rust de produção. Toda a empreitada consumiu ali cerca de 120.000 dólares em

01:05 tokens de IA e exigiu apenas três semanas de trabalho de um desenvolvedor humano para supervisão e ajustes finos. A substituição foi realizada módulo por módulo, sem alterar a estrutura global do sistema, buscando resolver limitações de inicialização rápida e densidade de servidores enfrentadas pela pela stack antiga baseada em Node.js e V8. >> Nos testes de benchmark com 100 pipelines concorrentes, o novo motor em Rust executou 120 ciclos de sessões por segundo contra 7,55

01:37 da versão lá em TypeScript. Olha a diferença. Garantindo aí um ganho de performance de quase 16 vezes nesse workload específico. Cara, se funcionou dessa forma, com uma pessoa, tudo bem, 120.000 dólares. >> É, é. >> [risadas] >> Não é pra qualquer empresa também. >> Mas foi rápido, eles fizeram bem rápido. Então, eu prevejo vários desses projetos da Microsoft até agora, porque a gente falou semana passada, ela ela classificou já o Rust como linguagem de primeira linha para ela utilizar dentro da empresa. Então, vai ter uma migração

02:08 maciça de Rust. Enquanto ela tiver dinheiro para para usar e token, eu acho que ela >> É, ah, ela consegue, a Microsoft consegue, com certeza. E ainda mais dando esse tipo de performance ali, né? Na frente. Então, vamos ver. >> é. Na medição de memória, um lote de 10 clientes consumiu 126 MB Rust frente aos 1.383 MB exigidos pela implementação original, mantendo a execução in process sem abrir processos externos em segundo plano. O engenheiro Stephen Toub revelou que foram utilizados modelos como o GPT

02:41 5.6 Sol e o Claude Opus 4.8 na conversão. Então, a gente já tem aí Fable 5.5 que foram lançados, que que muita gente falando aí que superou em muito o Fable o Fable 5, né? Ou seja, é parece que é outro modelo. >> 5.1, né? >> Não, 1.5. Que eles lançaram aí. >> Então, que superou o Opus 4.8? >> Não. Superou em muito o próprio Fable 5. Falou que parece que agora é outro modelo. Ele melhorou muito. É essa comparação. Mas alertou que a migração enfrentou dezenas de regressões no

03:13 código, já que o compilador do Rust assegura a integridade de memória, mas não impede que a IA escreva a lógica errada. Tudo bem, mas pensa o seguinte, foi um dev, quanto tempo? >> Três semanas. >> Três semanas. Esse cara deve ter trabalhado muito. >> É. >> E >> Ah, não, mas aguenta, o processo todo durou 14 semanas e meia. >> Ah, 14 semanas, tá. E 120 mil dólares. Ou seja, foi dinheiro aportado aí nesse projeto. Não que, cara, isso represente muito para a Microsoft, acho que não, acho que isso é é bem é bem troco, é. Mas é um projeto

03:44 relevante, porque a gente tá falando aqui é o runtime que suporta aí o GitHub Copilot e também as ferramentas do Office. Então, é o é o Copilot em si, é o, é o Microsoft Copilot, entendeu? Como um todo. Então, é um projeto relevante para eles. A princípio já está no ar, já está em produção, até porque eles apresentaram aqui uma performance gigante. Então, eu acho que a Microsoft agora vai, vai passar a colocar, é, projetos importantes debaixo do, do Rust. Não acha? >> Tenho a mesma sensação, viu? Como eu falei, poxa, apresentando esse tipo de

04:16 performance e melhorias, eu acho que o Rust vai ganhar cada vez mais notoriedade por lá também, viu? >> E aí me bota a seguinte pergunta: a gente viu agora projetos Node com V8, usando TypeScript, que é uma stack muito utilizada pela Microsoft e muitas, muitas outras empresas, e eles conseguindo jogar isso para um Rust e com a performance impressionante. E aí tem muita gente que já, já começou a falar assim: vamos pensar, vamos pensar lá atrás. O JavaScript, ele nunca foi feito, nunca foi pensado para rodar em

04:47 servidor. Tudo bem, navegador é o que, é aquilo que ele foi feito. Então, tem o V8, o próprio Node, mas acabou se tornando padrão muitos projetos utilizarem JavaScript. Eu estou falando isso porque a gente já usou muito PHP, por exemplo, e a maioria dos nossos projetos hoje está baseado em, em TypeScript com o Node. E realmente, lá atrás, assim, pô, não foi pensado nisso. O próprio Ryan Dahl, que foi o criador, falou: cara, não era para, não era para ser usado dessa forma. [risadas] >> Não era para tanto, acho que ele deu essa sensação. Tanto é que quando ele

05:18 lançou lá o Deno, ele lançou justamente com a, com a intenção de, olha, eu vou pegar tudo que eu fiz de errado aqui com o Node e, e vou transformar para melhor no Deno. Então, mostra que realmente ele não tinha talvez a intenção de chegar onde ele chegou com o Node, né? >> Não que o Node hoje não funcione bem, funciona, mas, cara, não tem como não ter um ganho usando uma outra linguagem que já foi pensada nessa estrutura, né? Quando você pega uma linguagem desse tipo, com o Rust, e compara com projetos utilizando Node, você, você vê um um

05:48 ganho, assim, é impressionante. Tudo bem, você você vai ver um ganho às vezes, ah, com o C mais mais ou às vezes com com um outro ecossistema. Você consegue ver, sei lá, se você comparar Rust com o Java, por exemplo, mas o Rust com o Node, cara, o Rust sempre vai ganhar, não tem jeito. >> Você querendo ou não. >> Não, em termos em termos de >> Em termos de servidor, é. >> inicialização, performance, compilação, tudo. processo, controle de memória, cara, desculpa. >> gente, é.

06:19 >> tem comparação. >> Mas se você discorda, coloca aqui o motivo do porquê você discorda aí nos comentários, viu? Depois a gente traz na próxima semana. >> E se você discorda, diz, discorda. >> Discorda. Ai, que que piada horrível. Próxima notícia. >> E esse aqui é um corte de uma notícia do compilado do Código Fonte TV. >> Onde toda semana tem episódio novo falando de programação, tecnologia, inteligência artificial e cibersegurança. >> Então, já se inscreve aqui no canal do compilado e acompanha os episódios completos.

06:50 >> [música] [música] [música]