Como a Stripe criou o Kai

Autoria: LangChain · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: How Stripe Built Kai · Canal: LangChain · 01:32 · Assistir no YouTube

Tópicos: Agentes de IA, Aplicações empresariais de IA, Cibersegurança e segurança de software, Engenharia de prompts e contexto, Ferramentas de desenvolvimento com IA

Resumo

A Stripe criou o Kai, um assistente interno de IA usado semanalmente por 83% da empresa, com mais de mil skills e 500 ferramentas internas. Com Deep Agents, o sistema carrega apenas as ferramentas necessárias para cada skill, preservando no contexto as instruções e políticas fundamentais. O código é executado em um sandbox isolado, enquanto um sistema de arquivos virtual apoiado pelo S3 permite manter o estado entre as interações. A primeira versão funcional foi criada por um engenheiro em uma semana, e a adoção cresceu 16 vezes em cerca de um mês.

Pontos-chave

O Kai reúne mais de mil skills e 500 ferramentas internas.
83% dos funcionários da Stripe usam o assistente toda semana.
Cada skill define suas ferramentas permitidas, reduzindo o conteúdo carregado no contexto.
Algumas skills fundamentais permanecem sempre no contexto para preservar as políticas e informações essenciais da Stripe.
O agente escreve código fora do sandbox, mas o chama para executar esse código de forma isolada.
Um sistema de arquivos virtual apoiado pelo S3 mantém o estado entre interações.
Um engenheiro criou a primeira versão funcional do Kai em uma semana, usando Deep Agents.
A adoção cresceu 16 vezes em cerca de um mês, e o Kai passou a executar mais de 60 mil sessões semanais.

Capítulos

Início	Capítulo	Resumo
00:00	O desafio de contexto do Kai	A Stripe queria oferecer um assistente conectado aos seus dados e ferramentas, mas carregar todas as skills e ferramentas de uma vez excederia o contexto.
00:30	Carregamento seletivo e execução segura	Deep Agents carrega as ferramentas associadas a cada skill, mantém instruções fundamentais no contexto e usa um sandbox para executar código com isolamento.
01:01	Memória, adoção e curso	O Kai persiste estado com um sistema de arquivos virtual apoiado pelo S3, cresce rapidamente em adoção e é apresentado em um curso da LangChain Academy.

Citações

A Stripe criou um assistente interno de IA com mais de mil skills, 500 ferramentas internas e 83% da empresa usando-o toda semana. — 00:00

Escolher uma skill determina quais ferramentas são carregadas. — 00:30

Um engenheiro da Stripe criou a primeira versão funcional do Kai em uma única semana. — 01:01

A camada Deep Agents resolve todos os problemas que não são específicos da Stripe. — 01:01

Conceitos e entidades

Stripe (empresa): Empresa que criou o assistente interno de IA Kai.
Kai (ferramenta): Assistente interno de IA da Stripe, conectado aos dados e às ferramentas internas da empresa.
Deep Agents (ferramenta): agent harness open source usado como base para desenvolver o Kai.
LangChain (empresa): Empresa que desenvolveu Deep Agents e oferece um curso sobre o sistema.
S3 (ferramenta): Serviço que dá suporte ao sistema de arquivos virtual usado para persistir o estado do agente.
sandbox (conceito): Ambiente isolado usado para executar o código escrito pelo agente sem expor a infraestrutura ou as credenciais reais da Stripe.
skill (conceito): Cada skill especifica uma lista de ferramentas permitidas, ajudando a controlar o que é carregado no contexto.
LangChain Academy (empresa): Organização que oferece um curso prático sobre Deep Agents.

Tradução completa (pt-BR)

00:00 A Stripe criou um assistente de IA interno com mais de mil skills, 500 ferramentas internas e 83% da empresa usando-o toda semana. Ela conseguiu isso gerenciando o contexto corretamente. A Stripe queria que todos os funcionários tivessem um assistente conectado ao data warehouse, ao Slack e às ferramentas internas da empresa. Mas, se você carregar mil skills e 500 ferramentas em um único system prompt, o agent fica sem espaço antes mesmo de começar a tarefa. Então, eles o criaram com base no Deep Agents, nosso agent harness open source. Cada skill tem sua própria lista de ferramentas permitidas. Portanto, escolher uma skill

00:30 determina quais ferramentas são carregadas, e o contexto do agent acaba contendo apenas algumas, em vez de todas as 500 ferramentas disponíveis de uma só vez. É claro que algumas skills fundamentais ficam sempre fixadas, independentemente do que aconteça. Assim, o contexto e as políticas principais da Stripe nunca são descartados por acidente. Isso cobre o que permanece no contexto. Agora, o agent é executado e escreve código fora de um ambiente isolado, mas, por segurança, chama o ambiente isolado para executar esse código. Assim, a execução permanece isolada sem jamais expor a infraestrutura real nem as credenciais da Stripe. O agent também precisa se lembrar das coisas

01:01 ao longo de uma sessão. Assim, um sistema de arquivos virtual, respaldado pelo S3, permite que ele persista o estado em vez de reler tudo do zero a cada turno. Um engenheiro da Stripe criou a primeira versão funcional do Kai em apenas uma semana, porque o Deep Agents já havia resolvido os problemas difíceis de infraestrutura. A adoção cresceu 16 vezes em cerca de um mês, e agora o Kai executa mais de 60.000 sessões por semana. Como disse o gerente de engenharia da equipe de fundação de agents da Stripe, a camada do Deep Agents resolve todos os problemas que não são específicos da Stripe, para que a equipe dele pudesse se concentrar nos problemas da Stripe. Se quiser saber mais sobre a

01:32 mecânica por trás do Deep Agents, o curso de Deep Agents da LangChain Academy aborda tudo na prática, para que você possa aplicar isso à sua própria equipe.

Transcrição original

[00:00] Stripe built an internal AI assistant with over a thousand skills, 500 internal tools, and 83% of the company using it every week. They did that by managing context correctly. Stripe wanted every employee to have an assistant connected to their data warehouse, Slack, and internal tools. But load a thousand skills and 500 tools into one system prompt, and the agent runs out of room before it even starts the task. So, they built it on Deep Agents, our open-source agent harness. Each skill carries its own list of allowed tools. So, picking a skill

[00:30] decides which tools load, and the agent’s context ends up with just a handful, not all 500 available tools at once. Of course, a handful of foundational skills always stay pinned no matter what. So, Stripe’s core context and policies never get dropped by accident. So, that covers what stays in context. Now, the agent runs and writes code outside a sandbox, but for safety, it calls into the sandbox to run that code. So, execution stays isolated without ever exposing Stripe’s real infrastructure or credentials. The agent also needs to remember things

[01:01] across a session. So, a virtual file system, backed by S3, lets it persist state instead of rereading everything from scratch on every turn. One Stripe engineer built the first working version of Kai in a single week, because Deep Agents had already solved the hard infrastructure problems. Adoption grew 16-fold in about a month, and Kai now runs over 60,000 sessions a week. As the engineering manager for Stripe’s agent foundation team put it, the Deep Agents layer solves all the non-Stripey problems, so his team could focus on Stripe’s problems instead. If you want to learn more about the

[01:32] mechanics behind Deep Agents, LangChain Academy’s Deep Agents course walks through everything hands-on, so you can apply it to your own team.