Sem memória, sem harness: por que o banco de dados é a última linha de defesa — Kay Malcolm, Oracle

Autoria: AI Engineer · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: No Memory, No Harness: Why the Database Is the Last Line of Defense — Kay Malcolm, Oracle · Canal: AI Engineer · 21:18 · Assistir no YouTube

Tópicos: Agentes de IA, Dados, bancos de dados e embeddings, Engenharia de software com IA

Resumo

Kay Malcolm, da Oracle, explica como o uso de AI acelerou o trabalho individual, mas não tornou sua equipe mais produtiva porque o contexto das decisões e do código não era compartilhado. Ela apresenta tipos de memória importantes para agentes corporativos e defende que a memória precisa ser compartilhada e armazenada de forma confiável. Usando exemplos de diferentes bancos de dados, argumenta que consolidar vários tipos de dados em um só banco pode reduzir a fragmentação e o desperdício de tokens. Por fim, descreve como a equipe usou um memory broker e o Oracle Agent Memory SDK para compartilhar contexto entre pessoas e agentes.

Pontos-chave

O Git registra o código, mas não necessariamente a intenção e o contexto por trás dele.
Aumentar a velocidade de cada pessoa com AI não garante que a equipe inteira se torne mais produtiva.
Um agente corporativo combina modelo, workflow, ferramentas, contexto, memória, recuperação de informações e guardrails.
A palestrante distingue memória de curto prazo, longo prazo, episódica, procedural e semântica.
Distribuir dados e memória por vários bancos pode dificultar encontrar uma fonte única da verdade e consumir tokens adicionais.
A palestrante defende o uso de um único banco capaz de armazenar diferentes tipos de dados para apoiar a memória dos agentes.
O memory broker Py compartilhou contexto entre membros da equipe, associando-o a forks, branches e commits.
A palestra apresenta o Oracle Agent Memory SDK como uma forma de manter conversas, memórias e fatos e avaliar o que vale a pena guardar.

Capítulos

Início	Capítulo	Resumo
00:12	O problema de compartilhar contexto na equipe	Kay Malcolm apresenta sua equipe na Oracle e explica que o código era compartilhado sem o contexto das decisões tomadas com AI.
04:25	O que compõe um agente corporativo	A palestrante descreve os elementos de um agente corporativo e compara o harness e a memória a partes do corpo e do sistema nervoso.
07:07	Tipos de memória e dados corporativos	Ela apresenta cinco tipos de memória e conta como a fragmentação de dados em diferentes bancos gerava complexidade operacional.
12:03	Onde armazenar a memória dos agentes	A palestrante questiona como agentes podem encontrar uma fonte única da verdade quando os dados estão espalhados por vários sistemas.
15:23	Um banco para diferentes tipos de dados	Ela defende o Oracle AI Database como local para armazenar dados e diferentes formas de memória usadas pelos agentes.
17:28	Memória compartilhada em escala corporativa	A palestra relaciona a memória ao harness, menciona trabalhos sobre o tema e apresenta o Oracle Agent Memory SDK.
20:10	Recursos para começar	Kay Malcolm indica recursos de desenvolvimento, LiveLabs e opções gratuitas da Oracle Cloud Infrastructure.

Citações

O Git registra o código, não a intenção humana. — 03:21

O harness é o corpo. A memória é parte do sistema nervoso central. — 06:35

Seu harness, sua memória. E, se você não controla seu harness, não controla sua memória. — 18:01

A AI torna indivíduos mais rápidos. A memória compartilhada em um Oracle AI Database torna equipes mais rápidas. — 19:38

Conceitos e entidades

Kay Malcolm (pessoa): Executiva da Oracle que apresenta a palestra sobre memória de agentes e colaboração entre equipes.
Oracle (empresa): Empresa onde Kay Malcolm lidera uma equipe de gerenciamento de produtos de banco de dados.
agent harness (conceito): Estrutura que dá ao agente meios para agir, incluindo ferramentas, contexto, memória e guardrails.
Memória de agentes (conceito): Informação mantida ou recuperada para dar continuidade ao trabalho de um agente entre interações ou sessões.
Neo4j (ferramenta): Banco de dados de grafos citado pela palestrante como exemplo de uma tecnologia separada para dados não relacionais.
Oracle AI Database (ferramenta): Banco de dados apresentado pela palestrante como capaz de armazenar vários tipos de dados e apoiar a memória de agentes.
Py (ferramenta): Memory broker usado pela equipe para compartilhar contexto e associá-lo a forks, branches e commits.
Oracle Agent Memory SDK (ferramenta): SDK apresentado como meio de armazenar conversas, memórias e fatos e determinar o que vale a pena manter.

Tradução completa (pt-BR)

00:12 Pessoal, estamos nos divertindo? >> Ah, vocês vão ter que me dar muito mais do que isso. Então, deixa eu me apresentar: meu nome é Kay Malcolm. Sou instrutora aposentada de hip-hop. Se eu não receber mais energia do que isso, vamos começar. Vamos começar. Vocês estão se divertindo? [gritos de comemoração] >> Certo. Tudo bem. Então, é sobre isso que vamos falar hoje. Vocês ouviram falar bastante de duas letras. Alguém quer adivinhar quais são as duas letras sobre as quais vou falar hoje?

00:46 >> Dados. Muito bem. DB. Vou falar sobre IA, mas, especificamente, sobre agent harnesses. Mas, antes disso, quero apresentar algumas pessoas a vocês. Tudo bem? Sim ou sim. Tudo bem? >> Eu dei opções. Sim. Enfim. Certo. Tudo bem. Esta é a minha equipe. Lidero uma equipe de gerenciamento de produto de banco de dados para operações de saída na Oracle. Estou na Oracle há muito tempo: 20 anos.

01:18 Uma história engraçada: comecei quando tinha 12 anos. Então, não façam as contas nem comecem a somar de cabeça. E temos um problema. O problema é que tenho um grupo que cuida do desenvolvimento da plataforma e outro que cria o conteúdo dos laboratórios ao vivo, numa plataforma que eu mesma escrevi. Então, sim, sou engenheira, mas também sou meio impostora de desenvolvedora. E tenho ainda outro grupo que cuida do QA

01:48 e outro grupo que cuida do desenvolvimento do frontend com IA. Eis o que descobri como líder. Na era de maximizar tokens de 2025 — porque, como vocês sabem, não estamos mais maximizando tokens, certo? Agora somos responsáveis no uso da IA. Mas, na era de maximizar tokens, o que descobri foi que, embora a IA estivesse tornando as pessoas da minha equipe mais rápidas, havia

02:18 outro problema que ela estava criando. Ela não estava tornando minha equipe mais produtiva. O motivo era que uma equipe dos Países Baixos fazia o commit do código às quatro da manhã para mim — metade da minha equipe fica na EMEA e a outra metade aqui nos Estados Unidos. Eles faziam o commit do código, mas não registravam o contexto do Codex. Nós usamos o Codex na

02:50 Oracle. Então, quando a equipe dos Estados Unidos acordava, recebia o código, mas nenhuma informação sobre o contexto. Assim, usamos IA para resolver um problema criado pela IA. E foi isso que fizemos. Mas, antes, deixa eu falar sobre isto. Alguns dos problemas: como eu disse, o contexto não era compartilhado. O GitHub não registrava isso. Eu tinha repositórios que estavam divergindo e

03:21 perguntava aos gerentes que trabalham para mim: “O que está acontecendo com suas equipes? Por que não estamos avançando mais rápido? Estamos gastando todo esse dinheiro com tokens. Estamos gastando todo esse dinheiro com IA, mas ainda falta alguma coisa, porque continuamos gastando tempo com testes e validação.” Então, no fim das contas, isso não estava funcionando para nós, porque o Git registra o código, não a intenção humana. Então, é um problema

03:52 e, embora a criação de código já não fosse mais o nosso problema, ainda tínhamos um gargalo. Precisávamos de uma camada de colaboração. Agora, tenho membros da minha equipe na plateia, então não me julguem — vocês sabem quem são. Não estou dizendo que vocês não colaboravam. Mas agora temos um novo membro na equipe, e esse novo membro é a IA. Então,

04:25 precisávamos descobrir como acompanhar nosso progresso e os próximos passos, como racionalizar as decisões que o agent estava tomando. Precisávamos descobrir como resolver dúvidas e conflitos. Certo, segurem meu problema. Vocês podem segurar meu problema para mim aqui? Vamos guardá-lo numa caixinha. Deixem-me definir o que é um agent

04:58 empresarial de verdade. A maioria das pessoas acha que um agent empresarial é o modelo e o workflow. Quantas pessoas concordam comigo? Nossa, que plateia difícil. Certo, uma pessoa. O resto de vocês acha que tem um pouco mais. Então, vamos ver: o que mais um agent empresarial de verdade tem? Ferramentas. As ferramentas são como ele faz as coisas. Contexto.

05:33 O contexto. Essa é a context window. É o que está no prompt de fato. Memória. Hã? E, se você está pensando: “Mas espera, K, memória? Você acabou de dizer que o modelo é meio que o cérebro da operação.” Tenham paciência. Vamos falar um pouco mais sobre recuperação de memória, porque você não quer recuperar tudo. É preciso conseguir recuperar as informações certas.

06:04 E sei que há muitos desenvolvedores aqui, e vocês não se importam com segurança. Eu me importo com segurança, porque trabalho para a empresa de banco de dados mais segura e costumava trabalhar para uma agência sem nome. Mas as proteções também são importantes. Isso é o harness. Eu falo por analogias e conto histórias porque, se eu disser isso e mencionar a Marvel,

06:35 vocês sabem exatamente do que estou falando. Então, pensem no agent como o modelo, um pequeno cérebro flutuando dentro de um pote de vidro, mais esse harness. Esse harness é o corpo. É assim que o agent consegue fazer coisas e realizar tarefas. A memória é a parte do sistema nervoso central. E vocês se lembram de que o sistema nervoso central conecta o cérebro ao

07:07 resto do corpo: pernas, braços. Essa é a parte do sistema nervoso central que carrega o contexto. Então, lembram do meu problema com o Git? O que eu precisava era de memória. Certo, há vários tipos de memória. Escolhi cinco, os cinco tipos mais comuns de que as pessoas falam, e são esses que quero que vocês lembrem. O primeiro é a memória de curto prazo. É a sessão, certo? Então, se você está armazenando a memória de um processo de IA, essa é a

07:42 memória de curto prazo, como no ChatGPT, no Claude Code, certo? No Codex, escolham o que preferirem. A memória de longo prazo é o que persiste entre sessões. Memória episódica. Hum. O que aconteceu da última vez que interagi com [preencha a lacuna]? Essa é a memória episódica. Memória procedural: ferramentas, etapas que foram realizadas.

08:15 E, por fim, memória semântica. E a memória semântica, já que estamos falando de agents empresariais. Não estamos falando do agent que eu criei, Sasha Fierce, porque, lembram que eu contei que sou dançarina? Então, é claro que minha chefe de gabinete se chamaria Sasha Fierce, porque esse era o nome da Beyoncé. Fãs da Beyoncé? Certo, desculpem. Tudo bem, vamos nos concentrar. Certo, esses são os tipos de memória. Agora, ao definir esse agent empresarial de verdade e essa memória,

08:50 há algo que vocês precisam considerar: onde armazená-la. Então, vou contar uma história. Mas, quando eu contar, vocês têm que me prometer que não vão me julgar. Prometem? Prometem >> que não estão me gravando, certo? Porque isso não me deixa numa boa. Certo. Tudo bem. O mundo dos dados era simples. Estou na Oracle há muito tempo, mas vim de um cliente. O nome desse cliente era Southern Company. Era uma empresa de energia. Moro em

09:21 Atlanta. E fui contratada pela Southern Company porque eu era uma especialista de primeira em ajuste de desempenho. Você tinha uma consulta SQL. Quer dizer, estou entregando a idade, mas enfim. Você tinha uma consulta SQL. Eu conhecia todos os parâmetros init.ora. Até aqueles que, quando você ligava para o suporte, diziam: “Não se lembre deles. Não os anote.” Eu anotava tudo no meu caderninho. Eu conseguia ajustar uma consulta até o limite. Então, um de vocês veio à minha mesa, porque o mundo — o mundo era feito de linhas e colunas. Eram tempos ótimos, lá nos meus dias de Al Bundy —, e disse

09:56 “Ei, preciso armazenar dados não estruturados. Por que preciso fazer isso?” E eu, sendo a K, a DBA diligente, respondi: “Deixa eu descobrir e te dou um retorno.” Eu dei um retorno para ele? Não dei. Agora, uma coisa que vocês precisam saber sobre a Southern Company é que, para cada sistema de banco de dados gerenciado por um DBA, eu tinha que participar de duas reuniões.

10:26 Hoje, quando ouço Sarbanes-Oxley, ainda sinto um pouco de ânsia no fundo da garganta. Então, eu tinha que participar de uma reunião de segurança e de uma reunião sobre aplicação de patches toda semana. Sem falta. Agora, por causa desse desenvolvedor que instalou um banco de dados especializado em dados não estruturados, tudo bem, havia pessoas muito inteligentes na sala. A quantas reuniões eu vou agora? Quatro. Tudo bem, estou um pouco irritado, mas penso: tudo bem, podemos, podemos, podemos fazer

10:59 isso. Então disseram: “Tudo bem, já que você é tão bom em ajuste, preciso que descubra essa relação.” Na época, o funcionamento da Southern Company era assim: havia um aplicativo em que vidas estavam em risco, hum, e era como um telefone Nokia usado pelas pessoas que escalavam as torres, certo? Então, vocês já passaram por uma tempestade e ficaram sem energia, certo? E aí têm quase certeza de que, em uma ou duas horas, a energia vai voltar. Bem, o sistema que avisava as pessoas que escalavam aquelas árvores

11:32 e arriscavam a vida para religar a energia às vezes gerava falsos positivos ou falsos negativos. Então, eles queriam analisar todos os outros postes da região para tentar evitar o falso positivo ou o falso negativo. E eu fiz isso em uma consulta SQL, e ficou incrível. Era uma instrução com cinco UNION ALL aninhados. Foi um dos meus melhores trabalhos. Talvez levasse uns 20 minutos para funcionar, mas era como um

12:03 precursor de grafo. É, eles instalaram Neo4j. Então, a quantas reuniões eu vou agora? Seis. Isso é um problema. Então, eu… Ah, me adiantei. Sabe o que eu fiz? Pedi demissão. Fui embora e vim para a Oracle porque pensei: isso é um problema, talvez eu possa ir para a Oracle e ajudar a resolvê-lo. Então, Joe Mundy me ligou e disse: “Ei, estamos instalando Redis. A Oracle está atrasada nessa área. Temos um banco de dados vetorial.”

12:36 Tudo bem. Mas aqui está o seu problema, Joe. Agora os agents precisam acessar todos esses dados. Então, se os dados estão em um banco de dados Oracle, se também estão em um banco de dados JSON não estruturado, se estão em um banco de dados de grafos e em um banco de dados vetorial, onde está a fonte única da verdade? O agent precisa descobrir isso. Às vezes, vai acertar. Na maioria das vezes, vai errar, e vai

13:10 consumir um monte de tokens. Então, se você quiser armazenar sua memória em algum lugar, pode armazená-la em um sistema de arquivos. Pode armazená-la no Claude ou no ChatGPT, porque todos conhecemos o arquivo memory.md. Mas isso vai ser um problema. Agora, quero ilustrar isso. Preciso de quatro voluntários. Estou vendo vocês levantarem a mão. Um, dois. Tudo bem, não consigo… Talvez consiga. Três.

13:40 Preciso de um quarto. Ah, o quarto, lá atrás. Tudo bem, você lá atrás vai ser nosso velho e confiável banco de dados relacional. Sim ou sim. Você está com seu… Então, você já tem sua tarefa. Tudo bem. E tinha alguém aqui. Você vai ser meu banco de dados não estruturado. Tudo bem. E onde estava o outro? Ah, muito bem. Você vai ser meu banco de dados de grafos. Tudo certo? O cara das relações. Você tem jeito de quem entende de relações. Beleza. Muito bem. O quarto. Onde estava meu quarto? Era você? Sim. Isso. Você é meu banco de dados vetorial.

14:14 Tudo bem. Agora, todo mundo fique bem, bem quieto. Para meus quatro voluntários, preciso que todos vocês… Vou dizer algo para vocês, e preciso que decidam como vão armazenar isso e quem vai ficar com a fonte única da verdade. Vocês não podem sair dos seus lugares e precisam sussurrar, porque, se falarem alto, isso vai custar cinco vezes mais tokens para vocês. Sim. Tudo bem. Prontos? Certo. A vaca pulou por cima da lua.

14:49 Vai. Não funciona muito bem, né? Isso é um problema. Tudo bem, Oracle. E, se você não esquecer uma coisa, se esquecer tudo o que eu disser e lembrar de uma única coisa, é que a Oracle não é o que você pensa — é por isso que estou aqui hoje. Quantos de vocês sabiam que a Oracle podia armazenar nativamente, na mesma tabela e até na mesma partição, JSON, grafos, vetores, meu

15:23 amigo vetor ali, minha amiga JSON, dados espaciais? Quer que sua memória seja imutável, em blockchain, no mesmo banco de dados? Levantem a mão. Sim. Temos um problema de marketing. Qualquer tipo de dado pode ser armazenado em um banco de dados 26AI, qualquer carga de trabalho, em qualquer lugar: AWS, GCP, Azure, OCI ou no local. Liberdade de escolha e flexibilidade. Então, agora, quando pegamos isso e falamos

15:56 sobre o agent, quero poder armazenar minha memória de longo prazo e procedural em um banco de dados relacional; em JSON, quero armazenar minha memória de curto e longo prazo; em grafos, quero armazenar a memória procedural, porque é assim que descubro as relações, certo, as etapas; e minha memória episódica e semântica. Preciso usar vetores e depois armazenar isso também como texto. Agora, se eu tiver quatro bancos de dados diferentes, vocês viram que eles não conseguem conversar entre si. Isso vai ser um

16:26 problema. Então, o que estou dizendo a vocês hoje é que o banco de dados Oracle AI é o melhor lugar para armazenar essa memória do agent que vai alimentar seu harness. Lembrem-se: seu harness é seu corpo [música], e essa memória é seu sistema nervoso central. Tudo bem, voltando ao PY. Então, o problema que eu tinha foi resolvido com um intermediador de memória chamado Py. Usamos agent memory. Saímos daquela continuidade automática.

16:56 Com a minha equipe, eles conseguiram compartilhar não só o código, mas o PY também acompanhava o contexto. Então, se uma context window tinha memória procedural, memória episódica, informações sobre a memória de longo prazo, isso era compartilhado com as outras pessoas da equipe. Se quiserem, podem chamá-las de agents. São apenas agents humanos compartilhados entre forks. Os desenvolvedores da equipe continuaram no

17:28 controle, enquanto Polly conseguia criar o contexto, descobrir a qual fork e branch ele pertencia e a qual commit. Agora, este é um exemplo bem simplificado, mas, quando levamos isso para a empresa, é isto que acontece: a memória se torna algo inegociável no harness de um agent. Estes são três artigos que li no avião. Este primeiro é da OpenAI e fala sobre o agent de dados interno da empresa, e o que diz é que o agent de dados interno realmente precisa de memória.

18:01 A memória foi crucial para garantir que o agent conseguisse filtrar corretamente, em vez de tentar fazer correspondência de strings. Harrison Chase disse: “Seu harness, sua memória. E, se você não controla seu harness, não controla sua memória.” Isso é fundamental. E tenho certeza de que todos estão se perguntando: “Bem, o Claude tem memória. Por que não posso usar isso?” Bem, é como a memória de um sistema de arquivos, e funciona

18:35 com um, mas, como no meu exemplo, quando você passa de um, e vai passar de um na empresa, isso cria um problema. Então, a Oracle tem um pacote Oracle agent memory. Instale com PIP: pip install Oracle agent memory. Você terá acesso a ele. E essa memória, esse SDK que temos, é o que vai guardar suas conversas em andamento, suas memórias, seus fatos

19:05 e descobrir o que vale a pena manter. Então, se olharmos para o Py agora, Kevin pode compartilhar o contexto dele com o Py, nosso intermediador de memória. Usamos o SDK Oracle agent memory. Ele fica armazenado em um banco de dados autônomo da Oracle. Podemos usar o LLM que escolhermos ou um modelo local por meio do contêiner Oracle private AI services. E Linda, que está sentada bem aqui, pode interagir e trabalhar com Kevin sem problema.

19:38 Então, sim, a IA torna as pessoas mais rápidas. A memória compartilhada em um banco de dados Oracle AI torna as equipes mais rápidas. Portanto, não quero que vocês façam concessões. Na era da IA, o que o 26AI permite é escolher o que é melhor para a memória do agent: um sistema de arquivos, armazenada em um sistema de arquivos de banco de dados ou no próprio banco de dados. Se precisar modelar dados, você tem JSON e dados relacionais. Temos opções.

20:10 Certo, tenho algumas coisas legais para vocês. O hub de desenvolvedores de IA da Oracle. É lá que vocês podem encontrar materiais de programação e os aplicativos sobre os quais falei hoje. Livelabs.oracle.com. Se vocês participaram de algum dos nossos workshops hoje, saibam que esse é um material que eu mesmo escrevi há cerca de seis anos, quando havia 40 milhões de usuários. Gastem o dinheiro da minha tenancy da OCI. Experimentem qualquer tecnologia da Oracle por seis horas, 12 horas, pelo tempo que precisarem. E vou dar um Mac Mini para cada um de vocês. Não, estou brincando.

20:45 Vou dar um OCI Mini para vocês. Não sei se vocês sabiam, mas existe uma OCI sempre gratuita. É a oferta mais generosa entre todos os hiperescaladores: vocês podem ter um banco de dados Oracle gratuito, computação gratuita, enviar 3.000 e-mails por mês e ter 200 gigabytes de armazenamento. Se clicarem nesse link, terão acesso. Ou simplesmente pesquisem no Google por Oracle Cloud, sempre gratuita. Entrem em contato comigo. Se vocês criarem alguma coisa, podem me mandar uma mensagem e me contar? Sim ou sim?

21:18 >> Obrigado. >> [música]

Transcrição original

[00:12] Everyone, are we having fun? >> Oh, you’ve got to give me way more than that. So, let me tell you, um, my name is Kay Malcolm. I am a retired hiphop instructor. So, if I don’t get more energy than that, we will start. We’ll start. Are you having fun? [cheering] >> Okay. All right. So, here’s what we’re going to talk about today. Now, you guys have heard a lot about two letters. Does anyone want to guess what those two letters are that I’m going to talk about today?

[00:46] >> Data. That was pretty good. DB. I’m going to talk about AI, but I’m specifically going to talk about agent harnesses. But before I do that, I want to introduce you all to a few people. Is that okay? Yes or yes. Is that okay? >> I gave choices. Yes. Anyway. All right. Okay. All right. This is my team. I run an outbound database product management team at Oracle. I’ve been at Oracle a really long time, 20 years.

[01:18] Funny story, I started when I was 12. So, don’t do the math and don’t start start adding in your head. Um, and we’ve got a problem. That problem is I’ve got one group that does platform development and then I have another group that does content development for live labs, a platform that I wrote myself. So yeah, I’m an engineer but I’m kind of a developer poser too. And then I’ve got another group who does QA

[01:48] and then I have another group who does my front-end development with AI. Here’s what I found out as a leader. Because in the token maxing era of 2025, because you know, we’re not token maxing anymore, right? We are responsible AI now. But in the token maxing era, the thing that I found out was while AI was making the individuals on my team faster, there was

[02:18] another problem it was creating. It wasn’t making my team more productive. And the reason was when one team from the Netherlands checked in code at my 4:00 a.m. in the morning because I’ve got half of my team that’s in AMIA and I have half of my team who that are here in the United States. They checked in the code but they didn’t check in their context from Codeex. We use Codeex at

[02:50] Oracle. So then when the US team woke up, they got the code but no information about the context. So we used AI to solve a problem that AI created. And here’s what we did. Oh well, let me talk about this first. So some of the issues, the context, like I said, wasn’t shared. GitHub wasn’t tracking that. I had repositories that were diverging and I

[03:21] was asking the managers who work for me, what’s happening to your teams? Why why are we not going faster? We’re spending all of this money on tokens. We’re spending all this money on AI, yet something is missing because we’re still spending time doing testing and validation. So our netn net wasn’t really wasn’t really working for us because git records the code and not human intent. So it’s a problem

[03:52] and even though code creation was no longer our problem still had a bottleneck. We needed a collaboration layer. Now, I do have members of my team in the audience, so don’t judge me, and you know who you are. I’m not saying that you all didn’t collaborate. But now, we’ve got a new team member, and that new team member is AI. So,

[04:25] we needed to figure out how to track our progress in our next steps. how to rationalize decisions that the agent was making. We needed to figure out how to resolve questions in conflicts. Okay, hold my problem. Will you all hold my problem for me right here? We’re going to just tuck that in a little box. Let me define what a enterprise agent

[04:58] actually is. Now, most people think that an enterprise agent is the model and workflow. How many people agree with me? Man, this tough crowd you. Okay, one person. Okay, the rest of you think it’s a little bit more. Okay, let’s see what could it be that a real enterprise agent has tools. Tools are how it does things. Context.

[05:33] The context. That’s a context window. That’s what’s in the actual prompt. Memory. Huh? And if you’re thinking, “But wait, K, memory, you just said that the model is kind of like the brain of the operation.” Hold tight. We’re going to talk a little bit more about memory retrieval because you don’t want to get everything back. So that’s being able to to retrieve the right information back.

[06:04] And then I know that there are a lot of developers here and you all don’t care about security. I care about security because I work for the most secure database company and I used to work for um agency that has no name. But guard rails is also important. This is the harness. I speak in analogies and I and I speak in stories because if I tell you this and Marvel,

[06:35] you know exactly what I’m talking about. So the agent, think of it as the model, little brain floating a in a glass jar plus this harness. This harness is the body. So it’s how the agent can actually do things and get things done. That memory, that’s the part of the central nervous system. And you remember the central nervous system connects the brain to the

[07:07] rest of the body, legs, arms. That’s the part of the central nervous system that carries context. So you remember my problem with Git. What I needed was memory. Okay, so there are a number of memory types. I chose five, the five most common ones that people talk about and these are the ones that I want you to remember. The first one is short-term memory. That’s the session, right? And so if you’re storing memory of an AI uh process, that is the

[07:42] short-term memory is if you’re with chat, cloud code, right? Codeex, pick your poison. The long-term memory is what persists across sessions. Episodic memory. Hm. What happened the last time I interacted with fill in the blank? That’s your episodic memory. Procedural memory tools, steps that were taken.

[08:15] And then finally, semantic memory. And semantic memory because we’re talking enterprise agents. We’re not talking the agent that I built, Sasha Fierce, because remember I told you guys that I was a I’m a a dancer. So, of course, my my chief of staff is going to be called Sasha Fierce because that was Beyonce. Any Beyonce fans? Okay, I’m sorry. All right, we got to focus. Okay, so these are the memory types. Now, when you’re defining this real enterprise agent in this memory,

[08:50] there’s something you need to consider where to store it. And so, I’m going to tell you guys a story. But when I tell you the story, you have to promise me that you’re not going to judge me. Do you promise? Do you promise >> you’re not recording me, right? Because this doesn’t paint me in a good light. Okay. All right. The world of data was one simple. I’ve been at Oracle a long time, but I came from a customer. That customer’s name was Southern Company. It was a power company. I’m based out of

[09:21] Atlanta. And I was hired at Southern Company because I was a rockar performance tuner. You had a SQL query. I mean, I’m dating myself, but whatever. You had a SQL query. I knew all of the innit.org parameters. Even the ones when you called support and they said, “Don’t remember these. Don’t write them down.” I wrote them down in my little notebook. I could tune a query within one inch of its life. Then one of you came to my desk because I mean the world the world was rows and columns. It was a great time back in my Albundy days um and said

[09:56] hey I need to store data unstructured. Why I need to do that? And so me being K the the diligent DBA, I was like, “Let me figure it out and get back to you.” Did I get back to him? I didn’t get back to him. Now, the thing you have to know about Southern Company was for every database system that a DBA managed, I had to attend two meetings.

[10:26] Today, when I hear Sarbain Oxley, I still throw up a little bit in the back of my throat. So I had to attend a security meeting and a patching meeting every week. Never failed. Now because this developer installed a database that was specialized for unstructured. Okay, there are really smart people in the room. How many meetings am I going to now? Four. Okay, I’m a little annoyed, but I’m like, okay, we can we can we can do

[10:59] this. Then they said, “Okay, since you’re such a good tuner, I need you to figure out this relationship.” Now, the way that Southern Company worked, there was this people could die application, um, and it was a it was like a Nokia phone that people who were climbing the towers, right? So, you guys have have been in a storm and the power goes out, right? And then you’re pretty sure that within maybe an hour or two the power will go on. Well, that system that would tell the people who were climbing those trees

[11:32] and risking their lives to turn the power back on sometimes would have false positives or false negatives. So, they wanted to look at all of the other um uh polls in the area to try to get away from the false positive or the false negative. And so I did that in a SQL query and it was it was amazing. It was a five nested union all statement. It was some of my best work. Now it might have taken like 20 minutes to work but it was like a

[12:03] predecessor to graph. Yeah, they they install Neo4j. So now how many meetings am I going to? Six. That’s a problem. So I um Oh, let me I got ahead of myself. So you know what I did? I quit. I left and I came to Oracle because I was like this is a problem and maybe I can go to Oracle to help solve it. So then Joe Mundy called me and he said hey um we are installing Reddus. Oracle is late to the game. We’ve got a vector

[12:36] database. Okay. But here’s your problem, Joe. Agents now need access to all of this data. So if data is in an Oracle database, if then it’s also in an unstructured JSON database, if it’s in a graph database and it’s in a vector database, where is your single source of the truth? The agent has to figure that out. Sometimes it’ll get it right. Most times it’ll get it wrong and it’s

[13:10] going to burn up a whole bunch of tokens. And so now if you want to store your memory somewhere, you can store it in a file system. You can store it in clawed or chatgpt because we all know about the memory.md file. But that’s going to be a problem. Now I want to illustrate this. I need four volunteers. I can see you raise your hand. One, two. Okay, I can’t. Maybe I can. Three.

[13:40] I need a fourth. Ah, fourth in the back. Okay. Fourth in the back. You are going to be our old reliable. You’re going to be a relational database. Yes or yes. You got your So, you have your assignment. Okay. And then there was someone here. You’re going to be my unstructured database. Okay. And then where was my other? Ah, very good. You’re going to be my graph database. You good? Relationship guy. You look like a relationship guy. All right. Very good. Fourth. Where was my fourth? Was it you? Yes. Yeah. You are my vector

[14:14] database. Okay. Now, everybody be really, really quiet. For my four volunteers, I need you all. I’m going to say something to you. And I need you all to decide how you’re going to store it and who’s going to have the single source of the truth. You can’t get up from your seats and you have to whisper because if you talk loud that’s 5x the tokens for you. Yes. Okay. Are we ready? All right. The cow jumped over the moon.

[14:49] Go. Doesn’t really work, does it? That’s a problem. Okay, Oracle. And if you don’t forget one, if you forget everything I say and you remember one thing, Oracle is not the Oracle that you think that is why I am here today. How many of you knew that Oracle could natively in the same table down to the same partition store JSON graph vector my

[15:23] vector friend over there my JSON friend spatial you want your memory to be immutable blockchain in the same database raise your hand yeah we have a marketing problem so any data type can be stored in a 26AI database any workload anywhere AWS GCP Azure OCI on prem choice and flexibility so now when we take this and we talk

[15:56] about the agent I want to be able to store my long-term and procedural memory in relational on in JSON I want to store my short-term and my long-term memory graph I want to store procedural because procedural that’s how I figure out the relationships right the steps my episodic and semantic memory. I need to do some vector and then store it also as text. Now, if I have four different databases, you all saw they can’t talk to each other. It’s going to be a

[16:26] problem. And so, what I’m saying to you today is the Oracle AI database is the best place to store this agent memory that’s going to power your harness. Remember your harness is your body [music] and that memory is your central nervous system. Okay, back to PY. So the problem that I had, we solved it with a memory broker named Py. We used agent memory. We got out of that automatic

[16:56] continuity. So with my team, they were able to share not just their code, but PY also kept track of the context. So if one context window was had procedural memory, episodic memory, information about the long-term memory, that was then shared with the other folks on the team. You could call them agents, if you will. They’re just human agents shared across forks. The developers on the team remained in

[17:28] control while Polly was able to create the context, figure out which fork and branch it belonged to and which commit it belonged to. Now this is a very simplistic example but when you take this to the enterprise here’s what happens. Memory is the thing that becomes non-negotiable in an agent’s harness. Now these are three papers that that I read um on the airplane. This first one is from open AI and it’s about its

[18:01] in-house data agent and the thing that it says is it is saying that its in-house data agent actually needs memory. Memory was crucially important to ensure that its agent was able to filter correctly instead of trying to string match. Harrison Chase said, “Your harness, your memory. And if you don’t own your harness, you don’t own your memory.” Which is key. And then I’m sure you all are wondering, “Well, Claude has memory. Why can’t I use that?” Well, it’s kind of like file system memory and it works

[18:35] with one, but just like in my example, when you scale past one, and you’re going to scale past one in the enterprise, it creates a problem. So Oracle has a Oracle agent memory pap package. PIP install Oracle agent memory. You get access to it. And this memory is this SDK that we have is the thing that will hold your live conversations, your memories, your facts

[19:05] and figure out what is worth keeping. So if we look at Py now, Kevin can share his context with Py, our memory broker. We use the Oracle agent memory SDK. It’s stored in an Oracle autonomous database. We can use the LLM of our choice or we can use a local model through the Oracle private AI services container. And then Linda, who’s actually sitting right here, can interact and work with Kevin, no issues.

[19:38] So yes, AI makes individuals faster. Shared memory on an Oracle AI database makes teams faster. So I don’t want you all to compromise. In the age of AI, what 26AI does is you can choose and pick what’s best for agent memory file system stored in a database file system or in the database. If you need to do data modeling, you’ve got JSON, you’ve got relational. We’ve got choice.

[20:10] Okay, I’ve got some goodies for you. The Oracle AI developer hub. That’s where you can guys you guys can get coding materials, the applications, what I talked about today. Livelabs.oracle.com. If you’ve done any of our workshops today, that happens to be something that I wrote myself about six years ago and 40 million users um ago. Spend my OCI tenency money. kick the tires on any Oracle technology um for six hours, 12 hours, however long you need. Um and then I’m giving you all all a Mac Mini. No, I’m just kidding.

[20:45] I’m giving you an OCI Mini. So, I don’t know if you knew, but there is an always free OCI. It is the most generous of any of the hyperscalers where you can get a free Oracle database, free compute, you can send 3,000 emails a month, 200 gig in storage, and if you click on that, you can get access to it. Or just search Google for Oracle Cloud, always free. Connect with me. If you build something, will you all message me and let me know? Yes or yes?

[21:18] >> Thank you. >> [music]