Um futurista de IA da Microsoft sobre o que todos entendem errado a respeito de agentes | Marco Casalaina

Ver no idioma original →

Autoria: Composio · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: A Microsoft AI Futurist on What Everyone Gets Wrong About Agents | Marco Casalaina · Canal: Composio · 45:39 · Assistir no YouTube

Tópicos: Agentes de IA, Automação de tarefas e workflows, Avaliação e benchmarks de IA, Cibersegurança e segurança de software

Resumo

Marco Casalaina, futurista de IA da Microsoft, explica como agentes podem ser úteis no trabalho e na vida pessoal, mas alerta que delegar tarefas com a própria identidade traz riscos. Ele descreve três modos de uso de agentes e defende que agentes com identidade própria podem limitar permissões e separar os erros do agente dos do usuário. Também aborda segurança, conformidade e evals baseadas em rubricas específicas para cada caso de uso. Por fim, comenta a evolução rápida das ferramentas de IA, os recursos de voz e por que agentes autônomos ainda exigem supervisão.

Pontos-chave

• Em centrais de atendimento com IA, os quatro erros recorrentes são deixar o usuário no silêncio durante tool calls, não revelar que o atendimento é feito por IA, dificultar a transferência para uma pessoa e não dar ao agente ferramentas ou informações suficientes.
• Agentes usados em nome do usuário herdam suas permissões, então uma ação equivocada pode ocorrer sob a identidade dele.
• Um agente com identidade própria pode ter permissões limitadas e reduzir o risco de acesso indevido, embora talvez precise receber documentos e outros recursos compartilhados pelo usuário.
• A automação de tarefas pode ser útil, mas Casalaina recomenda cautela com ações autônomas e supervisão antes de enviar, por exemplo, um e-mail.
• Em setores regulados, é necessário avaliar não só a segurança, mas também se o agente cumpre regras e evita fazer promessas indevidas.
• Evals genéricas, como conclusão de tarefa, podem não detectar resultados incorretos; rubricas específicas permitem avaliar critérios próprios do caso de uso.
• As capacidades dos produtos de IA mudam depressa: algo que funcionava mal pode melhorar significativamente, então vale reavaliar as ferramentas ao longo do tempo.
• Skills e memória podem ajudar a adaptar agentes às tarefas e ao estilo de escrita do usuário, mas não eliminam a necessidade de revisar o trabalho.
• Modelos de IA já podem falar diversos idiomas, inclusive alguns com menos recursos, o que pode abrir novas possibilidades de acesso a serviços.

Capítulos

Início	Capítulo	Resumo
00:00	Agentes, identidade e riscos	A conversa apresenta agentes com identidade própria e introduz os riscos de conceder credenciais e permissões pessoais.
01:38	Um projeto de IA para centrais de atendimento	Casalaina conta que criou uma demonstração para resolver o silêncio que ocorre quando um agente de voz faz uma tool call.
04:19	Os quatro erros de centrais de atendimento com IA	Ele enumera silêncio durante chamadas de ferramentas, falta de transparência, ausência de transferência para uma pessoa e grounding insuficiente.
07:35	Três modos de usar um agente	Casalaina diferencia o modo anônimo, o uso em nome do usuário e agentes com identidade própria.
11:23	Por que dar identidade própria ao agente	Uma identidade separada pode limitar permissões e isolar erros, mas exige compartilhar com o agente os recursos a que ele precisa ter acesso.
16:55	Experiência construindo agentes	Casalaina relata seus primeiros agentes de calendário e explica por que é importante considerar se ainda é necessário construir um agente específico.
19:04	De agentes personalizados a skills	O exemplo do agente de cancelamento de inscrições mostra como skills em ferramentas existentes podem substituir soluções construídas sob medida.
22:45	Segurança e conformidade em agentes	A conversa aborda riscos para startups, requisitos de ambientes regulados e o caso do chatbot da Air Canada que inventou um desconto.
26:29	Evals genéricas e rubricas específicas	Casalaina explica por que métricas genéricas podem aprovar resultados ruins e como rubricas podem avaliar regras próprias de cada tarefa.
30:42	A evolução rápida das ferramentas de IA	Ele descreve como melhorias recentes mudaram a utilidade do Copilot e defende testar novamente sistemas que antes decepcionaram.
34:24	Voz e suporte a idiomas	Casalaina comenta o uso de recursos de voz e a capacidade dos modelos de falar idiomas menos representados.
37:39	Aplicativos de programação e subagents	Ele compara interfaces de linha de comando com aplicativos e destaca a vantagem de visualizar e orientar vários subagents.
40:49	Quando o agente deve agir em nome do usuário	A escolha entre usar a identidade do usuário ou a identidade própria do agente depende da tarefa, e o usuário continua responsável pelo resultado.
44:32	Autonomia ainda é um termo exagerado	Casalaina considera a autonomia superestimada e recomenda revisar ações importantes antes de deixar um agente agir sem supervisão.

Citações

Se não consegue, encaminhe-me a alguém que consiga. — 05:30

Ele pode tentar apagar arquivos, mas não consegue, porque o usuário dele não tem permissão para isso. — 12:30

Em IA, você precisa tentar, tentar e tentar de novo, porque eventualmente funciona. — 33:19

Autônomo é o termo de IA mais exagerado agora. — 44:32

Conceitos e entidades

• Marco Casalaina (pessoa): Futurista de IA da Microsoft e entrevistado, com experiência em centrais de atendimento e construção de agentes.
• Microsoft (empresa): Empresa onde Marco Casalaina trabalha como futurista de IA.
• Agent identity (conceito): Identidade própria atribuída a um agente, distinta da identidade do usuário e passível de ter permissões limitadas.
• on behalf of mode (conceito): Modo em que o agente atua em nome do usuário e pode usar permissões associadas à identidade dele.
• human escalation (conceito): Encaminhamento do atendimento a uma pessoa quando o agente não consegue resolver a solicitação.
• grounding (conceito): Apoio das respostas do agente em informações, documentos e ferramentas relevantes para a tarefa.
• rubric-based evaluation (conceito): Avaliação de um agente com regras e critérios específicos para seu caso de uso.
• Microsoft Copilot (ferramenta): Assistente de IA da Microsoft mencionado como ferramenta usada por Casalaina no trabalho.
• Microsoft 365 Copilot (ferramenta): Versão do Copilot integrada ao ecossistema Microsoft 365, usada no exemplo de automação de tarefas.
• Microsoft Scout (ferramenta): Ferramenta descrita por Casalaina como uma variante do Copilot executada localmente e com computer use.
• Opal (ferramenta): Recurso em prévia do Microsoft 365 Copilot que provisiona uma máquina virtual para tarefas de computer use.
• GitHub Copilot app (ferramenta): Aplicativo do GitHub Copilot que permite acompanhar e coordenar vários agentes em uma interface gráfica.
• Claude Code (ferramenta): Ferramenta de programação mencionada como um dos ambientes em que Casalaina usa skills.
• Composio (empresa): Serviço descrito na conversa como um mecanismo para integrar agentes a outros sistemas.
• Air Canada (empresa): Companhia aérea citada no exemplo de um chatbot que inventou um desconto por luto.

Tradução completa (pt-BR)

00:00 um agent com identidade própria. E isso está começando a surgir. Ainda não dá para ver isso por aí. Bem, eu mesmo construí vários desses agents. Essa coisa vai ter o próprio endereço de e-mail. Vai ter a própria conta no Teams ou no Slack, ou seja lá o que for. >> Quantos agents [música] você já construiu? >> Venho construindo agents desde 2023. Sabe, quero dizer, meu cargo na Microsoft é futurista de IA. >> Você argumenta que dar suas credenciais a um agent não é apenas um desafio técnico, [música] é um risco. Conte-nos sobre o momento em que você percebeu que delegar sua identidade era a maneira errada de fazer isso. Seu assistente me manda um e-mail idiota, e você pode dizer: “Ah, é meu agent idiota”. Para começar, do ponto de vista de

00:32 segurança [música], ele não herda automaticamente todas as suas permissões. >> Qual seria um cenário de pesadelo que deixaria você apavorado? >> Mais tarde, hoje, vou me reunir com um cara de um banco, e os bancos são muito conservadores em relação a isso. Acho que há alguns anos teve o incidente da Air Canada. Acho que você é canadense. Esse cara foi ao chatbot da Air Canada e, hum, alguém da família dele tinha morrido [música], e ele perguntou se havia desconto por luto. Então, o chatbot alucinou completamente esse desconto, e ele processou a empresa e ganhou.

01:07 >> Marco, oi. >> Olá. >> Obrigado por estar aqui. >> Obrigado pelo convite. >> Onde estamos agora? >> Estamos no Salesforce Park. Então, estamos cinco andares acima da cidade de San Francisco, em SoMa, ao lado da Salesforce Tower, que é o prédio mais alto da cidade. O que este lugar significa para você? >> Bem, estou por aqui há um bom tempo. Moro na região da baía de San Francisco desde toda a minha vida adulta. Já são 27 anos. Na verdade, o prédio atrás de nós: morei naquele prédio ali por 11 desses anos. >> É.

01:38 >> Então, estou nesta região há bastante tempo. Trabalhei por aqui durante quase toda a minha vida adulta. >> Que legal. Certo, então é sábado de manhã e você está construindo algo no GitHub Copilot. Conte como é: o que um vice-presidente de produtos constrói por diversão? Bem, certo, neste fim de semana, acho que era sábado de manhã mesmo, e eu estava no app do GitHub Copilot, neste caso, e decidi que queria construir algo para testar um cenário de central de atendimento. Quer dizer, não parece algo que você construiria por diversão, mas achei divertido. Venho de

02:11 uma área de centrais de atendimento e, lá atrás, há mais de 20 anos, escrevi muitos aplicativos para centrais de atendimento e coisas do tipo. E agora as pessoas estão tentando fazer isso com modelos, com IA. Isso traz alguns desafios, e eu vivenciei alguns deles em primeira mão. Em particular, essas coisas tendem a simplesmente parar. Sabe, quando você conversa com um modelo, se está falando com um modelo em tempo real, que consegue falar ou algo assim, quando ele faz um tool call, sabe, quando ele faz uma

02:42 integração com alguma coisa, por padrão ele fica em silêncio, simplesmente para de falar e não emite nenhum som, e isso é muito desconcertante. Então, neste fim de semana, eu queria ver se conseguia resolver esse problema, e consegui. >> Nossa, isso é incrível. E o que isso significa para quem está construindo nesse espaço? >> Bem, para mim, pessoalmente, significa que estou muito mais preparado para uma palestra principal que vou dar em outubro. Na verdade, estou trabalhando com uma empresa

03:14 chamada Parlo, que atua na área de centrais de atendimento. E >> uma das coisas sobre as quais eu queria falar é justamente esse problema de que >> essas coisas ficam em silêncio, né? Não acho que a Parlo faça isso. Acho que eles também contornaram o problema, provavelmente da mesma forma que eu. Mas, sabe, eu basicamente queria falar sobre o que chamo de quatro pecados capitais dos centros de atendimento com IA. As pessoas continuam cometendo esses erros, e isso me irrita muito, especialmente quando ligo para um desses sistemas e passo por isso em primeira mão. Penso: “Ah, qual é, pessoal, vocês conseguem fazer melhor do que isso, sabe.”

03:49 >> Enfim, era isso que eu queria demonstrar. Então, de certa forma, isso é divertido para mim, acho. E acho que também é divertido sentir que estou bem preparado. >> Sim. >> Assim, embora ainda falte até outubro, tenho algum tempo para assimilar tudo isso e, quando eu fizer isso num palco, diante de centenas ou de milhares de pessoas, seja qual for o público, não vou parecer um idiota. >> Certo. Explique melhor os quatro pecados capitais. Estou curioso. >> Certo. Então, os quatro pecados capitais. Bem,

04:19 o pecado capital número um, e o mais comum, é essa coisa de ficar em silêncio durante o tool call. E, sabe, você tem esse sistema de central de atendimento com IA e, hoje em dia, ele soa realista, né? Não soa como um robô. Soa como uma pessoa de verdade. Então, o pecado capital número um, o mais comum, é que ele fica em silêncio. E isso certamente vai revelar de imediato que é IA. Você fica tipo: “Ei, ainda está aí?” E ele literalmente não responde nada. Fica quieto, né? O pecado capital número dois e o três estão relacionados. Então, o pecado capital

04:54 número dois é não identificar explicitamente o sistema como IA. Quer dizer, sinceramente, é só dizer às pessoas logo de cara: “Olha, isto é inteligência artificial; ajuste suas expectativas”. O número três é que muitas vezes não existe um caminho claro para transferir o atendimento a uma pessoa. Então, se a IA simplesmente não consegue fazer o que você quer, não me faça passar por um monte de obstáculos para chegar a alguém que possa fazer o que estou tentando fazer. E o fato é que, se você está ligando para uma central de atendimento, se está ligando para alguém, provavelmente

05:30 tentou resolver o problema por conta própria de alguma outra forma, com um app ou algo assim. E, se está ligando para alguém, é porque há um problema. Hoje, cada vez mais, a IA vai conseguir resolvê-lo. Mas, se não conseguir, me passe para alguém que consiga. E o pecado capital número quatro é a falta de fundamentação adequada. Isso está relacionado, de certa forma, ao seguinte: se a IA não consegue responder à pergunta ou fazer o que você precisa, é porque não está bem fundamentada. Você não deu a ela as ferramentas, as integrações,

06:02 o conhecimento de que precisa para fazer o trabalho. E isso vai fazer com que as pessoas acabem sendo transferidas para um atendente humano, exatamente o que você não quer. Quer dizer, o motivo de as pessoas fazerem isso é o que chamam de desvio de chamadas. Elas não querem que você fale com um atendente humano, se puderem evitar. Isso custa caro. Então, esses são os quatro pecados capitais: tool calls silenciosos, apresentar-se como humano, não permitir a transferência para um atendente humano e fundamentação ou integração inadequadas. >> Obrigado por compartilhar isso. É muito útil. E para que tipo de pessoas é útil saber sobre essas coisas? Quer dizer, por exemplo, acho que mostro isso bastante a executivos que estão otimistas com a ideia de, entre aspas, modernizar a central de atendimento. Trabalho de alguma forma com centrais de atendimento há quase 25 anos. Então, já faço isso há um tempo, e esse tem sido um tema constante. Quer dizer, desde sempre as pessoas buscam desviar chamadas e, quando entrei na área, a tecnologia era o IVR. Então, por exemplo, aqui em San Francisco, se você ligar

06:33 Que tipo de pessoa deveria saber sobre essas coisas? Quer dizer, para começar, acho que mostro isso bastante a executivos que estão otimistas com, entre aspas, “modernizar” o central de atendimento. Estou no ramo de centrais de atendimento, de uma forma ou de outra, há quase 25 anos. Então, faço isso há algum tempo, e esse tema está presente desde o começo. Quer dizer, desde sempre as pessoas têm buscado desviar atendimentos e, certamente, quando entrei no ramo, era o IVR. Por exemplo, aqui em São Francisco, se você ligar

07:04 Na United Airlines, você se depara primeiro com esse IVR. E o que você diz ao IVR? “Atendimento ao cliente. Atendimento ao cliente.” Porque o IVR é inútil, e sempre foi. Mas agora estamos indo além disso. Estamos chegando a um ponto em que você realmente pode fazer algo interessante, divertido e útil com uma IA na central de atendimento, se não fizer besteira. E você argumentou que dar suas credenciais a um agent não é apenas um desafio técnico, é um risco. Conte-nos sobre o momento em que você percebeu que delegar

07:35 sua identidade era a maneira errada de construir isso. >> Certo, espere um pouco. Então, vamos falar sobre… precisamos voltar um pouco. >> Certo, vamos lá. >> Tudo bem, se estamos falando de agents, >> há basicamente três maneiras de usar um agent hoje. E esse agent pode ser qualquer coisa. Pode ser o ChatGPT, pode ser, sabe, o Microsoft Copilot, pode ser algo que você mesmo cria. A primeira maneira, que é mais ou menos o modo padrão de usar o ChatGPT, é o modo anônimo. Ele não está realmente conectado como ninguém. Quer dizer, talvez você esteja conectado ao ChatGPT ou algo assim, mas ele não está realmente fazendo nada em seu

08:08 nome e, em geral, só responde a perguntas com base em informações públicas. Então, não vai vasculhar seus e-mails, seu calendário nem nada disso. O modo número dois é o modo em seu nome. Por exemplo, na minha vida pessoal, uso o ChatGPT nesse modo. Na minha vida profissional, uso principalmente o Microsoft Copilot e o co-work para isso, mas o modo em seu nome significa que ele está conectado como se fosse eu. E isso é muito útil. Isso significa que ele pode enviar e-mails em meu nome. Ele

08:43 pode criar eventos no calendário em meu nome. E neste fim de semana, de fato, criei alguns eventos no meu… sabe, temos um calendário familiar compartilhado. É um Google Calendar que usamos, eu, minha esposa e minha filha, para nos coordenarmos. E acrescentei algumas coisas ao calendário com essa ferramenta. Mais especificamente, minha filha ia à Parada do Orgulho de Oakland, e eu não sabia bem quando nem onde seria. Então fui ao ChatGPT e pedi: “Adicione a parada do orgulho ao meu calendário e convide todos eles”, para que

09:14 todos soubéssemos que ela estaria lá naquele horário. E funcionou. A ferramenta pesquisou, descobriu onde seria e colocou no calendário no horário certo. Ótimo. Por outro lado, se ela faz alguma besteira, faz besteira como se fosse você. Então, comprei um carro novo há cerca de um mês e meio. Comprei um carro novo. E descobri que ainda não recebi as placas do carro. Então, o concessionário… liguei para o DMV. Pelo visto, o concessionário não

09:46 enviou corretamente o pedido. Então, ele ainda está com algum status pendente. Pedi ao ChatGPT que redigisse um e-mail para o concessionário e pensei: “Certo, copie todo mundo que conheço lá, porque, sabe, será que o vendedor vai querer continuar falando comigo? Já comprei o carro.” Provavelmente não, né? Então, coloque em cópia a pessoa de contato, coloque em cópia essas pessoas, enfim. Todo mundo em cópia. Explique qual é o problema. E ele enviou o e-mail. Enviou mesmo. Depois, fui olhar o e-mail. Pensei: “Ah, seu idiota.” Ele enviou só para o vendedor, que, como eu disse, provavelmente não vai querer falar comigo, e no corpo do e-mail escreveu “CC contratos em tal endereço” e coisas assim, em vez de literalmente colocar essas pessoas em cópia. Tipo, quando digo “coloque em cópia”, quero dizer que realmente as copie no e-mail, sabe? Então, quando faz alguma besteira, faz besteira como se fosse você. Na minha vida profissional, aconteceu algo parecido na semana passada. Eu estava usando, nesse caso, o Copilot para

10:19 reservar um quarto para mim no nosso escritório da 555 California, aqui em San Francisco. Ele reservou dois quartos. Por quê? Nem sei. Recebi duas confirmações. Eu… não sei o que aconteceu. Reservou dois quartos. Então, tudo bem, é fácil desfazer, né? Nenhuma dessas coisas é catastrófica. Posso colocar as pessoas em cópia manualmente. Posso cancelar uma das reservas. Ainda assim, ele faz uma besteira. Fez besteira como se fosse eu, e tive que intervir para corrigir, certo? Hum…

10:51 o terceiro modo é um agent com identidade própria. Isso está começando a surgir. Ainda não se vê isso por aí. Bem, eu mesmo criei vários desses agents, porque posso. E você vai começar a vê-los ao longo do próximo ano. Vai começar a ver cada vez mais agents com identidade própria. O seu, por exemplo, poderia ser o agent da Julia, o assistente da Julia, ou algo assim. E provavelmente você terá um, certo? Você terá um. >> E essas coisas, esse agent terá seu próprio endereço de e-mail. Terá sua própria caixa no Teams ou no Slack, ou o que for.

11:23 E você vai lidar com ele como se fosse um usuário separado, e ele, por exemplo, enviará e-mails às pessoas como um usuário separado. Então, se ele estiver agendando este podcast comigo, por exemplo, vou lidar não com você, mas com o assistente da Julia, >> e isso tem algumas vantagens, certo? Para começar, do ponto de vista da segurança, ele não herda automaticamente todas as suas permissões, certo? Agora, quando uso um agent em meu nome, tudo bem,

11:57 ele reservou um quarto duas vezes, mas herda todas as minhas permissões. Então, poderia ter apagado um monte de arquivos se as coisas realmente tivessem saído do controle, porque eu posso apagar um monte de arquivos. Mas posso configurar meu agent, que tem identidade própria no próprio espaço de usuário, para que ele possa apagar arquivos. Só que ele não consegue fazer isso. Então, por mais que as coisas saiam do controle e por mais que ele tente apagar arquivos, não consegue, porque o usuário dele simplesmente não tem permissão para fazer isso. Do ponto de vista da segurança, isso me dá uma espécie de barreira de proteção, o que é bem útil.

12:30 Mas, do ponto de vista social, se o e-mail — digamos, um e-mail idiota —, se o seu assistente me mandar um e-mail idiota, você pode dizer: “Ah, é meu agent idiota”, né? E fica óbvio que não foi você quem mandou. >> Sim, e você sabe disso também. Sim. Então, isso dá um pouco de isolamento contra as besteiras, o que pode ser útil. >> Essa separação é boa. Por outro lado, por ter uma identidade separada, isso significa que você

13:05 — o usuário — talvez tenha que passar por alguns obstáculos, porque ele não consegue naturalmente fazer tudo o que você pode fazer nem ver tudo o que você pode ver. Então, se quiser compartilhar um documento, um vídeo ou algo assim >> em seu nome, bem, primeiro você precisa compartilhá-lo com ele, >> porque, caso contrário, ele não consegue vê-lo. É um usuário separado. >> Sim. >> Você acha que isso é um problema? Algumas pessoas não gostariam disso? Se você tiver um assistente de IA, as pessoas vão achar que você é preguiçoso ou… o que você acha que as pessoas pensam ou sentem

13:36 sobre isso? >> Ainda não sei bem como isso vai ser. Acho interessante que ontem, quando estava redigindo um e-mail com o co-work — neste caso, estou usando o M365 co-work, >> que é uma espécie de variante do co-work da Anthropic, mas também pode usar outros modelos que não são da Anthropic — >>, ele foi bastante útil. Consegue ver meu calendário, enviar e-mails e coisas assim. Então, ontem, em nome de um dos clientes com quem venho trabalhando, mandei e-mails para alguns outros executivos da Microsoft para pedir ajuda, e consegui, mas o co-work…

14:10 sobre isso? >> Ainda não sei ao certo como isso vai funcionar. Sabe, acho interessante que, ontem, por exemplo, eu estava redigindo um e-mail usando o co-work. Neste caso, estou usando o M365 co-work >>, que é uma espécie de variante do Anthropic co-work, mas também pode usar outros modelos que não são da Anthropic. >> E é bem útil. Quer dizer, ele consegue ver meu calendário, enviar e-mails e coisas assim. Então, ontem, em nome de um dos clientes com quem venho trabalhando, mandei um e-mail para alguns outros executivos da Microsoft para pedir a ajuda deles. E consegui, mas o co-work faz

14:45 essa coisa em que, no fim do e-mail, aparece “Enviado pelo Copilot” >> “Cowork”. >> E eu não gosto disso. Não sei por quê. É. Você sabe, >> eu também não gosto disso. >> Então, eu coloco meu endereço como remetente e depois apago essa parte. >> Legal. Certo. >> Antes de enviar. Certo. >> E isso também me dá a oportunidade de dar uma conferida para ver se tem alguma bobagem, né? Tipo, será que fez isso? E, às vezes, a bobagem está no próprio texto. >> Mas, às vezes, a bobagem é ele formatar mal a coisa, como não colocar quebras de linha ou algo assim. Isso acontece de vez em quando. Na

15:17 maioria das vezes, já consegui condicioná-lo para evitar esse tipo de coisa. Agora, >> você pode dar memórias a esses agents e coisas assim para condicioná-los a evitar esse tipo de problema. >> E, na maior parte do tempo, funciona. Nem sempre. Então, sabe, isso me dá a chance de dar uma olhada rápida antes de enviar para um monte de executivos. >> Então, sim, quer dizer, sou um pouco sensível quanto a isso. Não sei se outras pessoas se importariam ou sequer perceberiam. Fica bem pequeno ali embaixo da minha assinatura e coisas assim. >> Desde que vá desaparecer. >> Mas talvez, à medida que isso se tornar mais comum, sabe, simplesmente vire uma coisa

15:50 que você faz, né? Vai ser como: “Bem, é claro que tenho um assistente de agendamento. É claro que você tem uma agenda. Sabe, vou pedir para meu agent falar com o seu. Vamos almoçar.” Sabe, esse tipo de coisa. É. É. Então, acho que agora, por ser algo muito incomum, as pessoas acham muito estranho, mas todo mundo acaba se acostumando às coisas, e tudo está evoluindo de qualquer maneira, >> né? Quer dizer, do mesmo jeito que as pessoas mandam um link do Calendly ou algo assim, né? É como uma daquelas coisas em que você usa o site para marcar um horário. E acho que você me mandou um desses. Mandou? Agora, o que talvez você não saiba é que pedi para meu agent fazer isso por mim. Então, na verdade, quando marcamos nossa primeira reunião,

16:22 >> É. Então, neste caso, eu estava usando algo novo que a maioria das pessoas não tem, chamado Microsoft Scout. É uma espécie de variante do Copilot. Ele roda localmente e tem um agent de uso do computador. Um agent de uso do computador usa um computador. >> Então, você me mandou esse link do Calendly, se bem me lembro. E aí eu disse: “Certo, procure aquele e-mail da Julia e acesse o link do Calendly dela, encontre um horário na minha agenda que funcione e marque na agenda dela.” E ele fez isso. >> Que legal. E foi assim que acabamos sentados aqui hoje.

16:55 >> Isso é muito útil, porque dá menos trabalho para você também, menos decisões para tomar. >> Quer dizer, eu poderia ter aberto minha agenda, encontrado um horário, acessado a sua página e procurado um horário. Poderia ter feito tudo isso. Teria levado, sei lá, cinco minutos, né? Mas, nesses cinco minutos, eu estava fazendo outra coisa. Não sei o quê, mas, seja lá o que fosse, provavelmente era útil. >> É. >> E aí ficou pronto. >> Quantos agents você criou? >> Muitos. Muitos. Crio agents desde 2023. Então, sabe, meu trabalho na Microsoft é ser futurista de IA, e devo estar um pouco no futuro. Então, certo.

17:28 >> É, o primeiro agent que criei era, na verdade, um agent de gerenciamento de agenda. Eu costumava mostrá-lo para as pessoas no palco, e elas quase caíam da cadeira. Diziam: “Meu Deus!” Sabe o que eu costumava mostrar? A demonstração clássica que eu sempre fazia. Eu tinha o calendário escolar da minha filha e dizia ao agent: “Consulte o calendário escolar e marque as férias de primavera na minha agenda.” E ele fazia isso com bastante confiabilidade. E, para as pessoas, era tipo: “O quê? Isso é muito útil!” E é muito útil. Quer dizer, como eu disse, faço isso o tempo todo. Uso esses agents com bastante frequência para gerenciar minha agenda.

18:00 >> E quase sempre funciona, exceto que ontem houve uma pequena falha, porque vou para Riad daqui a algumas semanas e ele tentou marcar algo na minha agenda. Aí disse: “Espere, você não vai estar em Riad nessa hora.” E eu: “Vou, sim. Você está olhando o fuso horário errado. Esse jantar é às 18h30, no horário de Riad, não no horário de San Francisco. Faça direito.” E aí ele entendeu. >> Então, problemas com fuso horário ainda existem. Em 2003, isso era realmente um problema enorme. Antes, os grandes

18:30 modelos de linguagem não se davam nada bem com fusos horários. Agora melhorou bastante. >> Certo. >> Então, sim, criei, sei lá, talvez centenas de agents. >> Nossa. Então você é de nível mundial nisso agora. >> Sou bem bom nisso. É, sou bem bom nisso. E sabe, a questão é que, hoje em dia, quando você cria um agent, quando pensa em criar um agent para realizar uma determinada tarefa, a primeira coisa que precisa pensar é: preciso mesmo criar isso? Por exemplo, criei este agent

19:04 que cancela inscrições. Sabe, faço bastante coisa de marketing e coisas assim, e recebo um monte de e-mails de marketing bem ruins de todos os lugares, todos os dias, inclusive hoje de manhã. Certo. Então, em 2023 — acho que foi em 2023 ou 2024 — criei um agent para cancelar inscrições que, na época, usava uma ferramenta chamada browser use, que também era um agent de uso do computador. Ele abria um navegador. O truque era o seguinte: eu colocava os e-mails nesta pasta de cancelamento de inscrições no meu Outlook, e essa ferramenta se conectava a essa

19:35 pasta e retirava os e-mails. A questão dos links para cancelar inscrições é que não dá para cancelar a inscrição de forma programática. Não funciona bem assim. Então, no caso do Constant Contact, do Mailchimp e de todos esses outros, essas páginas são o que chamamos de renderizadas depois. Se você acessar só o link, a página em si fica meio em branco, a menos que a renderize em um navegador. Depois disso, ela renderiza o conteúdo. E cada uma dessas páginas é diferente, né? Às vezes, é preciso inserir seu endereço de e-mail; às vezes, marcar uma caixa; às vezes, marcar várias caixas. É preciso um pouco de raciocínio para cancelar a inscrição dessa

20:07 coisa. >> Então, criei esse agent, que fazia isso muito bem. Ele percorria minha pasta de cancelamento de inscrições e, para cada item, abria um navegador, fazia o que precisava, descobria como proceder e cancelava a inscrição. Ótimo. Mas, se avançarmos para hoje, como faço isso agora? Bem, não preciso mais daquele agent. Aquele agent está no meu canal do YouTube, então você ainda pode encontrá-lo, né? Na verdade, está em um repo público. Você ainda pode usá-lo, se quiser, >> mas eu não uso mais. Não preciso mais dele, porque agora há algumas

20:37 outras maneiras de fazer isso. Mas há também um recurso de prévia no M365 Copilot chamado Opel. E o Opel é um agent de uso do computador que provisiona uma máquina virtual. Basicamente, ele provisiona para você um pequeno computador na nuvem. No Opel, criei uma skill para cancelar inscrições, e essa skill basicamente descreve o processo. Ela diz: “Conecte-se ao meu Outlook”, o que ele consegue fazer. “Conecte-se ao meu Outlook, pegue estes e-mails e, para cada um, abra um navegador, acesse a página e descubra como

21:07 cancelar a inscrição e fazer isso, certo? E ele faz. E eu simplesmente executo isso toda manhã. Então, enquanto eu estava sentado aqui esperando você aparecer, coloquei um desses e-mails na minha pasta de cancelamento de inscrições. Mais tarde, isso vai ser executado. Vai ser iniciado sozinho. Vai seguir a skill. Vai cancelar a inscrição no e-mail. Eu nem vou olhar para isso. E funciona. E eu realmente não precisei construir nada para isso. Agora não preciso manter nenhuma infraestrutura funcionando. Quer dizer, isso é apenas um agent de propósito geral. Então, a questão é que agora você pode criar essas skills no Cowork, no M365 Copilot. Acho que dá para criá-las também no ChatGPT; certamente no Cowork da Anthropic há vários lugares onde você pode criar skills.

21:41 E muitas vezes, agora você consegue fazer com uma skill o que, até mesmo dois anos atrás — ou até um ano atrás —, teria precisado construir um agent para fazer. As skills também vieram dos coding agents, aliás. Tenho skills aos montes no app do GitHub Copilot, no Claude Code e coisas assim. Tenho skills por toda parte. Mas agora elas estão meio que chegando ao mundo real, por assim dizer. >> Você conhece o Composio? >> Conheço, sim. >> É? O que você sabe sobre ele? >> Bem, o Composio é um mecanismo pelo qual você pode integrar agents a outras coisas.

22:14 >> E você usa… >> Atualmente, não uso o Composio. Em geral… >> Você mesmo desenvolve suas próprias integrações? >> Bem, muitas vezes, as coisas que uso já têm uma integração. Muitas das coisas com que faço integração — bem, no ecossistema da Microsoft, por exemplo — são o Outlook, o Word, o SharePoint e o Teams. Temos uma camada de integração para isso chamada Work IQ. >> Ah. >> Então, o Work IQ é meio que a versão sem interface das aplicações da Microsoft que os agents podem usar.

22:45 E, na minha vida profissional, pelo menos, é isso que uso principalmente para fazer integrações. Então, para a maioria das coisas com que tento fazer integração… >> É. >> É. Ainda não tive necessidade de usar o Composio, por esse motivo. >> Certo. Então vamos aprofundar essa vantagem de identidade. Se você é fundador de uma startup e não tem a vantagem de possuir toda a stack — como um pacote de identidade do M365 ou do Workspace —, qual seria o cenário de pesadelo que mais assustaria você?

23:16 Bem, se você tem uma startup no espaço de agents, precisa pensar na possibilidade de seus agents saírem dos trilhos. E há algumas maneiras diferentes de isso acontecer. Você também precisa pensar no ambiente dos seus clientes. Como seus clientes vão executar essas coisas? E em que ambiente vão executá-las? Mais tarde, hoje, vou me reunir com um cara de um banco. Os bancos são muito conservadores em relação a isso, de algumas maneiras diferentes. Primeiro, do ponto de vista da segurança, como seria de esperar, eles são muito rigorosos para garantir que esses agents não saiam dos trilhos e façam coisas absurdas. Mas também há a questão da conformidade. Você precisa pensar em agents saindo dos trilhos de outra maneira: não fazendo algo inseguro nem sendo explorados, o que também é uma preocupação, mas fazendo algo que não esteja em conformidade. Algumas pessoas talvez se lembrem do incidente da Air Canada, acho que de alguns anos atrás. Acho que você é canadense, talvez se lembre: um cara foi ao chatbot da Air Canada e alguém da família dele tinha morrido. Ele perguntou se havia um desconto por luto.

23:49 Às vezes, as companhias aéreas oferecem isso. E o chatbot respondeu: “Sim, sabe, damos um desconto por luto de 15%, ou algo assim.” Mas, quando ele foi reservar a passagem, descobriu que isso não existia na Air Canada. Não era algo oferecido. Na verdade, o chatbot alucinou completamente esse desconto, e ele processou a empresa e ganhou. Acho que, principalmente, por uma questão de princípio. Quer dizer, não acho que tenha sido uma quantia enorme de dinheiro, mas, sabe, ele tinha razão, certo? >> Agora, se isso acontecesse em um banco, seria um problema, certo? Você não pode, como banco, prometer…

24:19 Por exemplo, se eu fosse um banqueiro ou gestor de patrimônio, não poderia prometer que sua carteira vai valorizar dez vezes. Não posso dizer isso. E, sabe, se você tem um gestor de patrimônio ou está lidando com um banco, todas essas ligações são gravadas e eles têm esses mecanismos de verificação de conformidade para garantir que as pessoas não digam coisas que não têm permissão legal para dizer, nem façam promessas que não podem fazer. Então, essa é uma grande preocupação para essas pessoas. Como fundador de uma startup, você precisa pensar em quem é seu público, quem são seus usuários e com o que eles vão se preocupar…

24:53 …e em como você pode lidar com essas preocupações. A identidade própria desses agents faz parte das formas de lidar com isso agora, ou pelo menos é uma das opções. Se você estiver implantando isso em um ambiente Microsoft, pelo menos, a Microsoft tem esse tipo de stack de ponta a ponta, certo? Temos o Entra como provedor de identidade, e há as próprias aplicações. Quando você cria um agent, ele ganha uma caixa de e-mail e coisas assim, porque temos o Outlook e afins. O Google também tem isso. Se você estiver fazendo isso com um sistema diferente, talvez seja uma mistura, certo?

25:24 Você pode ter o Okta como provedor de identidade, o Salesforce como host do agent, ou algo assim, e então vai precisar pensar em como juntar tudo isso e como essa identidade funciona: quais são as vantagens e quais são todos os seus desdobramentos. Isso é uma parte. A outra parte é que você precisa pensar, novamente, em como o agent está se comportando. O que vemos hoje é que nós — e praticamente todo mundo no setor — estamos avançando na direção do que chamamos de avaliação baseada em rubricas. Uma rubrica é, mais ou menos, uma regra que o agent precisa seguir. Nos últimos três anos, usamos métricas relativamente genéricas, começando por coisas como fundamentação.

25:55 Fundamentação é o oposto de alucinação. Basicamente, você forneceria a essa métrica a resposta do agent e todos os documentos que ele recuperou. Ela usaria outro LLM, um LLM adversarial, para verificar a resposta com base nos documentos e avaliar se tudo o que aparece nela veio desses documentos. Se tivesse verificado aquele caso da Air Canada, talvez o chatbot da Air Canada tivesse recuperado alguns documentos da empresa.

26:29 Ele não encontrou nada sobre uma tarifa por luto nesses documentos, mas respondeu mesmo assim, certo? Então, na avaliação de fundamentação, receberia zero, um sinal negativo. Também usamos várias outras métricas, como as métricas de comportamento do agent: conclusão da tarefa — ele concluiu a tarefa que você pediu? —, cumprimento da tarefa — fez apenas aquilo, sem fazer alguma outra coisa aleatória? —, seleção de ferramentas — escolheu as ferramentas certas? E coisas assim. Mas o ponto é que essas métricas que temos, essas métricas que…

26:59 provavelmente tenha recuperado alguns documentos da Air Canada. Não encontrou nada sobre uma tarifa por falecimento ali e, mesmo assim, afirmou isso, certo? Então, em termos de fundamentação, receberia nota zero, um voto negativo, por fundamentação. E há várias outras métricas que usamos agora, que são métricas no estilo de agent, como conclusão da tarefa: ele concluiu a tarefa que você pediu? Aderência à tarefa: ele fez apenas aquilo, sem fazer alguma outra coisa aleatória? Seleção de ferramentas: escolheu as ferramentas certas e coisas do tipo. Mas a questão é que essas métricas, essas métricas que temos, estou

27:32 — vou dizer que, tradicionalmente, usamos, embora isso tenha acontecido há apenas alguns anos. Elas são bem genéricas. Quer dizer, não sabem o que um determinado agent deveria estar fazendo. Então, por exemplo, você fala em conclusão da tarefa. Digamos que eu peça ao meu agent — digamos que eu tenha um agent de precificação de apartamentos. Isso aconteceu de verdade: um dia, conversei sobre isso com um cliente real. Então, digamos que eles tenham um conjunto de apartamentos novinho em folha, certo? Avalon ou algo assim. Eles têm todos esses apartamentos novos e têm um agent de precificação de apartamentos. Eles dão a ele uma planilha com todos os…

28:03 apartamentos, seus quartos, suas plantas e essas coisas. Agora, quero que você me devolva uma planilha com os preços. Certo. Então, agora considere a conclusão da tarefa como métrica. Você pediu uma planilha. Você deu uma planilha a ele. Pediu uma planilha de volta. Ele devolveu uma planilha, e a conclusão da tarefa vai dizer: “Está tudo certo.” >> É. >> Quer dizer, você pede uma planilha, recebe uma planilha, certo? >> Mas aí o gerente de preços de apartamentos, uma pessoa, abre a planilha, olha os preços e, digamos, vê que o preço do apartamento de dois quartos parece

28:35 bem razoável. Certo, mas o de três quartos, ah, não, alguma coisa deu muito errado aqui. Está muito fora do esperado, sabe? Mas uma métrica de conclusão de tarefa não vai ter como saber disso. Quer dizer, tudo o que ela sabe é que você pediu uma planilha e recebeu uma planilha, mas ela não sabe do que se trata a planilha, por que está fazendo isso, nada disso. Essa é uma métrica genérica. Uma métrica baseada em critérios — ou o que a Anthropic chama de métrica baseada em resultados; eles chamam de resultados, todo mundo mais chama de critérios — é diferente porque é adaptada ao caso de uso específico. E então, uma

29:07 métrica baseada em critérios seria algo como: certo, para três quartos, você precisa considerar X, Y e Z ao definir esse preço. Para um e dois quartos, você vai considerar A, B e C, seja lá o que for. Ou, para um banco, os critérios podem dizer que você precisa estar em conformidade com os regulamentos D e E. Literalmente, eu tenho um conjunto de critérios que diz isso. Ou, sabe, você não precisa apenas ser educado, mas também não pode fazer promessas ao usuário sobre X, Y e Z. E então você terá essa lista enorme de regras que esse agent precisa

29:39 seguir. E você pode executar essas regras, esses critérios, em lote. Então, pode fornecer um monte de conversas simuladas e garantir que ele não viole os vários critérios, porque agora cada um desses critérios, cada uma dessas regras, se torna uma métrica por si só, algo que você passa a medir em lote e para o qual quer atingir um determinado limite. Por exemplo, no caso de conformidade, talvez você nunca queira que ele faça uma declaração que não esteja em conformidade. >> O que é desafiador, porque é uma medida estatística. Essas coisas são não determinísticas. >> Sim. Mas há maneiras de garantir que ele não viole

30:11 isso. Enfim, essa é outra coisa em que você precisa pensar como fundador de uma startup: se está fazendo algo com IA, IA agentic e coisas assim, como garantir que isso não saia dos trilhos do ponto de vista da segurança e daquilo que você poderia chamar de alinhamento? Nos bancos, isso é conformidade, mas em outros contextos é alinhamento. E esses são os mecanismos em evolução para fazer isso. >> E agora, com mais de 20 milhões de usuários no

30:42 Microsoft 365 Copilot, já passamos da fase da novidade. Na sua opinião, o que diferencia as organizações em que o Copilot realmente funciona muito mal daquelas em que a iniciativa não avança depois do piloto? >> É, há algumas maneiras diferentes de qualquer IA ficar estagnada. Quer dizer, seja o Microsoft Copilot ou qualquer outra coisa. Uma delas é esse tipo de promessa exagerada, eu acho. Por exemplo, em 2025, o Copilot do Excel era meio ruim. Naquela época, o Copilot do Excel realmente

31:17 não fazia nada útil, nada que eu conseguisse perceber. E o problema, naquela época, era que, se você abrisse aquela barra lateral pequena do Copilot no Excel e tentasse pedir para ele criar uma tabela dinâmica ou algo assim — foi uma coisa que tentei fazer —, ele simplesmente não conseguia. Na verdade, nem sequer conseguia formatar células. Lembro que uma vez eu disse: “Ei, sabe, deixe isso com uma formatação mais agradável”, ou algo assim. E ele respondeu: “Sinto muito, Dave. Temo que não posso fazer isso.” Meu nome não é Dave, mas estou citando… sabe, >> que filme é esse? 2001: Uma Odisseia no Espaço.

31:47 >> Enfim, mas, em janeiro de 2026, isso mudou completamente. Então, o Copilot do Excel passou por uma reformulação completa e agora é extremamente útil. Na verdade, usei ontem para uma tarefa em que ele conseguiu criar tabelas dinâmicas e formatar coisas, e usei para preencher questionários enormes. Usei para preencher um questionário de 1.185 perguntas na semana passada, em cerca de uma hora. É absurdo. Quer dizer, o que

32:18 dá para fazer com isso agora é absurdo, certo? O problema é que, se alguém tivesse experimentado em dezembro de 2025, teria pensado: “Isso é inútil”, e nunca mais abriria o programa. Essa pessoa não faz ideia de que ele passou por uma mudança radical nesse meio-tempo. Então, acho que esse é um dos desafios com qualquer sistema de IA: essa questão das promessas exageradas. Muitas pessoas experimentaram o Microsoft Copilot antes de 2026 e pensaram: “Tudo bem, ele consegue responder a perguntas”, mas, por exemplo,

32:48 até há relativamente pouco tempo, ele não conseguia gerenciar sua agenda; simplesmente não conseguia. Mas, de repente, passou a conseguir, e agora faz isso muito bem. Quer dizer, como eu disse, marquei reuniões com ele. Uso o tempo todo. Então, se você não acompanha o que está acontecendo com essas ferramentas, muitas vezes não percebe o que importa. Perde o fio da meada. Enfim, às vezes se diz que a definição de insanidade é fazer

33:19 a mesma coisa duas vezes e esperar um resultado diferente. Mas, em IA, isso não se aplica muito. Em IA, você precisa continuar tentando e tentando, porque, eventualmente, funciona. Isso também aconteceu com o ChatGPT. Sabe, durante anos eu quis que o ChatGPT gerenciasse o calendário da nossa família nesse Google Calendar, algo que, sinceramente, o Google Gemini deveria conseguir fazer, mas é péssimo nisso. Quer dizer, desculpem, pessoal do Google, mas vocês precisam consertar isso. É simplesmente terrível. Enfim, mas

33:52 há alguns meses, o ChatGPT apareceu com um plug-in do Google Calendar e do Gmail que realmente funcionava bem. E agora, como eu disse, uso todos os dias para gerenciar meu calendário pessoal, o da família. É muito útil para essas coisas. Então, sabe, tentei, tentei de novo e continuei tentando com o ChatGPT e com o Gemini, que ainda me frustra. E, finalmente, consegui fazer o ChatGPT funcionar. Então, será que sou insano? Talvez. Mas ainda assim… >> É, você continuou tentando. É isso. Funcionou. >> E, observando como as pessoas usam isso

34:24 no dia a dia, em comparação com o que você imaginava que fariam, qual foi a coisa mais surpreendente que você viu? >> Na verdade, acho que ainda não vimos a coisa surpreendente. >> Acho que os recursos de voz, se você realmente os usar — por exemplo, o modo de voz no ChatGPT —, são muito bons. Ainda têm problemas. Às vezes, por exemplo, uso de manhã, enquanto faço a barba, e às vezes o ruído da barba o distrai. Na verdade, tenho pelos faciais bem grossos

34:56 mesmo. Você não perceberia olhando para mim. Mas, sabe, às vezes converso com ele, por exemplo, para investigar alguma empresa com a qual vou falar naquele dia, ou algo assim. Converso com ele e ele se distrai com certa facilidade, mas, na maior parte do tempo, funciona. E eu estava, na verdade, num Uber em Redmond. Estava indo para o aeroporto nesse Uber e descobri que meu motorista era queniano. Bem, eu estive em Nairóbi há pouco tempo. E eu disse: “Ei, você sabia que a IA consegue falar perfeitamente esses idiomas quenianos?” E ele respondeu: “Não.”

35:30 “De jeito nenhum. Você está me zoando.” Então, abri o chat com você e coloquei no modo de voz. Acontece que não, a maioria das pessoas no Quênia fala suaíli. Suaíli é meio que o idioma que você esperaria que muita gente falasse, mas há muitos idiomas menores. São meio que idiomas tribais. E ele disse que era da tribo Cuyu. E eu pensei: “Beleza.” Aí eu disse: “Certo, Chad GBT, sabe, não me lembro do que pedi para você me contar sobre alguma coisa. Me conte sobre Redmond, Washington, em Cuyo.” E ele simplesmente começou a falar em Cuyo, sem hesitar.

36:02 Com certeza dá para fazer isso, né? E eu já fiz. Quer dizer, já fiz em Cuyo e Luo, em Tita, e esses são idiomas quenianos. Já fiz em Ebo, Ha e Euroba, que são idiomas nigerianos. E, especialmente na África, as pessoas quase caem da cadeira quando ouvem isso, porque talvez esperassem suaíli. Há centenas de milhões de pessoas que falam suaíli, talvez dezenas de milhões que falem quicuio, sabe, coisas assim. E então, até mesmo para idiomas com poucos recursos,

36:33 agora você começa a ver a IA se sair muito bem. E isso abre algumas possibilidades novas realmente interessantes, porque há pelo menos 6.000 idiomas no mundo. Então, para as pessoas que talvez falem principalmente quicuio, o que isso significa? Sabe, o que isso significa para o atendimento médico delas? O que significa para a forma como lidam com os governos? Isso também acontece na Índia. Quer dizer, na Índia há 22 idiomas oficiais e muitos outros subidiomas e dialetos. Sabe, dizemos que um idioma é um dialeto com um exército. Mas, sabe, se você, se

37:08 você fala chhattisgari ou algo assim, e não há tantas pessoas que falem chhattisgari, acho que principalmente em Chhattiscar, na Índia… >> Acho que é o idioma indiano menos falado entre os 22 idiomas oficiais, mas agora o governo indiano criou essas interfaces que conseguem falar os 22, algumas delas usando nossa tecnologia. E, com isso, podem atender essas pessoas que falam chhattisgari, que falam udu ou, sabe, delegu. Muita gente fala Dell. Enfim, acho que isso realmente abre

37:39 novas possibilidades. Acho que essa é uma das capacidades mais surpreendentes da IA hoje: sua capacidade de falar — e falar bem — uma enorme variedade de idiomas humanos. Mas ainda não estamos usando isso de verdade. Não como usaremos em breve. >> Certo, vamos fazer uma rodada rápida. Hum, certo. Você construiria ou compraria? Co-pilot ou Claude? >> Bem, quer dizer, eu… não sei. >> É, Co-pilot. Essas… essas… Bem, na verdade, uso o aplicativo GitHub copilot. Há diferentes maneiras de usar o GitHub copilot. Então, o cloud code… e eu gosto do cloud

38:12 code, também uso o cloud code, e ele é ótimo. Eles fizeram um ótimo trabalho com isso. >> Mas é um CLI. É uma interface de linha de comando, e não sou muito fã de CLIs quando posso evitá-los, porque são limitantes. Quer dizer, esse formato é muito limitante. O aplicativo GitHub copilot saiu há pouco, na verdade, foi lançado em junho, e é um aplicativo, não um IDE. Então, não é como o Visual Studio, o VS Code e coisas assim, que tradicionalmente usei com o copilot. Você pode usá-lo como CLI; há um CLI do co-pilot, há um co-pilot no Visual Studio e

38:42 no VS Code, se quiser usá-lo assim. E depois há esse aplicativo independente, o aplicativo C-pilot. Acho que o aplicativo C-pilot acertou em cheio. E parte do motivo é que, muitas vezes, quando estou criando coisas agora, eu inicio — ou ele inicia — vários subagents. Então, não é mais apenas um agent construindo tudo. O cloud code também faz isso. Mas, para ver o que esses agents estão fazendo e coisas do tipo, é aí que a interface de texto de um CLI realmente começa a

39:13 não dar conta. Sabe, não é muito boa. Quer dizer, você pode digitar as palavras mágicas e perguntar: “Certo, o que os subagents estão fazendo?” e coisas do tipo. Sabe, não é lá essas coisas. Mas no aplicativo — quero dizer, no aplicativo co-pilot — há um modo de barra lateral chamado insights. Por algum motivo, chamaram de insights. E você consegue ver todos os agents listados e o que estão fazendo. E pode clicar em cada um e ver, por assim dizer, o que estão pensando. É bom demais, né? Porque, às vezes, aconteceu comigo na semana passada: eu estava fazendo

39:44 uma coisa e ele iniciou 12 agents diferentes ao mesmo tempo. Foi meio útil ver isso, porque eu estava dando uma olhada neles, sabe, queria ver se algum estava fazendo alguma besteira, para intervir. E dá para fazer isso. Você pode entrar em um dos agents e intervir com aquele agent específico ou dar uma instrução a ele, ou pode dar a instrução ao agent principal para repassá-la, se quiser. E isso costuma funcionar também. É. >> Mas, enfim, sim, o aplicativo oferece uma experiência muito mais rica. Além disso, muitas vezes, nesses CLIs — e acho que tanto o cloud code quanto o CLI do copod são culpados disso —

40:18 os atalhos de teclado comuns não funcionam como de costume. Por exemplo, para colar algo no CLI… ou, para copiar algo, você não pode simplesmente usar Ctrl+C no Windows, porque, no contexto de um CLI, isso significa interromper. Então, isso encerra o aplicativo por completo. Você tem que usar outro atalho. O CLI acaba atrapalhando seus hábitos normais. E muitas vezes, sem querer, fechei a coisa achando que só estava copiando um

40:49 texto. Aí penso: “Ah, droga.” Já o aplicativo simplesmente funciona normalmente, sabe? Copiar e colar normais, atalhos normais, como você está acostumado. A exibição também é mais agradável, e tudo mais. Então, sim, prefiro assim e sempre… >> Um agent com a sua identidade ou sete com identidades próprias? >> Um agent com a minha… Bem, depende do que estou fazendo e para que estou usando. Há coisas que quero que sejam feitas em meu nome. Às vezes, quero enviar a ele o

41:21 e-mail que mandei ontem para esses executivos da Microsoft, para me ajudar com aquele cliente de quem falei antes. Esse precisava vir de mim. Não ia ser enviado pelo meu agent assistente, pelo meu scout ou sei lá o quê. >> Esse precisava vir de mim. Mas, se for um agent que está gerenciando minha agenda, não precisa vir de mim. Especialmente se estiver reservando duas salas, e eu acabar reservando duas salas por engano quando só queria reservar uma. Aí eu poderia dizer para o cara que administra todas as salas do nosso escritório: “Ah, desculpa. Meu agent deu pau.” >> É. >> Só me deixa com uma. Está tudo bem. Aí posso colocar a culpa na coisa.

41:54 >> Então, depende do que estou usando. Certo. E, se você colocar a culpa na coisa, então a culpa não é realmente sua. >> Quer dizer, ainda é minha culpa. >> Ainda é minha culpa, né? Quer dizer, sabe, você ainda tem que assumir a responsabilidade. >> Sim. >> E cabe a você, como costumo dizer, condicionar seus agents. >> Certo. Você tem que ensinar. Tem que ensinar um pouco. Você está criando isso. >> Quer dizer, lembre-se de que agents têm skills e têm memórias. Então, você pode dar skills a eles. E eu ensinei meus agents a escrever e-mails como eu. E, sabe, parte disso, o…

42:25 O começo disso é: não escreva com cara de IA. Quer dizer, nada de travessões — o que é irônico, porque eu costumava usar muitos travessões. >> Claro. >> Pois é. E agora não posso mais usar travessão. A IA acabou com isso. Pois é. Obrigado, ChatGPT. Enfim, nada de travessões. Não coloque negrito em coisas aleatórias. Todas aquelas coisas de >> isto ou aquilo, sabe? >> Ah, sim. Ou de isto a aquilo. >> Odeio essa porcaria. Mas isso é só o começo. Quer dizer, sabe, o jeito como escrevo meus e-mails… tenho um estilo um pouquinho…

42:56 peculiar, como a maioria de nós, certo? Por exemplo, não assino meus e-mails com algo como “atenciosamente” ou coisa do tipo. Não faço isso, certo? Não faço esse tipo de coisa, certo? >> Hum, >> porque tenho uma assinatura de e-mail ali embaixo. >> Então, normalmente digo no máximo algo como “obrigado”, mas não faço um tipo de despedida. Simplesmente não faço isso, o que às vezes minha esposa me cobra. Ela acha indelicado, mas enfim. Então meus e-mails podem ser um pouco…

43:28 secos, e é assim que sempre fui. >> É. >> Mas os agents, naturalmente, querem se despedir de um jeito que eu não uso. >> Então, treinei minha IA para não fazer isso. >> Para que ela soe como eu. Então, sim. A culpa ainda é sua se as coisas derem errado, mas você pode minimizar a possibilidade disso acontecer corrigindo-a quando ela errar e dizendo: “Lembre-se disso. Crie uma

43:58 memória para não fazer isso no futuro”. Sabe, como eu disse antes, quando enviei aquele e-mail para a concessionária que não tinha feito corretamente o pedido da minha placa, e ela errou no CC, nesse caso a culpa foi do ChatGPT por ter errado o CC. Ele não criou uma memória de que, quando eu digo para copiar alguém em um e-mail, é para colocar essa pessoa literalmente na linha do CC. Isso deveria ser óbvio, mas tudo bem. >> É. >> Então espero que, no futuro, ele não faça essa besteira de novo.

44:32 >> Incrível. Estamos quase no fim. Certo. Qual é o termo de IA mais superestimado neste momento? >> Qual é o mais superestimado? “Autônomo”. “Autônomo” é o termo de IA mais superestimado neste momento porque, na maior parte, ainda estamos numa fase em que não podemos confiar de verdade no que o agent está fazendo. Então, mesmo eu, que uso agents para absolutamente tudo, ainda acho que a ideia de simplesmente permitir que o ChatGPT envie um e-mail autonomamente para a concessionária — o que eu fiz — acabou se revelando

45:07 um erro. Eu devia ter pedido para ele criar um rascunho e depois conferido, pensando: “Ah, não, seu idiota. Você não colocou o CC onde devia.” Então, >> sim. Ainda precisamos ter muito cuidado com agents autônomos, >> ou agents em piloto automático, que, ironicamente, é atualmente a marca da própria Microsoft para certos tipos de agents, e da qual não sou fã. Temos que ter muito cuidado com isso. Vamos chegar lá. Vamos chegar lá algum dia, mas ainda não chegamos. Além disso, sim, automatizar tudo — como automatizar seu trabalho, encontrar maneiras

45:39 de automatizar seu trabalho. >> Quer dizer, tudo bem automatizar seu trabalho, certo? Assim como automatizei o convite, sabe, o calendário que criamos juntos para este evento. É ótimo automatizar, >> mas fazer isso de forma autônoma. >> Certo, isso é outra coisa. Certo, >> tipo, literalmente por conta própria, >> sem supervisão. >> Sem supervisão. Certo, >> ainda são relativamente raras as ocasiões em que posso simplesmente deixar algo rodando sem supervisão. >> Bem, obrigado, Marco. Isso foi incrível. Certo. Bem, obrigado por me receber.

Transcrição original

[00:00] an agent with its own identity. And this is kind of emerging. You don’t really see this in the wild yet. Well, I have built a number of these agents myself. This thing will have its own email address. It’ll have its own like Teams box or Slack box or whatever it might be. >> How many agents [music] have you built? >> I have been building agents since 2023. You know, I mean, my my job is AI futurist at Microsoft. >> You’ve argued that giving an agent your credentials isn’t just a technical challenge, [music] it’s a risk. Take us to the moment you realize delegating your identity was the wrong way to build this. your assistant sends me a stupid email and you can be like, “Ah, it’s my stupid agent.” For one thing, from a

[00:32] security [music] perspective, it does not just automatically inherit all of your permissions. >> What is [music] a white nightmare scenario you’d be terrified of? >> Later on today, I’ll be meeting with a guy from a bank and banks are very conservative about this. I think a couple of years ago, the Air Canada incident. I think you’re Canadian. This guy went to the Air Canada chatbot and he uh somebody in his family had died [music] and he asked whether they had a grief discount. So, the chatbot completely hallucinated this discount and he sued and won.

[01:07] >> Marco, hi. >> Hello. >> Thank you for being here. >> Thank you for having me. >> Where are we right now? >> We are in Salesforce Park. So, we are five stories above the city of San Francisco uh in Soma uh next to Salesforce Tower, which is the tallest building in the city. What does this place mean to you? >> Well, I’ve been here for a while. So, I have lived in the San Francisco Bay area my entire adult life. 27 years now. Uh, in fact, the building behind us, I used to live in that building over there for 11 of those years. >> Yeah.

[01:38] >> Uh, so I have been in this area. I’ve worked in this area uh almost my entire adult life. >> That’s awesome. Okay, so it’s Saturday morning and you’re building something in GitHub pilot co-pilot. Walk me through what does a VP of products build for fun? Uh well okay so this weekend it was Saturday morning I guess actually and I was in the GitHub copilot app in this case and I decided that I wanted to build something to test a contact center scenario. I mean I mean it doesn’t sound like something you might build for fun but I thought it was fun. Uh I come from

[02:11] a contact center background and so back in the day over 20 years ago I wrote a lot of contact center applications and things like that and uh people are trying to do that now with with models with with AI. Um it does have some challenges and I have experienced some of these challenges firsthand in particular these things have a tendency to just halt. you know a model when you talk to a model if you’re talking to a model that is real time that can talk or whatever when it makes a tool call you know when it when it makes an

[02:42] integration to something by default it goes silent it just does not keep talking and it will not make any noise at all and this is very disconcerting uh so I wanted to see this weekend if I could solve this problem and I did succeed >> that’s wow that’s amazing and so what does this mean mean to people building in the space? >> Well, for me personally, what it means is that I am much better prepared for a keynote that I’m giving in October. So, I’m actually working with a company

[03:14] called Parlo, which is in the contact center space. And >> one of the things that I wanted to talk about is exactly this problem of like >> these things go silent, right? I don’t think Parlo does that. I think they have also worked around it probably in the same way that I have. Uh but uh you know I I basically I wanted to talk about the what I call the four cardinal sins of the AI context center. There are these mistakes that people keep making and it really annoys me especially when I call one of these things and I experience it firsthand. I’m like oh come on guys like >> you could do better than this you know.

[03:49] >> So anyway uh so that’s something that I was looking to illustrate. So, in a way, this is fun for me, I guess. And I guess it’s fun for me to feel like I’m well prepared. >> Yeah. >> Uh so that even though it’s all the way in October, that I have, you know, some time to kind of bake this in and so when I do this on a stage in front of hundreds or however many thousands of people are going to be there, uh that I’m not going to look like an idiot. >> Okay. Expand on the four cardinal sins. I’m curious. >> Okay. So, the four cardinal sins. Well,

[04:19] cardinal sin number one and the most common one is uh the tool call silence thing. And so the you know you have this AI context center thing and nowadays they sound realistic, right? They will not sound like a robot. They’ll sound like a real person. Uh so cardinal sin number one, the most common one is they will go silent. And this certainly will tip you off immediately that oh this is AI. Like you’re like hey are you still there? And it literally will not respond to you at all. It’ll be like it’s just quiet, right? uh cardinal sin number two and three uh are related to each other. So cardinal

[04:54] sin number two is that you don’t explicitly identify the thing as being AI. I mean you know honestly you should just tell people upfront look this is this is artificial intelligence you know moderate your expectations. Number three is uh a lot of times people will not have an obvious escalation path to a human. So, if the AI just cannot do what you wanted to do, don’t make me jump through hoops to get to somebody who can do what I’m trying to do. And the fact is, if you are calling a a call center, if you’re calling somebody, uh, chances

[05:30] are you tried to solve it yourself in some other way with an app or whatever. And so, if you’re calling somebody, there is a problem. Right now, increasingly the AI will be able to solve it. But if it can’t, then get me to somebody who can. And uh cardinal sin number four is bad grounding. And that is actually kind of related in a sense of that is to say that if the AI can’t answer the question or do the thing that you need it to do, well that means it’s not grounded well. It’s you have not given it the tools, the integrations,

[06:02] the knowledge that it needs to do its job. And that’s going to cause people to fail over to human escalation, which is exactly what you don’t want. I mean the reason that people are doing this stuff is what they call deflection. They don’t want you to talk to a human if they can avoid it. That stuff is expensive. So those are the four cardinal sins. Silent tool calls, representing itself as a human, not enabling a human escalation and bad grounding or in integration. >> A thank you for sharing that. This is very useful. And is this useful for what

[06:33] kind of people should know about these things? I mean, for one thing, I think I I show this a lot to executives who are optimistic about uh quote unquote modernizing their contact center. I I’ve been in the contact center business in some fashion for almost 25 years now. Uh so I’ve been doing this for a while and this has been a theme all along. I mean all along people have been looking for deflection and certainly when I got into the business it was the IVR. So, like here in San Francisco, if you call

[07:04] United Airlines, you’re hit first with this IVR. And what do you say to the IVR? Customer service. Customer service. Because the IVR is useless, and it always has been. Uh, but now we’re moving past that. Now we’re getting to a place where you really can do something interesting and fun and useful with an AI in the contact center if you don’t do stupid stuff. And so you’ve argued that giving an agent your credentials isn’t just a technical challenge, it’s a risk. Take us to the moment you realized delegating

[07:35] your identity was the wrong way to build this. >> Okay, wait a minute. So let let’s talk about we got we got to roll this back a little bit. >> Okay, let’s do it. >> All right, so if we’re talking about agents, >> there are kind of three ways that you can use an agent today. And that agent could be anything. It could be chat GBT, it could be, you know, Microsoft Copilot, could be something you build yourself. The first way and kind of the default mode of using like chat GPT is anonymous mode. It’s not logged in really as anything. I mean you might be logged into chat GPT or something like that but it’s not really doing anything on your

[08:08] behalf and it’s mostly kind of answering questions based on public knowledge. So it’s not going and looking in your emails or your calendar or any of that stuff. Mode number two is on behalf of mode. And so here for example I am using chat GBT at least in my personal life in an on behalf of mode. In my business life I use uh primarily Microsoft copilot and co-work for this but uh on behalf of means it’s logged in as me. Uh and that’s super useful. Uh so that means that it can send emails on my behalf. It

[08:43] can make calendar entries on my behalf. And so, uh, this weekend I did actually, uh, make some calendar entries in my, you know, we have a shared like family calendar. It’s a Google calendar that we use, uh, me and my wife and my daughter to like coordinate between us. And, uh, I added some stuff to the calendar with this thing. Specifically, my daughter was going to the Oakland Pride Parade and I didn’t really know when or where it was. And I was just I went to Chat GBT. like add the pride parade to my calendar and you know invite them so we

[09:14] all know that she was going to be there at that time and it worked. It looked it up. It found where it was and it you know put it in the calendar at the right time. Great. On the other hand uh if it does something stupid it’s doing something stupid as you. So now I bought a new car uh about a month and a half ago. So, I bought a new car. Uh, and uh, the thing is I came to find out that well, I haven’t got my license plates for this car yet. So, the dealer uh, I called the DMV. The dealer apparently did not like

[09:46] properly submit the application. So, that still in some kind of pending status. So, I had chat GBT draft an email to the dealer and uh and I was like, “Okay, copy everybody I know at this dealer like the because you know the salesperson is this person going to want to talk to me anymore. I already bought the car.” Probably not, right? So, you know, CC the contacts person, CC these whatever. CC everybody. Tell them what the problem is. And it sent the email. So, it sent the email. Then I went and looked at the email after the fact. I was like, “Oh, you idiot.” like it sent it just to the

[10:19] sales guy who like I said is probably not gonna want to talk to me and it in the body of the email it says CC contracts at whatever and you know whatever instead of literally CCing them like oh you like when I say CC I mean actually copy them on the email you know uh so when it does something stupid it’s doing something stupid as you just like in my business life something similar happened last week. I was using uh in this case I was using co-pilot to

[10:51] book my book me a room at our 555 California office here in San Francisco. It booked me two rooms. Why? I don’t even know. I got two confirmations. I I I don’t know what happened there. It booked me two rooms. So, you know, okay, easy enough to reverse, right? Neither neither of these things are fatal. I can, you know, just I can CC the people manually. I can unbook one of the rooms. still it does a stupid thing. It did a stupid thing as me and that required my intervention to fix it, right? Um

[11:23] the third mode is an agent with its own identity. And this is kind of emerging. You don’t really see this in the wild yet. Uh well, I have built a number of these agents myself because I can. Uh and you’re going to start to see it over the next year. You’re going to start to see more and more agents with their own identity. Uh so, you know, yours might be Julia’s agent Julia’s >> assistant or something like that. And you will probably have one, right? You will have one. >> And these things, this thing will have its own email address. It’ll have its own like teams box or slack box or

[11:57] whatever it might be. Uh and so you’ll be dealing with it as if it were a separate user and it will like for example email people as a separate user. So, if it’s scheduling this podcast with me, for example, like I’ll be dealing with not you, but you know, Julia’s assistant, >> uh, and that has some benefits, right? For one thing, from a security perspective, uh, it does not just automatically inherit all of your permissions, right? Now, this thing, when I use an agent on my behalf, okay,

[12:30] it booked a room twice, but it inherits all my permissions. So it could have gone and deleted a bunch of files if it really went sideways because I can delete a bunch of files. But I can set it so that my agent that has its own identity in its own user space, it can delete files. It just cannot do it. And so as it can go as sideways as it wants and it can try as hard as it wants to delete files, it can’t do it because its user just is disallowed from doing such a thing. Uh so from a security perspective that gives me a certain kind of a firewall uh that’s kind of useful.

[13:05] Uh but also from a social perspective you know if the email let’s say stupid email right your your assistant sends me stupid email and you can be like ah it’s my stupid agent right and it’s obviously you know it’s obviously not coming from you. >> Yeah and you know this too. Yeah. So it gives you a little bit of stupidity isolation which can be useful. >> Uh so that that is a nice separation to have. On the other hand because it has a separate identity that means that you

[13:36] the user you may have to jump through hoops because it can’t naturally do everything that you can do or see everything that you can see. And so you may have to if you wanted to share a document or a video or something >> on your behalf. Well, you have to share it to it first >> because otherwise it can’t see it. It’s a separate user. >> Yeah. >> Do you think that’s a bit do do some people would they not like if you have an AI assistant? Would they see you as lazy or like what’s what do you think people’s opinions about or thoughts

[14:10] about this are? >> I’m not sure yet how this is going to go. Uh you know I think it’s interesting that when I like yesterday I was composing an email using co-work and co-work is so in this case I’m using M365 co-work >> which is kind of a a variant of anthropic co-work but it can also use other non-enthropic models >> uh and it’s pretty useful I mean it can see my calendar can send emails and stuff like that. So yesterday, uh, I was kind of on behalf of one of the customers I’ve been working with, I was emailing some other executives at Microsoft to obtain their assistance, which I did succeed in, but co-work does

[14:45] this thing where at the bottom of the email, it says sent by co-pilot >> coowork. >> Uh, and I don’t like that. I don’t know because Yeah. You know, >> I don’t like that, too. >> So, uh, I make it, save it to my address, and then I delete that part. >> Cool. Okay. >> Uh, before I send it. Okay. >> And that also gives me an opportunity to just check for stupidity, right? Is it kind of like did it? And sometimes that stupidity is in the text itself. >> But sometimes the stupidity is like it mal formats the thing like it doesn’t put any line breaks or something that every now and again that happens. For

[15:17] the most part I’ve kind of conditioned it past that. Now >> you can give these agents memories and things like that to kind of condition them past this stuff. >> And most of the time that works. Not always. Um, so you know, it gives me a chance to give it a quick glance before I go send it to a bunch of executives. >> Uh, so yeah, I mean I’m a little sensitive about it. Uh, I don’t know if other people would care or even notice it. It is pretty small down there underneath my signature and stuff like that. >> As long as it’s going to drop. >> Uh, but maybe as it becomes more common, you know, it’ll it’ll just be a thing

[15:50] that you do, right? It’ll be like, well, of course I have a scheduling assistant. Of course you have a schedule. You know, I have my agent talk to your agent. We’ll do lunch. You know, that kind of thing. Yeah. Yeah. So, it’s very I think now because it’s very uncommon, people find it so weird, but every people get used to things and everything’s evolving anyways, >> right? I mean, in the same way that like people send you like a calendarly link or whatever, right? It’s like one of those things where you like use the website to book yourself. And I think you sent me one of those. Did you send me one of those? Now, what you may not know is that I had my agent do that for me. So, actually, when we booked our first meeting

[16:22] >> Yeah. Uh so in this case uh I was using something new that most people don’t have which is called Microsoft Scout. It’s a kind of a variant of copilot. It runs locally and it has a computer use agent. Computer use agent uses a computer. >> So you sent me this calendarly link if I remember correctly. And so I said okay go you know look up that email from Julia and go you know to her calendarly link find some time in my calendar that works and go book it on her thing. And it did. >> So cool. And that’s how we ended up even sitting here today.

[16:55] >> That’s really helpful cuz it’s like less thinking on your end too, less deciding. >> I mean, I could have gone to my calendar, find the time, go to your thing, go find a could have done that stuff. It would have taken me, I don’t know, five minutes, right? But I during that five minutes, I was doing something else. I don’t know what, but whatever it was, it was probably useful. >> Yeah. >> Uh, and then it was done. >> How many agents have you built? >> Uh, a lot. A lot. I have been building agents since 2023. Uh so you know I mean my my job is AI futurist at Microsoft and so I am supposed to be in the future a little bit and so okay

[17:28] >> yeah the first agent that I built was actually a calendar management agent and I used to show it on stage to people and they would almost fall out of their chairs. They’d be like oh my god you know what I used to show the canonical demo that I would always show. I had my daughter’s school calendar and I would say to the agent go look at a school calendar and book spring break in my calendar. and it did it uh pretty reliably and you know that to people they were like what that’s super useful and it is super useful. I mean as I said I do it all the time. I use these agents to manage my calendar quite frequently

[18:00] >> and almost always it works except yesterday I did have a little bit of a fail because uh I’m going to Riad in a couple of weeks and it went to go book something in my calendar and it was like wait you’re not going to be in Riad at that time and I’m like yes I am you’re looking in the wrong time zone like this is this dinner thing is like 6:30 p.m. Riyad time, not San Francisco time. Do it right. And then I figured it out. >> So time zone issues are still a thing. Back in 2003, it was a really really a thing. Like used to be that large

[18:30] language models and time zones did not get along at all. Now it’s gotten quite a bit better. >> Okay. >> Um so yeah, I have built I don’t know hundreds of agents maybe. >> Wow. So you’re you’re the world world class at it now. >> I’m pretty good at it. Uh yeah, I’m pretty good at it. Uh and you know the thing is though nowadays when you when you build an agent when you’re thinking about building an agent to do a certain task the first thing you need to think is do I need to build this thing? So for example um I built this agent

[19:04] that is an unsubscriber agent. You know I do a lot of like marketing stuff and whatever and I get a ton of like crappy marketing emails from all over the place every day including this morning. Right. So back in 2023, I think it was 2023 or 2024, I built an agent that was an unsubscriber agent that used at the time it used this thing called browser use, which was also a computer use agent. It would open up a browser. So basically the trick is I would put the emails in this unsubscribe folder in my Outlook and this thing would connect to that

[19:35] folder, pull the emails out. Now the thing about unsubscribe links is that you can’t really unsubscribe programmatically. It doesn’t really work that way. So from Constant Contact, Mailchimp, and all these other things, these pages are what we call post render. So if you go just to the link itself, the page itself is kind of blank unless you render it in a browser. And then after the fact, it kind of renders that stuff. And all of these are different, right? They’re all sometimes you got to put your email address in there, sometimes you got to check a box, sometimes you got to check multiple boxes. It requires a little bit of reasoning to unsubscribe from this

[20:07] thing. >> So I built this agent that did this quite effectively. It would just go through my unsubscribe folder and for each thing it would open up a browser, do the thing, whatever, figure it out what it needs to do, unsubscribe. Great. But now, if you fast forward to today, how I do that now, well, I don’t need that agent anymore. That agent is on my YouTube channel, so you can find it still, right? And in fact, it’s in a public repo. You can use it still if you want, >> but I don’t use it anymore. I don’t need it anymore because now there’s a couple

[20:37] of different ways that I can do this. But um there is a a preview feature also in M365 copilot called Opel. And Opel is a computer use agent that provisions a virtual machine. So it basically provisions a little computer in the cloud for you. And in Opel I have made an unsubscribe skill and in this unsubscribed skill it basically describes the process. It says go connect to my Outlook which it can do. connect to my Outlook, go grab these emails for each one, open up a browser, go to the thing, figure out how to

[21:07] unsubscribe and do it, right? And it does it. And I just run this every morning. So I like as I was sitting here waiting for you to show up, I actually put one of these emails in my unsubscribe bin. Later on, it’s going to run. It’s going to fire itself up. It’s going to follow the skill. It’s going to unsubscribe from the email. I won’t even look at it. And it works. Uh, and I didn’t really need to build anything for that. Now I don’t need to have any infrastructure up. I mean this is just a general purpose agent. So the question is now you can make these skills in co-work in M365 copilot. I think you can

[21:41] make it even in chat GPT certainly in anthropic co-work there’s lots of places now that you can make skills >> and a lot of times now you could do with a skill what you would have had to build an agent to do even two years ago even one year ago. Uh skills also, by the way, came from coding agents. And so I have skills up the wazoo in GitHub copilot app and in claude code and stuff like that. I got skills all over the place. Uh but now they’re kind of leaking into the real world, you might say. >> Do you know about composio? >> I am familiar with it. Yeah. >> Yeah. What do you know about >> Well, I mean Composio is a mechanism by

[22:14] which you can integrate agents to other things. >> And do you do you use >> I don’t presently use Composio? No. I mean generally >> do you build out your own like integrations? >> Well, I mean a lot of times the things that I’m using already have an integration. I mean a lot of the things that I’m integrating to well in the Microsoft ecosystem for example uh you know Outlook, Word, uh SharePoint and Teams and we have an integration layer for that which is called work IQ. >> Oh. >> So Work IQ is kind of the headless version of all the Microsoft

[22:45] applications that agents can use. Uh, and so, you know, at least in my business life, that’s what I’m primarily using to integrate. So, most of the things I’m trying to integrate, too. >> Yeah. >> Um, yeah. So, I haven’t really had a need to use Composio yet, uh, for that reason. >> Okay. And so, let’s push on this like identity advantage. So, if you’re a startup founder without the benefit of owning the whole stack, like no M365 or Workspace identity suite, what is the one nightmare scenario you’d be terrified of?

[23:16] Well, if you’re a startup in the agentic space, you do you need to think about your agents going sideways. And there’s a couple of different ways that they can go sideways. Uh, and you also need to think about your customers environment. So, how are your customers going to be running these things? And in what environment are they going to be running them? Uh, you know, later on today, I’ll be meeting with a guy from a bank. And banks are very conservative about this. I mean, in a couple of different ways. First of all, from a security perspective, as you might expect, they are uh very diligent about ensuring that

[23:49] these agents can’t go sideways and do crazy stuff. But there’s also the compliance angle. I mean, you have to think about these agents going sideways in a different way where they’re not doing something that’s insecure or they’re not being exploited per se, which is also a concern, but that they are doing something that is non-compliant. And some people may remember, I think a couple of years ago, the Air Canada incident. I think you’re Canadian, you might remember this where uh this guy went to the Air Canada chatbot and he uh somebody in his family had died and he asked whether they had a

[24:19] grief discount. Sometimes airlines do that. And the chatbot was like, “Yeah, you know, we give a 15% grief discount, whatever.” And then when he went to go book the ticket, he found no such thing exists in Air Canada. That’s not a thing. Actually, the chatbot completely hallucinated this discount and he sued and won. mostly I think on principle. I mean I don’t think it was a huge amount of money but I mean you know and and he kind of had a point right >> now if this were a bank now this would be a problem right this you know you cannot as a bank promise

[24:53] you know for example I cannot promise you if I was a banker or a wealth manager that your portfolio is going to rise 10 times that’s not a thing that I can say and you know if you have a wealth manager or you’re dealing with a bank they will record all of these calls and they have these compliance checker things to make sure that people aren’t saying stuff that they are not legally allowed to say, making promises that they’re not allowed to make. So that’s a major concern uh for these folks. So as a startup founder, you need to think about who is your audience, who are your users, and what are they going to be

[25:24] concerned about, and how can you mitigate those concerns? These agents with their own identity thing are part of the mitigation now, or at least that’s one of the options. Uh so at least if you’re if you’re deploying this in a in a Microsoft environment I mean Microsoft has this kind of stack through and through right we have Entra as the identity provider there are the applications themselves uh when you make an agent it gets an email box and things like that because we have outlook and stuff like that uh Google has that also if you’re doing that with a different system it might be a mishmash right you

[25:55] might have octa as the identity provider you might have salesforce over here as the agent host or whatever and then you’re going to have to think about how to put that all together and how that identity works. perks and what all the tendrils of it are. That’s part of it. And then the other part is uh you need to think about again how is the agent behaving. Now what you find today is that we and pretty much everybody in the industry are moving in the direction of what we call rubric based evaluation. Rubric is kind of a rule that the agent needs to follow. So it used to be for the last 3 years or so we have all been

[26:29] using these relatively generic metrics and they started with things like groundedness. Groundedness is the opposite of hallucination. So basically you would feed to this metric you would say here’s what the agent responded here’s all the documents it retrieved and it would use another large language model an adversarial LLM to check to check the response on the documents and say did everything in this response come from these documents. So if it had checked that Air Canada thing, it might have, you know, the Air Canada chatbot

[26:59] probably retrieved some documents from Air Canada. It did not find anything about a grief fair in there and it said it anyway, right? So groundedness, it would be like you get a zero, you get a thumbs down uh for groundedness on that. Uh and there’s a bunch of other metrics that uh that we use now which are like agent style metrics which are like task completion. Did it complete the task you asked it to do? task adherence, did it do only that thing and not some other random thing? Uh tool selection, like did it pick the right tools and stuff like that. But the thing is these metrics, these metrics that we have, I’m

[27:32] going to say traditionally have been using even though it’s only been a couple of years. They’re pretty generic. I mean, they don’t know what a given agent is supposed to be doing. So, you know, you say task completion, for example, like let’s say that I ask my agent to let’s say I have an apartment pricing agent. This is a real thing that I was talking to with a real customer one day. So, let’s say that they have a brand new apartment complex, right? Avalon or something like that. They got all these new apartments and they they have an apartment pricing agent. They give it a spreadsheet of here’s all the

[28:03] apartments and their bedrooms and their layouts and the things. Now, I want you to spit me back a spreadsheet with prices in it. Okay. So, now consider task completion. Task completion as a metric. You asked for a spreadsheet. You gave it a spreadsheet. You asked for a spreadsheet back. It gave you a spreadsheet back and task completion will be like, “You’re good.” >> Yeah. >> I mean, you ask for a spreadsheet, you got a spreadsheet, right? >> But now the apartment pricing manager, the human opens the spreadsheet up, looks at the prices, and let’s say that for the one in the two bedrooms looks

[28:35] pretty good. Okay, but the three bedrooms, oh no, like something has gone very wrong here. This is way off, you know. But task completion as a metric is going to have no idea about this. I mean, it all it knows is you ask for a spreadsheet, you got a spreadsheet, but it doesn’t know what that spreadsheet’s about, why it’s doing this, any of that stuff. This is a generic metric. A rubricbased metric or what Anthropic calls an outcomebased metric, they call it outcomes, everybody else calls it rubrics, uh, is different because it’s tailored to the specific use case. And so, a

[29:07] rubric based metric would be like, okay, so for three bedrooms, you need to consider X, Y, and Z when you’re doing this price. for one and two bedrooms, you’re going to consider A, B, and C, whatever it might be. Or for a bank, the rubric might look like you need to be compliant with regulations D and E. Literally, I actually have a rubric that says that. Uh, or, you know, you need to be not just polite, but you need to not make promises to the user about X, Y, and Z. Uh, and so you’ll have this big long list of rules that this agent must

[29:39] follow. And you can run these rules, these rubrics in bulk. And so you can give it a whole bunch of like simulated conversations and make sure that it doesn’t run a foul of the various rubrics because now each one of these rubrics, each one of these rules becomes a metric in its own right, something that you are now measuring in bulk and you want a certain threshold of them like you know say for compliance you might never ever wanted to make a non-compliant utterance. >> Uh which is challenging because it is a statistical measure. These things are nondeterministic. >> Yeah. But there are ways that you can ensure that it doesn’t run a foul of

[30:11] this. Um anyway, so uh this is another thing you need to think about as a startup founder is like if you’re doing something in AI and agentic AI and stuff like that, how do I make sure that it’s not going sideways from a security perspective and from a what you might say an alignment perspective? In banks that’s compliance, but in other contexts it’s alignment. uh and uh these are the kind of evolving mechanisms to do so >> and so with over 20 million users now on

[30:42] Microsoft 365 co-pilot we’ve moved past the novelty phase so in your view what separates organizations where co-pilot genuinely stinks from the ones that stall after the pilot >> yeah so there’s a couple of different ways that uh any AI can stall I mean this is Microsoft copilot or really anything and one of them is this kind of overpromising I guess. Uh you know for example uh in 2025 Excel co-pilot kind of sucked you know Excel co-pilot at that time it really

[31:17] did nothing useful nothing that I could discern and so the problem at that time was that if you open that little C-pilot sidebar in Excel and you tried to make it make a pivot table or something which is what something I tried to do it just it just couldn’t do it. In fact, it couldn’t even like format cells. Like I remember once I was like, “Hey, you know, make this more pleasantly formatted, whatever it was.” And it was like, “I’m sorry, Dave. I’m afraid I can’t do that. My name is not Dave, but I’m I’m quoting the you know >> what what what movie is that? 2001, A Space Odyssey.”

[31:47] >> Uh anyway, um but then in January of 2026, it changed completely. So, Excel Copilot got a complete retrofit and now it’s super massively useful. In fact, I was using it yesterday for something uh where it could totally can make pivot tables and format things and I used it to fill out whole giant questionnaires. I used it to fill out a 1,185 questionnaire last week uh in like an hour. It’s ridiculous. I mean, the stuff

[32:18] you could do with this now uh is is absurd, right? The problem is if somebody had tried this in like December of 2025, they’d be like this is useless and they will never open it up again. They have no idea that it went through this kind of sea change in the intervening time. So that is I think one of the challenges with any AI system is this idea of overpromising and a lot of people you know have tried like Microsoft Copilot prior to also 2026 and thought okay well you know it could kind of answer questions but for example like

[32:48] until relatively recently it couldn’t manage uh your calendar it just couldn’t do it. Uh but then suddenly it could and now it could do it in spades. I mean like I said I mean I made these meetings with it. I use it all the time. So if you’re not keeping a breast of what’s happening with these things, a lot of times you’re you’re missing the point. You’re missing the you’re missing the thread. Um and so sometimes it’s said that the definition of insanity is doing

[33:19] the same thing twice and expecting a different result. However, in AI that doesn’t really apply. In AI, you actually have to kind of try it and try it and try it again because eventually it does work. And this was certainly true also of Chat DPT. You know, for years I had wanted Chat DPT to like manage our family calendar in in this Google calendar thing, which honestly Google Gemini should be able to do and it’s super bad at it. I mean, sorry Google people, but you got to fix that. I mean, it’s just terrible. Anyway, but

[33:52] a couple of months ago, Chat GPT showed up with a Google Calendar and a Gmail plugin that really worked well. And now, as I said, I I do use it to manage my personal like family calendar every day. It’s super handy for that stuff. So, you know, I tried it and I tried it and I tried it again with Chat GPT, with Gemini, which still frustrates me. Uh, and finally, I got ChatG would work. So, am I insane? Maybe. But still, >> yeah, you kept trying. That’s it. It works. >> And looking at how people use it

[34:24] day-to-day versus how you imagined that they would, what’s the most surprising thing you’ve seen? Uh I don’t think that we have seen the surprising thing yet actually. Uh >> I think that the voice capabilities if you really use the voice capabilities and like for example voice mode in chat GBT it’s really quite good. Uh it still has problems. I mean sometimes I use it for example in the morning when I’m shaving and sometimes it actually gets distracted by the noise of the shaving. I mean my facial hair is quite thick

[34:56] actually. you wouldn’t know what to look at me. But, you know, uh, so yeah, sometimes I’ll like talk to it about, you know, investigate some company I’m talking to that day or whatever. I’ll talk to it and it’s a little bit overly interruptible, but for the most part it works. And so, I was uh I was actually in an Uber up in uh in Redmond. I was coming, you know, going to the airport in this Uber and uh uh my came to find out my taxi driver was Kenyan. Well, I was in Nairobi uh a little while ago. Uh, and I was like, “Hey, do you know that AI can totally speak these Kenyan languages?” And he was like, “No.” Like,

[35:30] “There’s no way. You’re you’re you’re pulling my chain.” So, I busted out my chat to you, put it in voice mode. Now, it turns out, no, most people in Kenya speak Swahili. Swahili is kind of the the the language that you would expect a lot of people to speak, but there are lots of smaller languages. They’re kind of tribal languages. And he said that he was from the Cuyu tribe. And I was like, “Okay.” So I was like, “All right, Chad GBT, you know, I I can’t remember what I I told it to tell me about something. I tell me about Redmond, Washington in Cuyo.” 100% just bust it out in Cuyo.

[36:02] Absolutely can do that, right? And I have done that. I mean, I’ve done it in Cuyo and Luo in uh Tita and like those are all Kenyan languages. I’ve done it in Ebo and Ha and Euroba, which are Nigerian languages. And especially in Africa, people really fall out of their chairs when they hear this because you might expect Swahili. There are like hundreds of millions of people that speak Swahili, maybe tens of millions that speak Kikuyu, uh, you know, things like that. And so, even for like lower resource languages,

[36:33] now you’re starting to see the AI perform pretty well. And that opens up some really interesting new possibilities for I mean, there are like 6,000 languages in the world at least. Uh, and so for people that maybe primarily speak Kikuyu, what does that mean? You know, I mean, what does that mean for their medical care? What does that mean for how they work with governments? This is true in India also. I mean, in India, you know, there are 22 official languages in India and many more sub languages and dialects. You know, we say a language is a dialect with an army. Uh but you know if you if

[37:08] you speak like chhattisgari or something like that and there’s not that many people that speak chhattisgari I guess mostly in chhattiscar in India >> uh I think that’s the the least spoken Indian language of the 22 official languages but now the Indian government has created these interfaces that can speak all 22 some of them using our technology and uh and they can approach these folks that speak chhattisgari that speak like udu or speak you know well delegu lots of people speak Dell. So anyway, I think that really opens up

[37:39] some new possibilities. So that’s I think one of the more surprising capabilities of AI today is its ability to speak and speak well a huge variety of human languages, but we’re not really using it yet. Not like we will soon. >> Okay, let’s do some rapid fire. Um, okay. Would you build it or would you buy it? Co-pilot or Claude? >> Well, I mean I I don’t know. >> Yeah, co-pilot. These are these are these are well I use I use GitHub copilot app actually. So there are different ways that you can use GitHub copilot. So cloud code and I like cloud

[38:12] code and I have cloud code too and that’s that’s great and they did a great job with that >> but it is a CLI. It’s a command line interface and I am not a huge fan of CLIs when I can avoid it. Uh because they’re limiting I mean that form factor is really limiting. Now the GitHub copilot app came out just recently actually it just went G in June and it’s an application uh which is not an IDE so not like Visual Studio VS code things like that things that I have traditionally used copilot you can use it as a CLI there is a co-pilot CLI there is a co-pilot in Visual Studio and

[38:42] VS Code if you want to use it that way and then there’s this standalone application which is the C-pilot app and I think the C-pilot app absolutely nailed it and part of the reason for that is uh Well, a lot of times when I’m building things now, I will spawn or it will spawn a whole bunch of sub agents. So, it it’s not just one agent building anymore. Cloud code does this, too. Um, but to see what those agents are doing and stuff like that, this is where the textbased interface of a CLI really kind

[39:13] of falls down. You know, it’s not great. I mean, you you can you can say the magic keywords in there and be like, okay, what are the sub agents doing and stuff like that? You know, that’s not wonderful. But in the app, I mean, in the co-pilot app, there is a little sidebar mode called insights. For whatever reason, they called it insights. And you can actually see all the agents enumerated and what they’re doing. And you know, you can click into them and stuff like that, what they’re thinking, so to speak. And it’s freaking great, right? Because I mean, sometimes it happened to me last week. I was doing

[39:44] something and it spawned 12 different agents at the same time. Uh that was kind of useful to see because and I and I kind of was looking through them because you know I kind of want to see is anybody doing something stupid you know and intervene and you can do that. You can actually go into one of the agents and and intervene with that specific agent or give it an instruction or you can give the instruction to the master agent to pass it along over there if you want and that usually works too. Yeah. >> Uh but anyway, yeah, the app it just gives a much richer experience. Plus, you know, a lot of times in these CLIs and uh I think both cloud code and copod

[40:18] CLI are guilty of this. Your normal hotkeys don’t work normally. So like to paste something into the CLI uh you can’t just or to copy something you can’t just use control C uh in Windows uh because that means break in a CLI context. So that will stop the app altogether. You have to use a different hotkey. Uh so the CLI kind of breaks your normal patterns. And so you know a lot of times I’ve accidentally quit the thing thinking I was just copying some

[40:49] text like ah damn it you know. Uh whereas the app just works normally you know normal copy paste normal hotkeys just like you’re used to. Uh more pleasant rendering and everything. And so yeah, I just I prefer it that way and I always have >> one agent with your identity or seven with their own >> uh one agent with my Well, it depends on what I’m doing and what I’m using it for. Uh you know, so there are things that I do want to do on my behalf. Sometimes I do want to send it like the

[41:21] email that I sent to these Microsoft executives yesterday to help me with this customer I was talking about earlier. That needed to come from me. that was not going to come from my assistant agent or my scout or whatever. >> That needed to come from me. Uh but if it’s like an agent that is managing my calendar, that does not need to come from me. Especially if it’s booking two rooms, then I can, you know, two rooms by accident when I just wanted to book one. Then I could tell the guy who runs all the rooms at our office like, “Ah, sorry. My agent went broke.” >> Yeah. >> Just give me one. I’m good. Uh so then I can blame it on the thing.

[41:54] >> So it depends on what I’m using it for. Okay. And if you blame it on the thing, then it’s not really your fault. >> I mean, it’s still my fault. >> It’s still my fault, right? I mean, you know, you still got to own it. >> Yes. >> Uh, and it’s up to you to, as I say, condition your agents. >> Okay. You got to teach it. You have to teach it a little. You’re growing it. >> I mean, bear in mind, agents have skills and agents have memories. And so, you can give it skills. And I have given my agents skills on how to write an email like me. And you know, part of that, the

[42:25] beginning of that is don’t be AIish. That is, you know, no M dashes, which is ironic because I actually used to use M dashes a lot. >> Sure. >> Right. And now I can’t use an M dash anymore. Freaking AI killed it. Right. Thanks, Chat DVD. Uh anyway, so uh no M dashes. Don’t bold print random stuff. All that stuff that >> this or that, you know. >> Oh yeah. Or from this to that. >> I hate that crap. Uh that’s just the beginning of it, though. I mean, you know, the way that I write my emails, I mean, I have a a little bit of an

[42:56] idiosyncratic style as most of us do, right? So, for example, I don’t write a signature on my email like, you know, sincerely, you know, or whatever. I don’t do that best, right? I don’t do that stuff, right? >> Um, >> because I have a an email signature at the bottom there. >> And so, I’ll usually say no more than like thanks, but not like a sign off kind of a thing. And I don’t I just don’t do that. uh which my wife sometimes takes me to task for. She thinks it’s impolite, but whatever. So, my emails can be a little

[43:28] bit tur and that’s just how I’ve always been. >> Yeah. >> But the the agents, the AI naturally wants to sign off in this way that I don’t do. >> So, I have conditioned my AI not to do that. >> Uh so that it comes off sounding like me. And so, uh yeah. So you you it’s still your fault if it goes sideways, but you can minimize the possibility of that by correcting it when it goes wrong and telling it remember this. Say make a

[43:58] memory not to do this thing in the future. So you know, like I said earlier, uh when I sent this email to uh my car dealer that hasn’t properly filed for my license plate and it did the CC wrong, this is chatb’s fault in this case that it did the CC wrong. didn’t actually make a memory that when I tell you to copy somebody on an email, you are literally putting it on the CC line. This should have gone without saying, but okay. >> Yeah. >> Uh and so hopefully in the future it will not do that stupid thing again.

[44:32] >> Awesome. Almost there. Okay. What’s the most overhyped AI term right now? >> What is the most overhyped? Autonomous. Autonomous is the most overhyped AI term right now because uh you know for the most part we’re still in this phase where we can’t really trust what the agent is doing. And so even for me where I run agents up the wazoo for all the things. Uh the idea of just allowing chat GBT to autonomously send an email to my car dealer which I did do turns

[45:07] out to have been a mistake. I should have made it make a draft and then looked at the draft and been like, “Oh, no, you idiot.” Like, you didn’t put the CC line where you’re supposed to. So, >> uh, yeah. So, we still have to be really careful about autonomous agents, >> uh, or autopilot agents, which ironically at the moment is Microsoft’s own branding for certain types of agents, which I’m not a fan of. Uh, we have to be very careful about that. We will get there. We’ll get there eventually, but we’re not there yet. Also, yeah, automating everything like automating your work, like finding ways

[45:39] to automate your work. >> I mean, it’s okay to automate your work, right? Just like I automated the invite, you know, that that we made together the calendar for this uh event itself. Cool to automate, >> but to do it autonomously. >> Okay, that’s okay, that’s different. Okay, >> like literally like on its own >> fire and forget. >> Fire and forget. Okay, >> there it’s relatively rare the occasion when I can fire and forget even still. >> Well, thank you, Marco. This is incredible. All right. Well, thank you for having