Pular para o conteúdo

Prompt Columns: insights de IA pré-computados, prontos para cada agente

Ver no idioma original →

Autoria: Microsoft Power Platform · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Prompt Columns: Pre-computed AI insights, ready for every agent · Canal: Microsoft Power Platform · 06:19 · Assistir no YouTube

Tópicos: Agentes de IA, Automação de tarefas e workflows, Dados, bancos de dados e embeddings

Prompt Columns analisa dados descritivos e gera insights antecipadamente, armazenando-os como campos junto aos dados. No exemplo apresentado, notas de reuniões com clientes são usadas para identificar destaques, riscos e próximas ações recomendadas. Como os prompts só são executados quando os dados de entrada mudam, agentes podem consultar os insights sem processar todas as notas em tempo real, com respostas mais rápidas e escaláveis. A funcionalidade está disponível no Dataverse, e o vídeo também antecipa o preenchimento de registros históricos e novas opções de entrada e saída.

  • Prompt Columns gera insights a partir dos dados e os armazena em campos reutilizáveis.
  • A análise antecipada evita que o agente tenha de processar grandes volumes de notas brutas a cada pergunta.
  • Os prompts são executados quando os dados de entrada são adicionados ou alterados.
  • Os filtros permitem escolher quais registros serão processados, como os de um cliente específico.
  • Os exemplos de campos incluem destaques, pontos negativos e próximas ações priorizadas por urgência.
  • Os insights podem ser consultados por agentes ou usados em fluxos do Power Automate para enviar e-mails e criar tarefas.
  • Prompt Columns está disponível de forma geral no Dataverse.
  • O preenchimento de registros históricos e novas opções de entrada e saída são apresentados como recursos futuros.
Início Capítulo Resumo
00:00 O desafio de analisar dados em tempo real As apresentadoras explicam por que raciocinar sobre grandes volumes de notas brutas pode ser lento e difícil de escalar.
01:34 Configuração das Prompt Columns O vídeo mostra como criar colunas do tipo prompt, configurar instruções e filtros e gerar destaques, riscos e próximas ações.
03:41 Insights gerados em um aplicativo Uma nova reunião é registrada e as colunas exibem os insights gerados, que ficam disponíveis para uso posterior.
04:14 Perguntas respondidas por um agente Um agente consulta os insights para identificar contas de risco e recomendar ações para a equipe de contas.
05:48 Disponibilidade e próximos recursos As apresentadoras confirmam a disponibilidade geral no Dataverse e antecipam o preenchimento de registros históricos e novas opções.

O resultado foi lento a ponto de ser inutilizável, e nenhum aumento da context window resolveu isso. — 01:03

Prompt Columns gera insights importantes com antecedência e os armazena junto aos dados. — 01:03

Prompt Columns só é executado quando os dados de entrada mudam. — 03:08

O agente pode raciocinar sobre os insights gerados com antecedência, em vez de processar todas as notas brutas. — 04:14

  • Prompt Columns (ferramenta): Recurso que usa prompts para gerar insights em campos de dados e atualizá-los quando os dados de entrada mudam.
  • Dataverse (ferramenta): Plataforma de dados na qual Prompt Columns está disponível de forma geral.
  • Power Automate (ferramenta): Serviço citado como forma de usar os insights para enviar e-mails ou criar tarefas automaticamente.
  • LLM (conceito): Modelo de linguagem citado como capaz de raciocinar sobre grandes volumes de dados descritivos.
  • Microsoft (empresa): Empresa na qual Insha Arora e Vaishanavi Mirapurkar trabalham e que apresenta o recurso no vídeo.
  • Insha Arora (pessoa): Engineering Manager na Microsoft e apresentadora do vídeo.
  • Vaishanavi Mirapurkar (pessoa): Product Manager na Microsoft e apresentadora do vídeo.

00:00 [Música] INSHA ARORA: Oi, sou Insha, gerente de engenharia na Microsoft. VAISHANAVI MIRAPURKAR: E eu sou Vaishanavi, gerente de produto na Microsoft. INSHA ARORA: Com LLMs mais poderosos, os agents estão ficando melhores em raciocinar sobre grandes volumes de dados descritivos.

00:32 Mas fazer isso na hora, de maneira bruta, é mesmo a melhor abordagem? VAISHANAVI MIRAPURKAR: Esse é exatamente o desafio que um dos nossos clientes enfrentava. À medida que a demanda pelos produtos explodiu, também se acumulou matéria-prima em suas maiores contas. Como anotações de reuniões com clientes, análises de contas, conversas sobre escalonamentos e feedback sobre produtos. As equipes de vendas e de contas queriam insights para responder a perguntas como: quais contas estão em risco? O que a equipe de contas deve fazer em seguida para uma conta específica? Um agent poderia responder a essas perguntas na hora,

01:03 mas só fazendo um raciocínio complexo sobre um grande volume de anotações brutas durante a execução. O resultado era lento demais para ser útil, e nenhuma quantidade de context window resolvia isso. INSHA ARORA: É aqui que as colunas de prompt mudam o jogo. Em vez de analisar grandes volumes de dados não processados toda vez que um agent precisa raciocinar, as colunas de prompt geram insights importantes com antecedência, como o risco da conta e ações recomendadas, e os armazenam junto aos dados como campos de primeira classe. O resultado é uma resposta mais rápida, uma solução escalável,

01:34 e insights consistentes que a equipe pode reutilizar em escala. VAISHANAVI MIRAPURKAR: Certo, então vamos ver como podemos resolver o problema do nosso cliente com colunas de prompt. Este é o aspecto do conjunto de dados. É uma coleção extensa de anotações de reuniões, organizadas por contas de clientes, datas e responsáveis pelas contas. É muito fácil criar colunas de prompt. Basta criar uma nova coluna, adicionar o nome dela — e selecionar prompt como tipo de dado.

02:08 Em seguida, você pode configurar o prompt em linguagem natural, assim. Também pode testar o prompt e escolher o modelo. Você pode aplicar filtros para escolher os registros nos quais deseja executar o prompt. Neste caso, por exemplo, pode ser o nome de um cliente específico, como Contoso.

02:38 Já criamos três colunas de prompt para analisar as anotações das reuniões dos nossos clientes. Vamos dar uma olhada nelas. Os destaques da reunião registram sinais positivos, como feedback do cliente, resultados bem-sucedidos, valor comercial alcançado etc. Os pontos negativos da reunião identificam riscos, preocupações ou obstáculos potenciais. E as próximas ações recomendadas apresentam os acompanhamentos de maior impacto,

03:08 priorizados por urgência, como baixa, média ou alta. INSHA ARORA: Talvez você esteja se perguntando quando o prompt é executado. As colunas de prompt são executadas somente quando os dados de entrada mudam. Por exemplo, quando um novo registro de reunião é adicionado ou as anotações de reunião são atualizadas em um registro existente, as anotações são analisadas automaticamente para gerar Destaques, Pontos negativos e próximas etapas recomendadas. Se os dados de entrada relevantes não mudarem, a coluna de prompt não será executada.

03:41 Vamos adicionar um novo registro usando o aplicativo e ver a coluna de prompt em ação. Aqui temos um aplicativo orientado por modelo, criado para o histórico de reuniões com clientes. Vou adicionar algumas anotações de reunião para Account Health Insights Demo e clicar em “Salvar”. Como você pode ver, agora temos Destaques, Pontos negativos e ações recomendadas para a reunião, gerados pelas nossas colunas de prompt. O pequeno ícone aqui indica que estes são campos gerados por IA. Esses insights gerados por IA agora estão disponíveis na nossa tabela para uso posterior, como o raciocínio de um agent.

04:14 VAISHANAVI MIRAPURKAR: Agora, quando um agent precisa responder a uma pergunta, ele pode raciocinar sobre os insights gerados com antecedência pelas colunas de prompt, em vez de processar todas as anotações brutas das reuniões. O resultado é uma experiência mais rápida e escalável. Vamos ver isso em ação. Criei aqui um agent de anotações de reuniões, usando a tabela de histórico de reuniões com clientes como fonte de conhecimento. Vamos abrir esse agent e fazer algumas perguntas.

04:45 Quais contas apresentam mais riscos? Foi bem rápido. Parece que o gerente de contas de Contoso, Fabrikam e Northwind precisa investigar esses riscos o quanto antes. Vamos ver outra pergunta. O que a equipe de contas deve fazer em seguida para Contoso? Como você pode ver, há alguns itens de alta prioridade, como melhorar os SLAs de suporte, configurar monitoramento aprimorado e criar um canal de suporte dedicado.

05:17 Também há alguns itens de média e baixa prioridade na lista, além de uma conclusão importante no final. INSHA ARORA: Ótimo, isso é bem detalhado e rápido. Um gerente de contas pode compartilhar isso com a equipe e tomar medidas imediatamente. Tudo isso graças aos insights gerados e persistidos como dados pelas colunas de prompt. Eles podem ser usados de muitas outras maneiras, como em um fluxo do power automate para enviar um e-mail à equipe de contas quando houver um ponto negativo crítico ou para criar tarefas com base nas próximas etapas recomendadas.

05:48 VAISHANAVI MIRAPURKAR: Isso é incrível. Como você pode ver, Prompt Columns é um recurso bastante poderoso, que agora está disponível de forma geral no Dataverse. Talvez você esteja se perguntando: o que vem a seguir? Estamos trabalhando no preenchimento retroativo dos registros históricos, que será lançado em breve. Aqui está uma pequena prévia. Agora posso selecionar a opção “Aplicar a registros existentes e novos” aqui, o que inicia o preenchimento retroativo dos meus registros históricos. Também teremos em breve mais opções de entrada e saída, como texto com várias linhas, conjuntos de opções, rich text, arquivos e imagens.

06:19 Aqui está o código para começar a criar suas próprias colunas de prompt. INSHA ARORA: Obrigada por assistir e boa criação!

Transcrição original

[00:00] [ Music ] INSHA ARORA: Hi, I’m Insha, Engineering Manager at Microsoft. VAISHANAVI MIRAPURKAR: And I’m Vaishanavi, Product Manager at Microsoft. INSHA ARORA: With more powerful LLMs, agents are getting better at reasoning over large volumes of descriptive data.

[00:32] But doing that on the fly, in a brute force way, is that really the best approach? VAISHANAVI MIRAPURKAR: That’s exactly the challenge one of our customers had. As demand for their products exploded, so did the raw material piling up across their largest accounts. Like customer meeting notes, account reviews, escalation threads, and product feedback. Their sales and account teams wanted insights to answer questions like, which accounts are at risk? What should the account team do next for a specific account? An agent could answer these on the fly,

[01:03] but only by doing complex reasoning on large volume of raw notes at run time. The result was unusably slow, and no amount of context window fixed it. INSHA ARORA: This is where prompt columns change the game. Instead of analyzing large volumes of unprocessed data every time an agent needs to reason, prompt columns generate key insights in advance, such as account risk and recommended actions, and store them alongside the data as first class fields. The result is a faster answer, scalable solution,

[01:34] and consistent insights the team can reuse at scale. VAISHANAVI MIRAPURKAR: All right, let’s see how we can solve our customer’s problem with prompt columns then. This is what the data set looks like. It’s an extensive collection of meeting notes across customer accounts, dates, and account owners. It’s very easy to create prompt columns. All you do is create a new column, add your column’s name – – and select prompt as a data type.

[02:08] You can then configure your prompt in natural language, like so. You can also test your prompt and choose your model. You can apply filters to choose the records you want to run the prompt on. Like in this case, it can be a specific customer name, like Contoso.

[02:38] We’ve already created three prompt columns for our customers to analyze the meeting notes. Let’s take a look at them. Meeting highlights capture positive signals, like customer feedback, successful outcomes, business value achieved, etc. Meeting lowlights identify potential risks, concerns, or blockers. And recommended next actions have the most impactful

[03:08] follow-ups prioritized by urgency, like low, medium, or high. INSHA ARORA: You might be wondering when the prompt runs. Prompt columns execute only when the input data changes. For example, when a new meeting record is added or meeting notes are updated on existing record, the notes are automatically analyzed to generate Highlight, Lowlight, and recommended next steps. If the relevant input data doesn’t change, the prompt column does not execute.

[03:41] Let’s add a new record using the app and see prompt column in action. Here we have a model-driven app built for customer meeting history. I’m going to go ahead and add some meeting notes for Account Health Insights Demo, and “Save”. As you can see, we now have meeting Highlights, Lowlights, and recommended action generated by our prompt columns. The little icon here is indicating that these are all AI-generated fields. These AI-generated insights are now available in our table for further use, such as reasoning by an agent.

[04:14] VAISHANAVI MIRAPURKAR: Now when an agent needs to answer a question, it can reason over the insights generated by prompt columns in advance instead of processing all of the raw meeting notes. The result is a faster and more scalable experience. Let’s see this in action. I have a meeting notes agent created here with the customer meeting history table as its knowledge source. Let’s move on to this agent and ask some questions.

[04:45] Who are the riskiest accounts? That was pretty fast. Looks like the Account Manager for Contoso, Fabrikam, and Northwind needs to dig into these risks ASAP. Let’s see another one. What should the account team do for Contoso next? So you can see there are some high-priority items, like improve support SLAs, set up enhanced monitoring, and dedicated support channel.

[05:17] There are also some medium-priority and low-priority items on the list, along with a key takeaway in the end. INSHA ARORA: Great, this is pretty detailed and fast. An account manager can share this with their team and take actions immediately. All thanks to insights generated and persist as data by Prompt Columns. They can be used in so many other ways, like having a power automate flow to send an email to the account team when there is a critical lowlight or create tasks by recommended next steps.

[05:48] VAISHANAVI MIRAPURKAR: That’s awesome. As you can see, Prompt Columns is a pretty powerful feature, which is now generally available in Dataverse. You might be asking, what’s next? We have backfilling historical records, which is coming out real soon. Here’s a little sneak peek of that. I can now select “Apply to existing and new records” option here, which starts backfilling my historical records. We also have more input and output options, like multiple lines of text, choice sets, rich text, files and images coming out soon as well.

[06:19] Here is the code to start building your own prompt columns. INSHA ARORA: Thanks for watching, and happy building!