Microsoft Work IQ pode reduzir o uso de tokens de IA em 80%

Autoria: Dewain Robinson - The Agent Dude · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Microsoft Work IQ could cut AI token usage by 80% · Canal: Dewain Robinson - The Agent Dude · 02:32 · Assistir no YouTube

Tópicos: Agentes de IA, Engenharia de prompts e contexto, Inferência e otimização de modelos, Mercados e economia

Resumo

O vídeo apresenta o Work IQ, da Microsoft, como uma forma de fornecer contexto pré-calculado a agentes de IA a partir dos dados do Graph. Segundo o apresentador, isso pode reduzir em cerca de 80% os tokens necessários para obter informações semelhantes, diminuindo custos e processamento. Ele também comenta que a Microsoft estaria preparando capacidades de escrita, além da leitura, e que o serviço já estaria sendo disponibilizado de forma geral. Por fim, destaca a cobrança em unidades chamadas Copilot credit, em vez de oferecer o recurso como mais um SKU.

Pontos-chave

O Work IQ fornece contexto pré-calculado, evitando que a IA precise fazer toda a análise do zero.
O apresentador afirma que o recurso pode reduzir em cerca de 80% o uso de tokens para derivar informações dos dados do Graph.
A redução do consumo de tokens pode ajudar organizações a otimizar gastos e tornar agentes de IA mais rápidos e eficientes.
A Microsoft estaria buscando monetizar o contexto disponível em seu Graph.
Segundo informações citadas no vídeo, a Microsoft pretende acrescentar capacidade de escrita, além do acesso somente de leitura, a partir de 30 de setembro.
O modelo de compra mencionado usa unidades chamadas Copilot credit, em vez de mais um SKU.

Capítulos

Início	Capítulo	Resumo
00:00	Apresentação do Work IQ	O apresentador introduz o Work IQ e o contexto de agentes de IA que usam dados do Graph.
00:30	Contexto pré-calculado e redução de tokens	O Work IQ é descrito como uma forma de reduzir em cerca de 80% os tokens necessários para obter informações dos dados do Graph.
01:31	Disponibilidade e capacidade de escrita	O apresentador comenta a disponibilização geral do recurso e a possível inclusão de capacidade de escrita a partir de 30 de setembro.
02:02	Monetização por Copilot credit	O vídeo destaca a monetização do contexto do Graph e a cobrança em unidades chamadas Copilot credit.

Citações

Isso permite otimizar nosso gasto com tokens. — 00:30

Você pode obter uma redução de cerca de 80% na quantidade de tokens necessária. — 01:01

Não será apenas somente leitura, mas também terá capacidade de escrita. — 01:31

Eles estão buscando simplificar a forma de compra para unidades de medida, chamadas Copilot credit. — 02:02

Conceitos e entidades

Work IQ (ferramenta): Recurso da Microsoft apresentado como uma forma de fornecer contexto pré-calculado a partir de dados do Graph.
Microsoft (empresa): Empresa que está desenvolvendo e buscando monetizar o Work IQ.
Graph API (ferramenta): API mencionada como parte do contexto de agentes de IA que trabalham com dados do Graph.
Copilot credit (conceito): Unidade de medida citada como forma de compra do serviço.
token (conceito): Unidade cujo consumo, segundo o vídeo, pode ser reduzido com o contexto pré-calculado do Work IQ.
AI agents (conceito): Agentes de IA que podem usar informações pré-calculadas para executar tarefas com menos processamento.

Tradução completa (pt-BR)

00:00 Boas-vindas ao CloudWars AI Minute. Eu sou seu apresentador, Dwayne Robinson. Vamos falar sobre o que seu chefe espera que você saiba sobre o que está acontecendo no mundo da IA. E hoje o assunto é o Work IQ. Estamos começando a ver a Microsoft fazer movimentos muito interessantes dentro do Work IQ. Já vimos AI agents fazendo muitas coisas realmente interessantes, especificamente em torno da Graph API. Mas a grande diferença aqui é que a Microsoft realmente está

00:30 buscando monetizar a capacidade de oferecer contexto pré-carregado. Isso nos permite otimizar nosso gasto de tokens e não exige que uma IA faça toda a análise para depois voltar e nos fornecer as informações. Elas já são pré-calculadas e simplesmente entregues a você. E o que estamos começando a ver é que, com o Work IQ, é possível reduzir em cerca de 80% a quantidade de tokens necessária para

01:01 extrair o mesmo tipo de informação da implementação do seu gráfico de dados. Isso é realmente poderoso para organizações que buscam otimizar o gasto de tokens. Também significa que haverá muitas oportunidades para a Microsoft monetizar isso de uma forma que pode ser bastante eficaz. E muitos dos principais provedores de IA e as organizações que estão criando agentes do tipo co-work

01:31 vão querer muito poder fazer isso para reduzir esse custo adicional de tokens. Agora, estamos vendo que eles já estão disponibilizando isso para todos e coisas do tipo. E, voltando ao assunto, ou melhor, chegando a 30 de setembro, vamos ver que eles também estão pensando em tornar isso não apenas somente leitura, mas também permitir gravação, de acordo com tudo o que estamos vendo nas notícias. Então, este será um mundo muito interessante à medida que a Microsoft aposta

02:02 na capacidade de monetizar todo esse contexto que tem em seu gráfico. Outra coisa um pouco interessante sobre isso é que eles não ofereceram isso como mais um SKU. Na verdade, estamos vendo que buscam simplificar a forma de compra, para que seja feita apenas por unidades de medida, que eles chamam de crédito do Copilot. Então, é muito interessante e vale a pena continuar acompanhando, enquanto vemos cada vez mais organizações buscando

02:32 encontrar maneiras de otimizar o gasto de tokens e fornecer informações pré-calculadas aos AI agents, para torná-los mais eficazes e capazes de fazer o que precisam fazer, com menos computação e mais rapidez. >> [música]

Transcrição original

[00:00] Welcome to the CloudWars AI Minute. I’m your host Dwayne Robinson. We’re going to go over the things that your boss expects you to know with what’s going on in the AI world. And today, the topic is going to be Work IQ. And we’re actually starting to see Microsoft make very interesting moves inside of Work IQ. We already seen AI agents doing a lot of really interesting things, specifically around the Graph API. But the big difference here is Microsoft is really

[00:30] looking to monetize the ability for them to be able to do pre-preloaded context. And so this allows us to be able to optimize our token spend and not require an AI to go do all the analysis to be able to come back and give you the information. It’s already pre-calculated and just provided to you. And what we’re starting to see is that we’re starting to see that with Work IQ, you can get about an 80% reduction in the amount of tokens that it require for you to go

[01:01] derive the same sort of information out of your graph implementation of your data. So this is really powerful for organizations who’s looking to optimize their token spend. It also means that there’s going to be a lot of power coming into Microsoft around the ability for them to monetize this in a way that could be quite effective. And a lot of the major AI providers and the organizations building co-work type

[01:31] of agents are going to really want to be able to do this to reduce that token overhead. Now, we’re seeing that they’re already making it generally available and things like that. And back on or coming up on September 30th, rather, we are going to see them even look to make it where it’s not just read-only, but write capability according to all the uh, things that we’re seeing in the news. So, this is going to be a very interesting world as Microsoft leans

[02:02] into the ability to monetize all of this context that they have from their graph. The other thing that’s a little interesting about it as well is that they didn’t offer it as yet another skew. We’re actually seeing them look to simplify the way that you purchase to just buying units of measure, which they refer to as a Copilot credit. So, it’s very interesting and it’s a good place to continue to watch as we continue to see more and more organizations looking

[02:32] to find ways to be able to optimize token spend and provide AI agents pre-calculated information to make them more effective and able to do what they need to do and do it for less and quicker compute. >> [music]