CEO da Charles Schwab explica o bloqueio a agentes de IA não autorizados

Autoria: Bloomberg Television · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Charles Schwab CEO explains block on unauthorized AI agents · Canal: Bloomberg Television · 01:00 · Assistir no YouTube

Tópicos: Agentes de IA, Aplicações empresariais de IA, Cibersegurança e segurança de software

Resumo

A Charles Schwab bloqueia agentes de IA não autorizados porque não consegue controlar as ações realizadas com as credenciais dos clientes, o que pode gerar riscos e dúvidas sobre responsabilidade. A empresa está criando duas formas controladas de permitir o uso de LLMs em atividades de investimento. A primeira é Charlie, seu próprio assistente de IA; a segunda é uma conexão por meio de um MCP server. Por esse canal, agentes poderão consultar saldos e pesquisar, mas não movimentar dinheiro.

Pontos-chave

A Charles Schwab bloqueia agentes não autorizados para evitar que ajam em nome de clientes usando suas senhas.
A empresa afirma que não consegue controlar esses agentes nem garantir que os clientes consigam fazê-lo.
A falta de controle pode causar problemas e gerar dúvidas sobre quem é responsável.
Charlie é o assistente de IA próprio da Schwab e deve ser uma das principais formas de clientes usarem IA na empresa.
Charlie aproveita os LLMs disponíveis no mercado.
A Schwab planeja criar uma conexão para outros agentes por meio de um MCP server.
A autenticação e o acesso dos agentes serão controlados pela empresa.
Os agentes poderão consultar saldos e fazer pesquisas, mas não movimentar dinheiro.

Capítulos

Início	Capítulo	Resumo
00:00	Por que agentes não autorizados são bloqueados	O CEO explica os riscos de permitir que um agente use as credenciais de um cliente para agir em seu nome.
00:30	Duas formas controladas de usar IA	A Schwab apresenta Charlie, seu assistente de IA, e uma conexão via MCP server para outros agentes.
01:00	Limites de acesso dos agentes	A empresa permitirá consultas de saldos e pesquisas, mas não a movimentação de dinheiro.

Citações

Estamos bloqueando agentes não autorizados. — 00:00

Algo pode dar errado, e quem será responsabilizado? — 00:00

Charlie, nosso próprio assistente de IA. — 00:30

Não vamos permitir que movimentem dinheiro. — 01:00

Conceitos e entidades

Charles Schwab (empresa): Empresa de serviços financeiros que está definindo formas controladas de permitir o uso de IA por seus clientes.
Muse (ferramenta): Agente mencionado na entrevista como exemplo de agente não autorizado pela Schwab.
Charlie (ferramenta): Assistente de IA próprio da Charles Schwab, concebido como uma das formas de clientes usarem IA.
MCP server (ferramenta): Via planejada pela Schwab para conectar agentes externos, controlando sua autenticação e seu acesso.
LLM (conceito): Modelo de linguagem usado pelo assistente da Schwab e por outros agentes para apoiar atividades dos clientes.

Tradução completa (pt-BR)

00:00 O Charlie pode conversar com Muse? >> Bem, estamos bloqueando agents não autorizados. >> Conte-nos por quê. Por que Muse não está autorizado? >> O motivo é que não queremos que alguém simplesmente dê sua senha ao Muse e deixe o Muse entrar e agir em nome desse cliente. Não podemos controlar isso. O cliente não pode controlar isso. Algo pode dar errado, e quem será responsabilizado? Então, para proteger o cliente e a nós mesmos, não vamos permitir isso. Mas estamos criando duas maneiras seguras de os clientes usarem LLMs, porque sabemos que eles querem usar IA em sua vida como investidores. Eles já estão usando hoje. Eles

00:30 já estão usando hoje. E essas duas maneiras são: primeiro, Charlie, nosso próprio assistente de IA, que acho que será a principal maneira como muitas pessoas usarão IA na Schwab, e que aproveita o melhor dos LLMs disponíveis no mercado. A outra maneira é que criaremos, para todos os diferentes agents que existem por aí, um caminho de acesso à empresa por meio do que é chamado de servidor MCP. Isso nos permite controlar o processo de autenticação e também controlar o que eles podem acessar. Então, não vamos permitir que movimentem dinheiro, mas, se quiserem entrar e consultar os saldos das contas e fazer

01:00 pesquisas, poderão fazer isso por meio dos LLMs deles. Assim, o ambiente é muito mais controlado e seguro.

Transcrição original

[00:00] Can Charlie talk to Muse? >> Well, we are we are blocking unauthorized agents. >> Tell us why. Why is Muse unauthorized? >> The The reason is that we we don’t want someone just giving their password to Muse and letting Muse come in and and take action on that client’s behalf. We can’t control it. The client can’t control it. Something could go wrong and who’s liable? So, for the protection of the client and for the protection of us, we’re not allowing it. But, we are creating two safe pathways to use LLMs for clients because we know they want to use AI in their investing life. They’re

[00:30] already using it today. Uh and those two ways are one, Charlie, our own AI assistant with who I think will be the primary way many people use AI at Schwab and it leverages the best of the LLMs in the marketplace. The other way is we will for all the different agents that are out there, we will create a pathway into the firm for them through what’s called an MCP server. What that allows us to do is control the authentication process and also can control what they can access. So, we’re not going to allow them to move money, but if they want to come in and see their account balances and do

[01:00] research, they’ll be able to do that through their LLMs. So, it’s just a much more controlled and safe environment.