Dimon, do JPMorgan, vê benefícios na IA e alerta para riscos

Ver no idioma original →

Autoria: Bloomberg Television · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: JPMorgan’s Dimon Sees Benefits From AI, Warns of Risks · Canal: Bloomberg Television · 04:45 · Assistir no YouTube

Tópicos: Agentes de IA, Cibersegurança e segurança de software, Governança e regulação de IA

Resumo

Jamie Dimon afirma que a IA já é usada em milhares de casos no JPMorgan, em áreas como risco, fraude, marketing e atendimento ao cliente. Ele prevê benefícios importantes para a saúde, a segurança e a qualidade de vida, mas alerta que ferramentas poderosas também podem revelar vulnerabilidades em sistemas e códigos. Dimon defende que empresas e setores assumam a responsabilidade de proteger suas próprias operações e fornecedores, com apoio do governo. Também destaca os riscos de agentes persistentes e de conceder a eles acesso a contas bancárias e autorização para realizar pagamentos.

Pontos-chave

• O JPMorgan usa IA desde 2012 em milhares de casos e com milhares de funcionários.
• A IA pode contribuir para avanços na saúde, em materiais, em motores e na redução de acidentes de trânsito.
• Ferramentas de IA podem identificar vulnerabilidades significativas em códigos que pareciam seguros.
• Setores como água, governo e hospitais podem estar pouco preparados para ameaças cibernéticas.
• Dimon defende que cada setor proteja seus sistemas, revise seu código e ajude empresas menores e fornecedores.
• O governo pode organizar a resposta, mas, segundo Dimon, as próprias indústrias precisam agir.
• Agentes persistentes podem interagir entre si e tentar atacar continuamente.
• Dar a agentes acesso a códigos bancários e permissão para fazer pagamentos cria riscos para clientes e bancos.

Capítulos

Início	Capítulo	Resumo
00:00	Benefícios e riscos da IA	Dimon apresenta sua visão de que a IA pode trazer benefícios importantes, embora também envolva riscos.
01:35	Vulnerabilidades e segurança cibernética	Ele alerta que ferramentas poderosas podem revelar vulnerabilidades em códigos e que muitos setores estão desprotegidos.
02:36	Responsabilidade das empresas e dos setores	Dimon defende que as indústrias protejam seus sistemas e fornecedores, com coordenação e apoio do governo.
03:41	Agentes persistentes e riscos bancários	Ele descreve agentes que podem operar continuamente e alerta para os riscos de conceder a eles acesso a bancos e pagamentos.
04:45	Regulação e resposta	Dimon diz que é preciso agir contra os riscos e que o debate sobre o modelo regulatório pode vir depois.

Citações

Estou nos dois lados. — 00:31

Essas coisas são tão poderosas agora que você achava que não tinha vulnerabilidades; ao analisar seu próprio código, aparecem centenas de vulnerabilidades significativas. — 01:35

Eles estão dizendo que precisam de ajuda, e a ajuda somos nós. — 03:08

Criei um pouco do que chamamos de agentes persistentes, que estão sempre tentando atacar você. — 04:14

Minha opinião é: vamos cuidar disso; a legalidade, discutimos depois. — 04:45

Conceitos e entidades

• AI (conceito): Dimon aborda os benefícios da inteligência artificial e os riscos que ela pode criar para sistemas e setores.
• cybersecurity (conceito): A segurança cibernética é apresentada como uma prioridade diante de vulnerabilidades e possíveis ataques.
• open-source code (conceito): Dimon menciona o uso de código open source e a possibilidade de ferramentas revelarem vulnerabilidades nesse código.
• persistent agents (conceito): São agentes descritos como ativos continuamente e capazes de interagir entre si, inclusive em tentativas de ataque.
• JPMorgan (empresa): A instituição é citada como usuária de IA e como uma organização que investe em segurança cibernética.
• Jamie Dimon (pessoa): O presidente do JPMorgan fala sobre os benefícios da IA, seus riscos e a responsabilidade das empresas.

Tradução completa (pt-BR)

00:00 Em que lado do espectro você está? Porque há pessoas que realmente acreditam nisso — estamos ouvindo isso. E há o outro lado, que diz que podemos aproveitar isso para o bem. Que pode ser controlado. Que pode ser aproveitado para o bem. Em que ponto desse espectro você está? Primeiro, isso é ilustrativo da nossa burocracia e de como ela cresce com o tempo. Coisas estúpidas. Aquela recessão deveria ser um resumo de um prospecto, e acabou tendo 80 páginas por si só. Quero dizer, isso acontece o tempo todo

00:31 e coisas assim. Elas simplesmente crescem com o tempo. Estou dos dois lados. Então, a IA de contexto amplo é real. Fazemos isso desde 2012 e, de repente, começamos a usar. Temos milhares de casos de uso. Temos milhares de pessoas usando isso para risco, fraude, marketing, análise de crédito, design, atendimento ao cliente e, sabe, para aumentar as taxas de erro — como vocês vão ver cada vez mais, de uma forma positiva. Isso vai, sabe, salvar muitas vidas. Como vocês sabem, hoje temos… Na minha opinião, provavelmente vai literalmente, nos próximos 10 ou 15 anos, salvar muitas

01:01 vidas. Muitas doenças, cânceres, novos materiais compostos. Seus aviões, seus motores. Sabe, 45 mil pessoas morrem nas ruas por ano e outras 150 mil ficam incapacitadas. Esse número poderia ser reduzido em 80%. Então, sabe, acho que a geração daqui a 30 anos provavelmente vai trabalhar de três a cinco dias por semana. Terá uma renda de 300 mil dólares por pessoa. Vai ser uma vida ótima. Isso é a parte boa. E acho que há verdade nisso. E também é verdade que há uma parte ruim. Não vou entrar na questão dos empregos, a menos que vocês queiram, mas a

01:35 parte ruim é o risco que algumas dessas coisas agora representam. E todos vocês têm sistemas que usam aplicativos. Nós usamos 7 mil aplicativos, muitos com código open source. Há centenas de milhares de códigos open source. E essas ferramentas são tão poderosas agora que você achava que não tinha nenhuma vulnerabilidade. Aí você analisa seu próprio código com elas e encontra centenas de vulnerabilidades significativas. E, no caso do JPMorgan, gastamos muito dinheiro e tínhamos uma proteção cibernética muito boa.

02:06 Provavelmente vocês estão entre os melhores do mundo, e muitos bancos também, mas há setores completamente desprotegidos. Sabe, vocês provavelmente estão bastante protegidos, mas têm fornecedores que não estão. Exatamente. E há setores como o de água, que está totalmente desprotegido, assim como as instituições governamentais. Claro. E os hospitais também. Então, eles são extremamente valiosos agora para agentes estatais, terroristas, criminosos ou simplesmente pessoas que odeiam vocês, sabe, que não gostam da empresa, não gostam do setor, não gostam do partido, não gostam de… E temos que nos ocupar disso

02:36 e de onde está esse risco. E quão grave ele é? Não acho que seja uma ameaça existencial, mas vocês também vão ver problemas. Vamos arregaçar as mangas, como estamos fazendo. Temos muita gente trabalhando para resolver os problemas, para realmente estarmos por dentro dos riscos que essas ferramentas criam. Assim, ficamos com o lado bom e não com o ruim. Mas isso é fundamental. E o governo está se preparando para isso. Jay Clayton, que alguns de vocês provavelmente conhecem, foi anunciado há pouco como o responsável por essa questão no governo — ele é o diretor nacional de inteligência. Temos mantido contato com ele. Sabe, todos eles conhecem os riscos. O governo está se organizando.

03:08 A propósito, eu também não sabia como fazer isso. Portanto, não é como se eles estivessem sentados dizendo: “Estamos cuidando disso”. Eles dizem: “Precisamos de ajuda”, e essa ajuda somos nós. Eles não conseguem proteger todos esses setores. Os setores têm que fazer isso. E Scott está comigo nessa iniciativa chamada Linhas para Infraestrutura Crítica. O CEO de uma United, que está tentando organizar isso por setor, para que cada setor tenha a sua própria iniciativa. Protejam-se. Limpem o próprio código, limpem o código dos fornecedores, ajudem as empresas menores do seu setor, como nós fazemos. Sabe, temos milhares de bancos com os quais trabalhamos e que estão bastante preocupados com isso. E eu também estou. E então vocês têm fornecedores diferentes e, sabe,

03:41 olhando para isso, há 20 setores. Sabe, começamos com seis, mas vamos passar aos outros 14, e todas essas empresas estão investindo muito nisso agora. E o governo vai se organizar em torno disso. Mas temos que agir com urgência. E, neste caso, temos um interesse em comum com a China, porque acho que a China percebeu que isso não é nós contra a China. Na China, eles também precisam se preocupar com pessoas como o governo, terroristas e agentes estatais que não gostam da China. Isso pode ser usado contra qualquer um. E a situação fica ainda pior, aliás, quando esses agents tentam chegar até mim por meio dos

04:14 agents, do instinto mútuo e de tudo mais. Então, criei alguns do que chamamos de agents persistentes, que estão sempre tentando atacar você, 24 horas por dia, sete dias por semana. E um agent conversa com outro, e esse com outro, o primeiro agent com outro, e, se você permitir que eles entrem no seu banco, isso é um grande problema para os bancos. Sabe, se os agentes estão tentando chegar até lá, podem fazer pagamentos por você. Isso significa que você precisa dar a eles o código do seu banco. Isso significa que eles estão dentro do seu banco, e você está presumindo que vão agir corretamente em seu nome, mas talvez não. E, claro, eles podem fazer coisas dentro

04:45 de um banco que também são perigosas para o próprio banco. Então, são questões importantes, e não sei como podemos lidar com todas elas. Robert. Se você se ocupar disso, o governo obviamente terá um papel. Houve um grande debate sobre se isso deveria ser como a FDA, algo regulamentado pelo governo, ou como a Finra, uma entidade autorreguladora do setor de valores mobiliários, ou se o próprio setor deveria se encarregar disso. E eu não me importo muito com qual opção. Na minha opinião, é preciso começar a agir e deixar a questão da legalidade para depois.

Transcrição original

[00:00] Which which end of the spectrum are you on? Because there. There are people who do and do absolutely believe that we are we are hearing that. Then there’s the other side that says we can harness it for for good. It can be controlled. It can be harnessed for good. Where are you on that, on that spectrum? So first the this is instructive of our bureaucracy, how it grows over time. Stupid things. That recession was supposed to be a summary of a prospectus, and that was the 80 pages on their own. I mean, and this happens all the time

[00:31] and stuff. They just grow over time. I’m in both. So the big context eye is real. We’ve been doing it since 2012 that all of a sudden, uh, we use it. There’s thousands of case that we use it for. We have thousands of people do it, use it for risk, fraud, marketing, underwriting, design, customer service, you know, extra error rates as you’re going to see more and more in a good way. It’s going to, uh, save a lot of lives like you have, you know, in this today we have my view is of probably will literally the next 10 or 15 years save a

[01:01] lot of diseases Cancers have new composite materials. Your airplanes, your engines. You know, 45,000 people a year killed in the streets and your 150,000 crippled. That number could be cut by 80%. So, you know, and I think the generation, you know, 30 years now, they’re probably working for 3 to 5 days a week. They’ll have an income of per person or $300,000. It’ll be a great life. I just that’s the good part. And I think there’s truth to that. And, uh, it’s also true that there’s a bad part, and I’m not going to the jobs part unless you want me to, but but the

[01:35] bad part is the risk that some of these things now pose on creating. And you all have systems that use applications. We use 7000 applications, a lot of open source code. There are hundreds of thousands of open source code. And these things are so powerful now that you thought you did, had no vulnerabilities. And you run this through your own code and there are hundreds of significant vulnerabilities. And so for JP Morgan, you were we spent a lot of money and cyber was very well protected.

[02:06] You’re probably up there with the best in the world, and a lot of the banks are, but there are industries completely unprotected. You know, you guys are probably pretty well protected, but then you have vendors who aren’t. Absolutely. And their industries are like water zero, which are government institutions zero. Sure. And hospitals zero. So they are hugely valuable now to state actors, terrorists, uh, criminals or just people who hate you, you know, who don’t like the company. They don’t like the industry, like the party, they don’t like the, uh, and we have to get our hands on that.

[02:36] And where that risk is. And how bad is it? I don’t think it’s existential threat, but, uh, you you’re going to see problems, too. Let’s roll up our sleeves, which we’re doing. We have a lot of people doing it out to fix the problems, so that we actually are on top of what those risks they create. So we get the good and not the bad, but it is critical. And the government is geared up for this show. We, Jay Clayton, who some of you probably know was just announced the, uh, czar for the government, which he’s the national director of intelligence. We’ve been in contact with him. You know, they all know the risk. The government organizer.

[03:08] I didn’t know how to do it either, by the way. So it isn’t like they’re sitting there saying, we’re on top of this. They’re saying we need help and the help is us. They can’t protect all these industries. The industries have to do it. And Scott is on this thing with me called the lines for Critical Infrastructure. The CEO of a united, uh, which is trying to do it by industry so that every industry should have its own. Protect yourselves. Clean up your own code, clean up your vendors codes, help the smaller companies in your industry like we have, you know, thousands of banks that we bank who are quite concerned about them. And I am too, you know, and, uh, and then you have different vendors and, you

[03:41] know, they’re the way you look at there, 20 industries. You know, we’ve started with six, but we go to the other 14, and all these companies are putting real muscle into at this point, and the government is going to organize around it. Uh, but we have to do in due haste. And this is one we have a common interest of China, because I think China realized this isn’t about us versus China. In the in China, they also have to worry about people like the government, terrorists, state actors don’t like China. Uh, if this could be used against anybody. And then it’s made worse, by the way. But these agents try to get to me by the

[04:14] agents mutual instinct and all that. So now this I created, you know, a little of what we call persistent agents that they’re always looking to attack you. And 24 over seven. And this agent talks that agent and that agent, first agent and, and, uh, and if you allow them in your bank, this is a big issue for banks. You know, if the muse is trying to get they can make payments for you. That means you have to give them your bank code. That means they’re in your bank, and you’re assuming they act properly on your behalf, and they may not. And of course, they may do things inside

[04:45] a bank, which is treacherous for the bank, too. So these are big deals, and I don’t know how we can deal with them. All of them. Robert. So if you get to work, the government will obviously play a role. It was just a big debate about, you know, it should be like the FDA, a government regulated thing or like a Finra, which the securities self-regulating thing or just industry getting and getting that. And I don’t really care. My view is get at it or about the legality of it later.