Cofundador da OpenAI e CEO da Cloudflare falam sobre falhas de segurança descobertas por IA

Autoria: Bloomberg Television · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: OpenAI co-founder and Cloudflare CEO on AI-discovered security flaws · Canal: Bloomberg Television · 01:34 · Assistir no YouTube

Tópicos: Cibersegurança e segurança de software, Segurança de IA

Resumo

O CEO da Cloudflare afirma que a IA foi a grande responsável por encontrar uma falha grave e antiga no PHP, software presente em cerca de 70% dos sites do mundo. Ele ressalta que a IA não criou a vulnerabilidade: ela identificou um bug que poderia ter sido explorado por anos. OpenAI, pesquisadores e empresas como a Cloudflare coordenaram a divulgação responsável e trabalharam para proteger clientes e a internet antes de divulgar o problema. Os entrevistados esperam que atacantes passem a usar modelos para explorar falhas em maior escala.

Pontos-chave

A falha no PHP era antiga, grave e poderia ter sido explorada antes de ser descoberta.
O PHP está presente e em execução em cerca de 70% dos sites do mundo, segundo o entrevistado.
A IA encontrou uma vulnerabilidade preexistente; não foi a causa do bug.
OpenAI e pesquisadores divulgaram a falha de forma responsável para o setor.
A Cloudflare trabalhou para proteger seus clientes e a internet antes da divulgação pública.
Os entrevistados acreditam que atacantes usarão modelos para tentar explorar falhas.
Já foram observadas tentativas de exploração, mas ainda não em grande escala.

Capítulos

Início	Capítulo	Resumo
00:00	Uma falha antiga e grave	O entrevistado destaca a gravidade da vulnerabilidade no PHP e a ampla presença do software em sites.
00:31	Descoberta e divulgação responsável	OpenAI e pesquisadores identificaram a falha e a comunicaram ao setor enquanto a Cloudflare trabalhava para proteger a internet.
01:01	Ameaças futuras e proteção	Os entrevistados esperam que atacantes usem modelos para explorar falhas, embora ainda não tenham observado tentativas em grande escala.

Citações

A IA é a verdadeira heroína desta história. — 00:00

Não foi a IA que criou o bug. A IA encontrou o bug que já estava lá. — 00:31

Acreditamos que os atacantes vão começar a usar modelos amplamente para tentar explorar essas falhas. — 01:01

Devemos esperar que os atacantes tentem, mas fizemos muito para divulgar a falha de forma responsável e tornar o software mais seguro. — 01:34

Conceitos e entidades

OpenAI (empresa): Empresa cujas ferramentas ajudaram a encontrar a falha de segurança mencionada.
Cloudflare (empresa): Empresa que colaborou na proteção de clientes e da internet após a descoberta da vulnerabilidade.
PHP (conceito): Software subjacente à falha antiga identificada no vídeo.
IA (conceito): Foi usada para localizar uma vulnerabilidade preexistente, não para criá-la.
divulgação responsável (conceito): Processo de comunicar uma vulnerabilidade às empresas afetadas antes de torná-la pública.
Matthew (pessoa): Pessoa mencionada pelo entrevistado como alguém que destacou os esforços de divulgação responsável e preparação.

Tradução completa (pt-BR)

00:00 O que precisamos deixar claro aqui é que a IA é a verdadeira heroína desta história. Essas falhas existiam havia bastante tempo; são extremamente graves, e o PHP, o software subjacente que continha a falha, está presente e em funcionamento em cerca de 70% dos sites do mundo. Portanto, isso foi muito significativo, e era uma falha muito significativa. É difícil saber se hackers, Estados-nação ou outros tiveram acesso a essa falha, que estava presente havia anos. Acho que

00:31 o que a OpenAI fez com suas ferramentas e o que os pesquisadores fizeram foi extremamente responsável. Eles encontraram um bug latente que já estava lá. Encontraram algo que pode ter sido explorado por muitos anos. Eles divulgaram a falha de forma responsável para o setor e para empresas como a Cloudflare, e trabalhamos incansavelmente nos bastidores para garantir que nossos clientes estivessem protegidos e que a internet estivesse protegida antes que isso viesse a público. Mas está claro que não foi a IA que criou o bug. A IA encontrou o bug que já estava lá, e é incrivelmente importante

01:01 que agora o tenhamos encontrado e corrigido, e que o software esteja significativamente mais seguro graças ao trabalho da OpenAI. >> Acreditamos que os atacantes vão começar a usar modelos amplamente para tentar explorar essas falhas. Temos monitoramento do nosso lado para ficar de olho nisso, e acho que estamos começando a ver tentativas, ou que já vimos tentativas no passado, mas ainda não em grande escala. Acredito que vamos ver um aumento acentuado. Acho que a Cloudflare relatou ter visto esse tipo de aumento muito acentuado nas tentativas de exploração.

01:34 Portanto, acho que devemos esperar que os atacantes tentem, mas, como Matthew disse, fizemos muito esforço aqui para divulgar a falha de forma responsável, preparar a internet e tornar esse software mais seguro.

Transcrição original

[00:00] What we have to be clear about here is that AI’s the real hero of this story. These flaws that existed for quite some time, they’re extremely serious, and PHP, the underlying software that contained the flaw, is present and running on something like 70% of the world’s websites. So, this was very significant, and it was a very significant flaw. It’s hard to know whether hackers, nation states, otherwise had access to this flaw that had been present for years. I think that

[00:31] what OpenAI did with their tools and what the researchers did was extremely responsible. They found a latent bug that was there. They found something that may have been exploited for many years. They responsibly disclosed it to the industry and companies like Cloudflare, and we worked tirelessly behind the scenes to make sure that our customers were protected and that the internet was protected before it got out. But, it’s clear it wasn’t that AI created the bug. AI found the bug that was there, and it’s incredibly important

[01:01] that we’ve now found it, fixed it, and the software is significantly more secure because of the work that OpenAI did. >> We believe that attackers are going to start using models broadly to try to exploit these flaws. We have monitoring on our side watching for it, and that I think we’re starting to see attempts, or we have seen attempts in the past, but not at massive scale yet, and I believe that we’re going to see just a ramp up. I think that that Cloudflare has reported seeing this this kind of very steep ramp of attempted exploitation.

[01:34] So, I think that we should expect attackers to try, but as as Matthew said, that we have put in a lot of effort here to do responsible disclosure, prepare the internet, and to make this software more secure.