Exploits agora superam patches: segurança open source na era da IA — Patrick Smyth, Chainguard

Ver no idioma original →

Autoria: AI Engineer · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Exploits Now Beat Patches: Open Source Security in the AI Era - Patrick Smyth, Chainguard · Canal: AI Engineer · 21:14 · Assistir no YouTube

Tópicos: Agentes de IA, Cibersegurança e segurança de software

Resumo

Patrick Smyth explica como a IA de fronteira está aumentando a capacidade de atacantes e acelerando a exploração de vulnerabilidades, que agora pode ocorrer antes da publicação de patches. Ele descreve os riscos para a cadeia de suprimentos de software, incluindo malware, vulnerabilidades conhecidas e zero-days, além de novos alvos como CI/CD, notebooks de desenvolvedores e agent skills. Como resposta, recomenda acelerar a remediação, assinar artefatos, adotar períodos de espera para pacotes e fortalecer a infraestrutura de desenvolvimento. Também apresenta iniciativas da Chainguard, como Wolfi, bibliotecas construídas a partir do código-fonte e versões protegidas de ações de CI/CD e agent skills.

Pontos-chave

• Segundo dados da Mandiant citados na palestra, o intervalo médio entre exploração e patch passou de 63 dias em 2018–2019 para 70 dias negativos: em média, a exploração ocorre antes do patch.
• A IA de fronteira pode elevar a capacidade de atacantes, ajudando a automatizar tarefas e a combinar vulnerabilidades menores em exploits.
• Ataques à cadeia de suprimentos podem se propagar entre organizações por meio de dependências compartilhadas.
• O modelo tradicional de analisar CVEs e remediá-las em ciclos de 30 dias pode ser lento demais diante da exploração rápida de vulnerabilidades.
• Além do código de produção, CI/CD, notebooks de desenvolvedores e agent skills são alvos que podem oferecer caminhos de entrada menos protegidos.
• O palestrante recomenda períodos de espera para pacotes, remediação mais rápida de vulnerabilidades, assinatura de artefatos e maior atenção à segurança dos dispositivos de desenvolvedores.
• Assinar artefatos e verificar suas assinaturas e proveniência entre etapas ajuda a proteger pipelines com uma abordagem de zero trust.
• A Chainguard apresenta Wolfi, uma distribuição Linux rolling e minimalista, e bibliotecas construídas a partir do código-fonte como formas de reduzir riscos e acelerar atualizações.
• A palestra também apresenta ações de CI/CD e agent skills protegidas, incluindo opções para endurecer skills usadas dentro de uma organização.

Capítulos

Início	Capítulo	Resumo
00:01	A IA de fronteira e a mudança no risco	Patrick Smyth apresenta casos de ataques e dados que ilustram como a exploração está se acelerando.
03:40	Ameaças à cadeia de suprimentos de software	O palestrante aborda os limites dos ciclos de correção, a onda de malware e a propagação de ataques por dependências.
08:20	Responsabilidades e medidas urgentes	Ele explica a posição delicada de quem depende de software upstream e recomenda medidas como períodos de espera, assinatura e remediação mais rápida.
11:27	Vetores de ataque e respostas da Chainguard	A palestra separa malware, vulnerabilidades conhecidas, zero-days e novos alvos, apresentando respostas da Chainguard para cada categoria.
15:04	Wolfi, vulnerabilidades e assinatura de artefatos	Smyth descreve o problema das camadas fora do controle das equipes, a distribuição Wolfi e o uso de assinaturas e proveniência em pipelines.
18:40	Ações de CI/CD e agent skills protegidas	O palestrante apresenta ações e agent skills endurecidas e encerra com informações sobre eventos e recursos da Chainguard.

Citações

Na média, o exploit chega antes do patch. — 03:40

30 dias podem muito bem ser um milhão de anos diante de alguns desses ataques. — 04:11

Está na hora de levar isso a sério. — 09:54

Você deve assinar tudo. — 17:08

Conceitos e entidades

• Patrick Smyth (pessoa): Palestrante da Chainguard que aborda os riscos à segurança de open source na era da IA.
• Chainguard (empresa): Empresa apresentada como provedora de soluções para segurança da cadeia de suprimentos de software.
• Mandiant (empresa): Fonte do relatório citado sobre o intervalo entre exploração de vulnerabilidades e publicação de patches.
• Wolfi (ferramenta): Distribuição Linux minimalista e rolling desenvolvida para permitir atualizações frequentes.
• Sigstore (ferramenta): Projeto mencionado para assinar artefatos e verificar assinaturas na cadeia de suprimentos.
• SLSA (conceito): Framework de proveniência de artefatos citado como parte das práticas de segurança recomendadas.
• Athena (conceito): Consórcio descrito como uma iniciativa para compartilhar informações sobre zero-days entre participantes.
• Chainguard Libraries (ferramenta): Serviço que fornece bibliotecas construídas a partir do código-fonte para reduzir riscos de ataques à distribuição.
• Chainguard Actions (ferramenta): Ações protegidas de CI/CD apresentadas como alternativas para reduzir riscos em pipelines.
• Chainguard Agent Skills (ferramenta): Agent skills de terceiros endurecidas em um pipeline antes de serem disponibilizadas aos usuários.
• Mythos (modelo): Modelo de fronteira citado como exemplo de capacidade para descobrir e combinar vulnerabilidades.
• Shai-Hulud (conceito): Worm associado ao ecossistema JavaScript que inspirou ataques e cópias posteriores.

Tradução completa (pt-BR)

00:01 [música] >> Então, é assim que a IA de fronteira mudou a tolerância ao risco do open source. Pensei em colocar como subtítulo algo como “Como aprendi a amar a bomba atômica” ou coisa do tipo, mas decidi não fazer isso. Então, sou Patrick Smith. Trabalho na Chainguard. Quando não estou pensando na cadeia de suprimentos de software ou mexendo com IA de fronteira, estou

00:34 passando um tempo no Queens. >> [fungada] >> Sou uma dessas pessoas irritantes que gostam de ir à sauna o tempo todo. Se você está visitando a cidade, temos algumas ótimas por aqui. Tem a da 10th Street. Ela existe desde o século XIX e tem uma comida ótima. E também tem uma em FiDi. Então, sei que há muita gente do setor financeiro interessada nisso, então fica a dica: 88 Fulton. É essa se você estiver por lá. >> [risos] >> Certo. Então, esta vai ser basicamente a parte da palestra em que vou assustar vocês, mas…

01:05 mas, este ano… Aqui estão algumas manchetes interessantes. Um adolescente de Osaka, de 17 anos, ainda no ensino médio, usou o ChatGPT, escreveu alguns scripts e exfiltrou cerca de 4,4 milhões e um quarto de registros do maior cibercafé do Japão. Depois, usou um dos cartões para comprar algumas cartas Pokémon. Usou um dos cartões de crédito para comprar cartas Pokémon ou coisa do tipo.

01:35 Então, nessa idade, as pessoas podem ser muito inteligentes e muito burras. FunkSec. Alguém atacou a Thought; acredita-se que seja uma pessoa argelina com conhecimentos técnicos intermediários. Atingiu 85 alvos nos últimos meses. Um indivíduo não identificado usou o Cloud CoVE para atacar 17 organizações, de instituições de saúde a órgãos do governo e grandes corporações. Usou

02:05 a nuvem para tudo: escrever as cartas de resgate, escolher o próximo alvo, organizar os arquivos e, claro, realizar os ataques. Uma conclusão aqui é que, do jeito que tenho pensado sobre isso, todo mundo sobe um nível em termos de ameaça. Se antes você era um engenheiro de verdade, agora é como se fosse uma equipe. Se antes você era uma equipe de verdade, agora está no nível de uma ameaça persistente avançada. Então, aqui vai mais uma pequena informação

02:35 para vocês. Isto mostra se o patch chega antes da exploração. A exploração, obviamente, é o ataque. O patch é a correção da vulnerabilidade. Na pré-história, em 2018 e 2019, eram 63 dias. Esta é uma média, então há bastante variação, mas ela nos diz algo. Havia uma tendência de longo prazo que vinha acontecendo há bastante tempo e que, suponho, continua, embora tenha sido meio ofuscada. Dá para pensar nisso como… Poderíamos

03:07 pensar nisso como aplicações digitais, ou algo assim. Mas, basicamente, hospitais começaram de repente a usar código Python e coisas do tipo. Essa tendência de longo prazo foi, em parte, responsável por esse encurtamento ao longo de 2021 e 2022, e provavelmente também de 2023. Mas aí você vê que, em 2023 e 2024, e no ano passado, tudo simplesmente mudou, certo? Fico pensando o que poderia ter causado isso tudo. Vamos falar sobre isso. Acho que vocês já sabem. Mas agora são menos 70 dias. Ou seja, em média, a exploração

03:40 acontece antes do patch. Isso vem apenas da Mandiant. Eles têm o relatório M-Trends. Então, era mais ou menos assim: se você estivesse numa organização, teria uma certa quantidade de software na sua stack e executaria scanners sobre ela, como o Grype, o Trivy e outros. O Trivy também teve um ano ruim. Você faz a varredura e obtém uma certa quantidade de CVEs, vulnerabilidades conhecidas classificadas como críticas,

04:11 altas, médias ou baixas. Isso vai para uma equipe. Ela recebe uma quantidade de itens para corrigir. Tudo muito sensato, tudo muito bom. O único problema é que 30 dias podem muito bem ser um milhão de anos, considerando alguns desses ataques que vêm acontecendo. >> [fungada] >> Então, com essa linha do tempo, simplesmente não dá mais, sabe? Quer dizer, obviamente é preciso ter algum tipo de cronograma, porque as correções são feitas em determinada cadência, mas, basicamente, isso já não funciona muito bem. Entre os atacantes partirem quase imediatamente para cima de vulnerabilidades conhecidas, explorarem vulnerabilidades encontradas fora de banda

04:43 e agora essas novas fontes de zero-days — cof, cof, sabemos do que se trata —, como o Mythos e os novos modelos de fronteira, essa linha do tempo foi completamente por água abaixo. Essa é outra área de diversão e alegria que tivemos no ano passado. São… nem sei como chamar isso, mas dá para pensar neles como os quatro cavaleiros do apocalipse. São ondas e mais ondas de malware. Todo mês, sabe…

05:15 Eu costumava fazer um calendário de memes sobre ataques à cadeia de suprimentos para apresentações antigas, com um grande ataque por mês, e costumava dizer: “Pessoal, tem um grande ataque todo mês. A situação está muito ruim.” Agora, seria loucura: praticamente daria para fazer um calendário de memes para cada dia. Mas, enfim, aqui coloquei quatro, embora três sejam do mesmo mês, e depois tem o Shai Hulud, que, claro, é uma fonte perene de diversão. Mas, afinal, o que é o Shai Hulud? É um worm

05:46 que surgiu no ecossistema JavaScript. Meio que mostrou a todo mundo que era possível criar um worm enorme e ter muito sucesso. Então, agora há um monte de imitadores do Shai Hulud, tem o Sandworm Mode e todo esse tipo de coisa. Shai Hulud é um worm de Duna. Então, sabe, é um worm chamado worm: muito inteligente. E alguns trechos de código dessas coisas são, na verdade, bem… Quer dizer, não deveríamos nos divertir demais com os comentários no código dos atacantes nem nada, mas eles dão nomes engraçados às coisas. O Trivy foi atacado; é um scanner. Os outros três aconteceram em março deste ano.

06:16 O Trivy, o LiteLLM — que é uma espécie de roteador para agents — e, sabe, o ataque à cadeia de suprimentos do axios ficou ativo por apenas duas horas e teve 600 mil downloads. Certo? E muitos desses ataques à cadeia de suprimentos… Estamos falando especificamente de malware. Muitos desses ataques se encadeiam, porque todo mundo tem as dependências de todo mundo. Você compromete uma pessoa e, agora, está comprometendo outras. Então, há algo de errado no reino da Dinamarca.

06:47 Isso é de Hamlet 2000. É um filme estranho. Você pode assistir a Hamlet 2000. E, sim, são os agents, certo? Os agents de fronteira. Acho que todo mundo nesta sala já sabia disso: eles vêm acelerando tudo. Mas você coloca sal e pimenta em tudo, sabe? Acelera a forma como o código é produzido, acelera tudo. Mas os atacantes também estão fazendo uso intenso deles. E os ambientes mudaram bastante. Não sei se o pessoal já ouviu falar… Talvez eu esteja velho

07:17 ou coisa do tipo, ou talvez eu seja entusiasta do início da computação e dessas coisas. Existe um conceito chamado “setembro eterno”. Basicamente, antigamente havia essas redes universitárias. As pessoas eram muito… sabe, provavelmente usavam gravatas-borboleta ou coisa assim. Eram muito educadas, tinham suas normas comunitárias. Tudo permanecia estável. E o que acontecia? Chegava setembro, os estudantes entravam naquelas coisas malditas que estão sempre entupindo as universidades. Os estudantes chegavam e começavam a bagunçar

07:48 em todas as redes e tudo mais. Eles não conheceriam nenhuma das normas. Escreveriam tudo em letras maiúsculas. Não conheceriam nenhum dos emoticons bons, nem nada do tipo. Então, outra forma de pensar nisso é que o setembro eterno acabou durando para sempre. E é assim que isso acontece o tempo todo. Cultura. É uma questão cultural, mas também é natural que você tenha um ambiente ou uma comunidade de alta confiança que passa para uma situação mais adversa e de baixa confiança, certo? Outra forma de pensar nisso é esta. E este é simplesmente o problema básico da segurança da cadeia de suprimentos de software, certo?

08:20 E é muito simples, mas acho que pensar dessa forma esclarece muita coisa: você tem usuários. Eles dependem da sua infraestrutura, do seu software, para fazer as coisas que fazem com a sua pilha, com o seu negócio. Você tem uma responsabilidade com eles. Então, você se vira e, na verdade, puxa coisas de fontes upstream. Você estava puxando coisas de lugares que, sabe, está tentando avaliar, está tentando acompanhar, mas é difícil. E qualquer uma dessas coisas que você incorpora pode

08:51 potencialmente comprometer você e seus usuários, certo? Então, é meio que… Mas todos nós estamos nessa posição, certo? Estamos todos entre a cruz e a espada nessa situação tão específica. E este é o… Este é o problema fundamental da segurança da cadeia de suprimentos de software. Então, de novo, vamos sair do pessimismo aleatório e passar para o que você precisa e deve fazer este ano. Mas vou mencionar algumas coisas; o objetivo é defender um ponto mais amplo, certo? Se você está pensando em pacotes, precisa adotar períodos de espera. Se está pensando em

09:24 você tem… Se está pensando em CVEs, precisa corrigi-los mais rápido do que nunca. Precisa assinar, certo? Vou falar disso depois, mas Salsa e Sigstore: assine seus artefatos. Você precisa se preocupar com a segurança operacional dos laptops de desenvolvedores, incluindo chaves físicas. Há muita coisa com que se preocupar. O ponto aqui não é tanto… Acho que vou me aprofundar em vários desses assuntos à medida que avançarmos, mas o ponto aqui é que

09:54 é hora de levar isso a sério. Já é hora de levar isso a sério, porque agora não estamos em 2024, nem em 2023. O ambiente lá fora está muito mais adverso do que era há apenas alguns anos, certo? Há muita coisa a fazer, e isso custa caro e é doloroso, mas algumas dessas coisas você deveria fazer primeiro. E também diria que, se você ainda está migrando para contêineres, se ainda está implementando CI/CD, este é um ótimo momento para concluir esses

10:24 projetos, certo? Porque, ou melhor, eu diria que você praticamente precisa fazer isso, porque, se não tiver algumas dessas peças básicas e fundamentais implementadas, pode ser muito difícil fazer esses outros esforços de modernização que se tornaram mais importantes nos últimos dois anos. Felizmente, agora você tem IA para dar alguns saltos à frente, então eu não ficaria tão desanimado. Mas é hora de colocar esses projetos de inovação em andamento, de fazer esses projetos avançarem, de concluir seu programa de imagens douradas e assim por diante, certo? Centralize seus contêineres. >> [fungada] >> Quem somos nós? Somos a Chainguard.

10:55 Estamos pensando nisso desde 2021. Temos quatro fundadores. Eles criaram projetos dos quais talvez você já tenha ouvido falar: Kubernetes, Sigstore, Salsa, Google Distroless. E nós, sabe, estamos basicamente aqui para pensar no problema da segurança da cadeia de suprimentos de software e tentar eliminá-lo de vez, por assim dizer. Vou entrar em alguns detalhes sobre o que fazemos daqui a pouco, mas aqui estão algumas áreas nas quais quero me aprofundar.

11:27 Certo? Primeiro, você tem… E todas essas coisas interagem de maneiras diferentes, mas dá para pensá-las separadamente, até certo ponto, e às vezes isso é útil. Certo? Por um lado, você tem malware. Então, aí entram coisas como Trivia, Axios e tudo mais. Esse é um vetor, certo? Esse é o tipo de coisa contra a qual um período de espera pode ajudar. Depois, você tem vulnerabilidades conhecidas, certo? Isso é meio que segurança tradicional. Sim, as pessoas costumam dizer: “Ah, CVE é…”

11:57 “CVE é meio que a unidade disso, certo?” Vulnerabilidade e exposição comuns. As pessoas dizem: “CVE são… CVEs são…”. Sim, muitos CVEs são basicamente ruído, mas uma porcentagem X é realmente importante, sabe? Eles precisam mesmo ser corrigidos. O resto… O ruído restante dificulta lidar com aqueles que você realmente precisa resolver. E, por serem vulnerabilidades conhecidas, você precisa corrigi-las, porque elas estão em um banco de dados, certo? Alguém poderia simplesmente dizer: “Vá encontrar… Aqui, examine seu software, consulte o banco de dados e…”

12:27 combine essas duas coisas, certo? Então, é muito importante corrigir as vulnerabilidades conhecidas. Agora, temos, ainda mais importante, o domínio das vulnerabilidades desconhecidas, ou dos zero-days, certo? Isso está se tornando mais importante com o surgimento de modelos de fronteira que têm, entre aspas, “o poder necessário”, como Mythos. O ChatGPT agora tem o Daybreak, mas Astra também é muito capaz nisso. Basicamente, os modelos de fronteira são muito bons em encadear várias vulnerabilidades menores para criar exploits, certo? E, por isso, o domínio dos zero-days é muito importante. Depois,

12:59 temos essas camadas emergentes, ou você também pode pensar nelas como alvos laterais, alvos fáceis, portas secundárias pelas quais os atacantes estão entrando, certo? Antes, eles iam até a porta da frente e ouviam: “Entrada proibida. Nosso código de produção é muito seguro.” Agora, os atacantes meio que sabem: “Ei, na verdade, vamos atacar seu CI/CD, porque ninguém está realmente [fungada] olhando para isso direito. Está mal configurado e executa muitas dependências e coisas do tipo. Vamos atacar a estação de trabalho do desenvolvedor, porque o desenvolvedor está baixando coisas para se preparar. Você tem um período de espera, mas o laptop da estação de trabalho do desenvolvedor tem um período de espera? Não. Então, vamos

13:31 atacar o laptop do desenvolvedor. Vamos atacar a nova camada agêntica. Ela está surgindo e mudando muito. As pessoas nem sabem o que está acontecendo. E é possível envenenar os modelos. Essas novas portas secundárias são alvos fáceis, e os atacantes sabem muito bem disso. E o último ano mostrou isso. Infostealers para macOS, todo esse tipo de coisa. Então, é mais ou menos assim que a Chainguard pensa sobre o assunto. E depois vou me aprofundar — também vou tentar combinar isso com formas mais gerais de lidar com essas questões. Certo? Para os zero-days, temos… Vou falar da Athena por último. Então, o nosso

14:02 produto clássico, uma solução clássica que oferecemos há muito tempo, são contêineres sem vulnerabilidades conhecidas. Se você migrar para eles, basicamente não terá nenhuma vulnerabilidade. Vou falar mais sobre isso daqui a pouco. Para malware, temos nossas bibliotecas da Chainguard. Compilamos a partir do código-fonte. Você baixa de nós em vez de baixar do PyPI, do NPM ou do Maven Central. Isso torna estruturalmente impossível muitos tipos de ataque. Então, basicamente, são repositórios substitutos. Para zero-days, temos trabalhado com grandes bancos e

14:33 outras empresas de tecnologia. E temos um grande consórcio. A Athena é uma solução consorcial. Basicamente, temos uma central de compartilhamento onde coletamos zero-days conhecidos e depois os disponibilizamos às pessoas do consórcio. Também temos nossos novos Chainguard actions e Chainguard skill, Chainguard agent skills, que são versões reforçadas de ações de CI/CD ou de agent skills que você pode…

15:04 entra direto. Em termos daquela área de que eu estava falando, a área de CVEs, aquela área meio legada que você ainda não pode ignorar, o grande problema é esse problema do iceberg, certo? Você precisa executar isso em alguma infraestrutura, mas essa infraestrutura, em sua maior parte, está fora do seu controle. Isso basicamente significa que, digamos, 2% do código que você executa é o código da sua aplicação. Esse número é inventado, mas eu diria que não é um número inventado ruim. Na verdade, provavelmente está bem perto. Pode ser 1%. O que é de fato o código que seus

15:36 engenheiros escreveram, e eles podem introduzir problemas nele. Isso não é… Nós fazemos segurança da cadeia de suprimentos de software. Todo o resto é mais a nossa área. Então, se você não controla o sistema operacional, a camada da aplicação, o runtime da linguagem — essas são as camadas em que fica a maioria das vulnerabilidades, certo? E eu chamo isso de “meu chefe me mandou corrigir um problema do Ubuntu”. Basicamente, é como se, bem, agora tivéssemos que corrigir todas essas coisas em sistemas que não controlamos. A maneira como a Tanker pensa nisso é que, na verdade, começamos do zero com uma nova distribuição do Linux

16:07 chamada Wolfi, que foi basicamente construída do zero para resolver esse problema. E fazemos isso principalmente tornando-a uma distribuição rolling release. Então, não há muito upstream além do código dos mantenedores upstream em que você está basicamente confiando, certo? E nós incorporamos as atualizações muito rapidamente. As coisas são incorporadas. As imagens são reconstruídas de uma a quatro vezes por dia. Então, é uma abordagem bem diferente. Não ficamos em versões estáveis, certo? É uma abordagem bem diferente. Também tentamos ser minimalistas e fazer outras coisas. Ser minimalista também ajuda com zero-days.

16:38 [fungada] Esta é nossa SLA. Então, observem: 30, 16, 90. Na verdade, é 1, 7, 14. Um dia para uma vulnerabilidade sabidamente explorada, sete dias para vulnerabilidades críticas e 14 dias para todo o resto. Quanto aos 14 dias, muitas dessas coisas são coisas que nenhuma equipe jamais corrigiria, certo? Em muitas equipes, vulnerabilidades médias e baixas nunca seriam triadas, em circunstância alguma. Então, o que mais achamos realmente importante? Isso não é um produto. É algo com que nos importamos.

17:08 Salsa e Sigstore: basicamente, achamos que você deve assinar tudo. Sempre que um artefato é criado, assine-o e depois passe-o adiante; em seguida, verifique essa assinatura do outro lado, certo? E o que você pode usar para essa stack é o Sigstore, que é muito útil para isso, certo? E o Salsa basicamente serve para anexar a provenance do artefato, assiná-la criptograficamente e depois verificá-la em qualquer outro pipeline interno que você tenha, certo? É uma maneira muito eficaz de ter pipelines de zero trust. É muito bom neste

17:39 ambiente atual. Muitos desses ataques são basicamente diferentes tipos de ataques a pipelines, mexendo nas suas tags, nas suas páginas de download, nas suas dependências, em qualquer coisa entre o código-fonte e o lugar de onde seus usuários obtêm os arquivos. O Libraries é basicamente… E este é um mecanismo novo, então às vezes é um pouco difícil para as pessoas entenderem: “Espera, qual é o objetivo disso?” Basicamente, pegamos código-fonte limpo. A maioria dos ataques acontece depois do código-fonte

18:09 e antes da distribuição do artefato. Então, pegamos o código-fonte e o retiramos por via aérea daquela situação dos mantenedores, com a página de distribuição, o CI/CD e tudo mais. Nós o retiramos de lá, num helicóptero pequeno. Colocamos no nosso sistema, compilamos tudo e depois passamos para você, certo? Então, ele é compilado a partir do código-fonte. Também fazemos varredura e outros tipos de remediação e triagem, sabe, além disso, mas a compilação a partir do código-fonte é um mecanismo meio único que usamos. E então acho que o Ubuntu não está atualizando.

18:40 [risos] Talvez eu devesse estar usando Wolfi. E também temos o ChainGuard Actions. Estamos pensando mais nessa área agora, mas basicamente tentando remediar esse problema de o CI/CD ser um dos principais alvos fáceis no ambiente moderno, certo? Então, ChainGuard… Você pode baixar. Pode experimentar. É gratuito para testar. O ChainGuard Actions: você pode adicioná-lo às GitHub Actions. Também estamos pensando em outras maneiras de fazer isso. Acho que

19:10 não sei exatamente o que posso dizer. Estamos com o Assemble London acontecendo, então você pode acompanhar nesta semana, certo? Isso é algo em que eu mesmo tenho trabalhado bastante: as agent skills da Chingford. As agent skills da Chingford funcionam basicamente assim: pegamos skills de terceiros do upstream, reforçamos a segurança delas no nosso pipeline e depois as passamos para você. Elas passam por várias etapas determinísticas e não determinísticas, além de etapas agentic. Acabei de lançar um vídeo meio estranho, com uma pegada de machinima, meio Minecraft, que

19:41 explica como o pipeline funciona. Se quiser, confira no canal do YouTube da R. Mas, enfim, uma análise recente minha indica que cerca de 5% das agent skills em repositórios upstream são ativamente maliciosas. No começo do ano, acho que eram cerca de 20%, embora isso tenha mudado um pouco. E outras 30% a 40% têm problemas ou implicações sérias de segurança que as tornam inseguras, mesmo sem terem sido criadas com intenção maliciosa. Também é possível, na sua própria

20:12 organização, enviar skills para serem reforçadas e depois descobertas por outras pessoas dentro da sua organização. Então, é basicamente uma apresentação rápida e improvisada; hoje, uma apresentação de 20 minutos é meio que a nova lightning talk, certo? Estou tentando cobrir bastante coisa. Espero que possamos responder a uma ou duas perguntas. Mas está chegando o Open Source Finance Forum. É engraçado: acabei de olhar o slide e estava escrito “open source fiance forum”. Na verdade, isso é meio divertido. Devíamos ter o Open Source Fiance Forum. Mas é o Open Source Finance Forum

20:43 em 5 de novembro. Será com Dan Lawrence, nosso CEO, e líderes do consórcio Athena. Confiram pelo QR code ali. Espero que funcione. E este é o nosso… Se você… Sei que há muitas pessoas da área financeira na sala; este QR code leva à nossa página “comece aqui” para quem trabalha com finanças. Venham visitar nosso estande. Ficamos no estande 23. Estamos atrás de uma coluna enorme, então é muito difícil nos ver. Procurem atrás de todas as colunas na grande sala da exposição e

21:14 vocês devem conseguir nos encontrar. Meu nome é Patrick Smith. Este é meu LinkedIn e esta é Wolfie. Wolfie é o menor polvo do mundo. Ele é muito pequeno. É minimalista. Ser minimalista ajuda com zero-days. Ele tem o tamanho de uma unha. Não há muitos vídeos dele. Este é um dos poucos que estão online. Vou deixá-lo na tela por um segundo e espero que tenhamos tempo para algumas perguntas. Obrigado. [aplausos]

Transcrição original

[00:01] [music] >> So, this is how Frontier AI changed risk tolerance for open source. Kind of wanted to subtitle it, you know, how I learned to love the atomic bomb or whatever, but uh decided not to go for that. So, I’m Patrick Smith. I work for Chainguard. When I’m not thinking about the software supply chain or messing around with um you know, Frontier AI, uh I am

[00:34] hanging out in Queens. >> [snorts] >> I’m one of these annoying people who like saunas all the time. If you’re out of town, we have some great ones in the city. There’s 10th Street. That’s one since around since the 19th century, and they have great food. And then there’s one at FiDi, too. So, um you know, and then I know there’s a lot of finance folks interested in this, so that’s the one. 88 Fulton. That’s the one if you’re if you’re down there. >> [laughter] >> Um okay. So, uh this is going to be the scaring you part of the the talk, basically, but um

[01:05] but this year So, here’s some just some fun headlines. So, 17-year-old Osakan teenager, he’s still in high school, used ChatGPT, wrote some scripts, exfiltrated something like 4.4 and 1/4 million records from the biggest um internet cafe in Japan, and then used one of the cards to to buy some Pokémon cards. Used one of the credit cards to buy Pokémon cards or whatever.

[01:35] So, people can be very smart and very dumb at that age. FunkSec. Somebody hits Thought to be an Algerian semi-technical person, hit 85 targets over the course of the last uh few months. Um one individual who has not been identified used Cloud CoVE to attack 17 organizations from ranging from healthcare to government to you know major corporations. Use

[02:05] cloud for everything from writing the ransom letters, picking the next target, organizing his files, and of course doing the attacks. Kind of a takeaway here is that the way I’ve been thinking about it is everyone kind of goes a level up in terms of threat. So if you were an actual engineer before, now you’re like a team. If you were actually you know a team before, now you’re like advanced persistent threat level. Um So here’s a little another little

[02:35] tidbit for you. This is a This is basically whether the patch comes before the exploitation. So the exploit you know obviously is the attack. The patch is remediation of the vulnerability. Back in ancient history in 2018 and 2019, it was 63 days. This is an average, so it’s pretty noisy, but it tells you something. Um it’s kind of there was this like secular trend that was going on for a long time that I guess is continuing though it’s kind of been drowned out of like You could kind

[03:07] of think of it as you know digital application or something like that. But basically like every you know hospitals were using Python code all of a sudden and stuff like that. So that secular trend sort of was responsible for this tightening over the course of you know 21, 22, kind of probably 23. But then you see in 23 and 24 and last year it just kind of left, right? I wonder what could have been causing all of that. We’ll talk about it. I think you already know. Um but now it’s negative 70 days. So actually the exploit the on average

[03:40] hits before the patch. That’s just from Mandiant. So they have their Mtrends report. Um this is kind of what it used to look like if you were at add organization who uh you know you would have say uh you you have x amount of software in your stack, you run scanners against it um such a you know scanners like Grype, Trivy, etc. Trivy also had a bad year. Um you uh scan against it, you get your x number of CVEs, known vulnerabilities that are rated you know from critical,

[04:11] high, medium, low. Um that goes to a team. They get some amount of things to remediate. All very sensible, all very good. Um the only problem is 30 days may as well be a million years in terms of some of these attacks that have been happening. >> [snorts] >> So this timeline basically you can’t you know I mean obviously you have to have some kind of timeline just because you’re remediating on some cadence, but it basically doesn’t work that well anymore. Um between uh attackers jumping on known vulnerabilities almost immediately, exploiting finding

[04:43] vulnerabilities out of ban, um and now these new sources of zero days cough cough we also know what that is. Um you know mythos, new frontier models um that this timeline is basically completely out the window. Um this is a whole other area of uh of fun and enjoyment that we had this this last year. So this is um just these I don’t know what you’d call it, but like these are I kind of you could think of it as the four horsemen here. They’re the met waves and waves of malware. Um every month uh you

[05:15] know I used to do a meme calendar for um supply chain attacks in old presentations where I’d have like one a month one big one every month and then I used to be like a big attack every month guys. It’s it’s really bad out there. And now it’s like it would be crazy. I could do a meme calendar of every day pretty much. And but the you know this is basically just I put um four up here, but three from one month um and then Shai Hulud which of course is just a perennial source of fun. But basically what is Shai Hulud? It’s a a worm

[05:46] originated in JavaScript ecosystem. kind of showed everyone that you could do a huge worm and do really well. So, now there’s huge numbers of copycats shai huluds, there’s sandworm mode, all this kind of stuff. Shai hulud is a worm from Dune. Um so, you know, it’s a worm, worm, very clever. And then some of the code of these things, if you look at it, is actually pretty I mean, you you know, shouldn’t be too entertained by attackers like comments in their code or whatever, but it they they they name things in amusing ways. Um trivy got attacked, that’s a scanner. Um this is all the other three were all in March this year.

[06:16] Um trivy uh light it all in is a uh kind of rooter for for agents. And um you know, axios was only a supply chain attack, it was only live for 2 hours, 600,000 um downloads, okay? And a lot of these supply chain attacks So, this is malware we’re talking about in in specific. A lot of these attacks are chaining one from the other because everyone has everyone else’s dependencies, you compromise one person, now you’re compromising other people. So, something’s wrong in the state of Denmark. Um

[06:47] this is from Hamlet 2000. It’s a weird movie. You can go back and watch Hamlet 2000. Um and uh yeah, it’s agents, right? It’s frontier agents. And I think everyone in the room kind of knew that. Um that they have been accelerating everything, but but you you put that salt and pepper on everything, you know, you’re accelerating how you make code, you’re accelerating everything. Um but but it also [snorts] attackers are making heavy use of these. Um and the environments have changed a lot. Um I don’t know if folks have heard, you know, maybe I’m old or

[07:17] whatever, or like I kind of I’m enthusiastic of early computing and stuff. There’s this a concept called the eternal September. Basically, it was back in the day there would be these uh university networks. People were very like, you know, people probably wearing their bow ties or whatever. People were were very um polite, they had their like no community norms. Um everything would be stable. And then what would happen? September would roll around, students would join those accursed uh things that are always clogging up the university. Students would arrive and start messing

[07:48] up all the the networks and everything like that. They wouldn’t know any of the norms. They’d be talking in capital letters. They wouldn’t know any of the good emoticons or whatever. Um so, another way of thinking about it is the eternal September has kind of gone on forever. And this is how this happens all the time. Culture It’s a cultural thing, but it’s also like naturally you have an environment or community that is like high trust and moves to a uh sort of more adverse low-trust situation, okay? Um another way of thinking about this is this And this is just the basic problem of software supply chain security, okay?

[08:20] And it’s very simple, but when you think this way, I think it kind of clarifies a lot is that you have users. They’re relying on your infrastructure, on your software um to do the things that they do with with your with your your stack, with your business. Um you have a responsibility to them. Then, you turn around and you’re actually pulling from upstream. You were pulling from uh places that are, you know, you’re trying to vet, you’re trying to keep up with it, but it’s difficult. It’s a And any of those things that you pull in could

[08:51] potentially compromise you and your users, okay? So, it’s kind of But we’re all in this position, right? We’re all between in this very specific rock and hard place. And this is the base This is the fundamental problem of software supply chain security. Um so, again, we’re going to move from just random gloo doom and gloom to actually what you have to and should do this year. But I’m just going to throw out a few things, but this is to make a larger point, okay? You have to do um if you’re thinking about uh packages, you have to do cool down periods. If you are um

[09:24] you have if you’re thinking about see uh CVEs, you have to remediate them faster than ever. Um you have to sign, right? Um I’ll talk about it later, but salsa and sigstore, you know, sign your your uh your artifacts. Um you have to worry about operation security on developer laptops, um including physical keys. Um there’s a lot you have to worry about. Uh the point here isn’t so much I think I’ll dial in on a whole bunch of these as we go on, but the point here is actually like it’s

[09:54] time to get serious. Like it’s actually time to to take this seriously because right now it’s not 2024, it’s not 2023. It’s a actually significantly a much more adverse environment out there than it was just a few years ago, okay? Um there’s a and there’s a lot to do and it costs and uh it’s painful, but um some some of these you should do first and also I would say if you’re still, you know, moving to containerize, if you’re still moving to do CI/CD, um great time to finish those

[10:24] projects, right? Um because or I would say you you almost kind of need to because if you don’t have some of those um basic fundamental uh pieces in place, it can become very hard to do these other modernization efforts that have become more important over the last couple years. Now luckily now you have AI to do some leapfrogging there, so I wouldn’t be, you know, so down, but time to get that skunk works going, time to get those projects going, time to complete um your golden images program, etc., etc., okay? Centralize your containers. >> [snorts] >> Um who are we? We’re Chainguard. Um

[10:55] we’ve been thinking about this since 2021. Um we have uh four founders. They’ve created uh projects you have might have heard of them, Kubernetes, uh Sigstore, Salsa, um uh Google Distroless and we, you know, this is basically we’re basically here to just just think about the software sup- supply chain security problem and try to like nuke it from orbit basically. Um you know, we’re I’ll get into some of the specifics that we do um in a second, but here’s some just a few surfaces that I kind of

[11:27] want to dial into, okay? So, first First you’ve got um and these all interact in different ways, but you can think of them somewhat separately and sometimes it’s helpful to think of them separately. Okay? On the one hand, you’ve got um malware, okay? So, that was like your trivia, your Axioses, everything like that. That’s one vector, okay? That’s the kind of thing a cooldown period is going to help you with. Um then, you’ve got known vulnerabilities, okay? So, this is kind of like legacy security. Um yeah, people are often like, “Oh, see you know, it’s

[11:57] CVE is kind of the unit of this, right?” Common vulnerability and exposure. People are like, “CVEs are are CVEs are Yeah, a lot of CVEs are basically noise, but X percentage are actually important, you know? They actually need to remediate. The rest make The rest noise makes it harder to deal with the ones you actually need to deal with. And because they’re known vulnerabilities, you have to fix them because they’re in a database, right? Like someone could just be like, “Go find Here, look at your software, look at the database, and

[12:27] combine those two things together, right?” So, it’s actually very important to remediate known vulnerabilities. We now, even more importantly, have this realm of unknown vulnerabilities or like uh zero days, okay? So, this is becoming more important with the rise of frontier models that have {quote} the juice, like Mythos, um ChatGPT now has Daybreak, um but Astra, also very capable in this in this way. Um basically, frontier models are very good at chaining together lots of smaller vulnerabilities to make exploits, okay? And And so, that realm of zero days is very important. Um then,

[12:59] we have these emerging layers or you could also think of them as like side targets, soft targets, side doors that attackers are entering in through, okay? Used to be they’d come to the front door and be like, “No admittance. Our production code is very secure.” Now, attackers kind of know, “Hey, actually, let’s hit your CI/CD cuz that’s No one’s really [snorts] looking at it that much. It’s misconfigured. It’s running a lot of dependencies and stuff in there. Uh let’s hit the developer workstation cuz the developer is pulling things to prepare. You have a cooldown period, but does your developer workstation’s laptop have a cool down period? No. So, let’s

[13:31] attack the developer laptop. Let’s attack the new agentic layer. It’s emerging. It’s changing a lot. People don’t even know what’s going on. And you can poison the models. So, the the that’s these new uh side doors that attackers are very conscious are the soft targets. And And the last year has shown that. Mac OS stealers, all this kind of stuff. So, this is kind of how Chainguard’s thinking about it. And then we’ll dial in on I’ll try to also combine with more general ways that these things can be addressed. Okay? For zero days, we have um we’ve I I’ll actually get to Athena last. Um so, our

[14:02] classic um uh a classic sort of thing that we’ve been providing for a long time is um containers that have no known vulnerability. So, if you migrate onto them, they basically don’t have any vulnerabilities at all. I’ll talk more about that in a second. Um for malware, we have our Chainguard libraries. We build from source. Um you pull from us instead of from PyPI, NPM, Maven Central. And makes a lot of attack structurally impossible. Um so, basically replacement repositories. Um for zero days, we’ve been working with um major banks um and

[14:33] other uh tech companies. And uh we have a large consortium going to Athena’s a consortial solution. So, basically we we do have a clearinghouse where we um take uh uh known zero days and then we provide them back to people within the consortium. Um and then we also have our new uh Chainguard actions and Chainguard skill uh Chainguard agent skills that are hardened uh versions of CICD actions or agent skills um that you can kind of

[15:04] drop in. Um in terms of the the sort of that area that I was talking about, that CVEs area, that sort of like legacy area that you still can’t ignore, uh the big problem is this like iceberg problem, right? Is that you have to run it in some infra, but that infra is um Um, most of it is beyond your control. Um, so that basically means that like say 2% of the code that you run is your application code. That’s made up number, but I would say it’s actually not a bad made up number. It’s actually probably pretty close. Could be 1%. Um, is actually your code that your

[15:36] engineers wrote and they can introduce problems in that. That’s not We do software supply chain security. Everything else is kind of more our area. So, if you can don’t control the OS, um, the application layer, the language runtime, that those are the layers that most of the vulnerabilities are on, okay? And I call this the uh, my boss told me to fix a Ubuntu problem. Um, and it basically is like, well, okay, now we somehow have to fix all these things in systems that we don’t control. The way that Tanker thinks about this is that we actually started over with a new distribution of Linux

[16:07] that is called Wolfi and it’s basically just completely, um, you know, from the built from the ground up to be to solve this problem. And we may mostly do that by having it be a rolling distro. So, there’s kind of like not much of an upstream beyond You’re basically running on upstream maintainers, um, code, okay? And we pull in very quickly. Things get pulled in. Images get rebuilt, uh, one to four times a day. Um, so it’s a very different way of approach. We don’t sit on stable versions, okay? It’s a very different approach. We also try to be minimal and do some other things. Minimal also helps with zero days.

[16:38] >> [snorts] >> This is our SLA. So, note 30 16 90. It’s, uh, 1 7 14. One day for a known exploited vulnerability, seven days for criticals, and then 14 days for everything else. So, the 14 for a lot of that 14, that’s stuff that no team would ever fix, right? Like a lot on a lot of teams, mediums and lows would never be triaged in under any circumstances. So, um, what else do do we think is really important? This is not a product. This is, uh, something we care about. Um,

[17:08] Salsa and Sigstore, um, basically we think you should sign everything. Whenever an artifact is created, sign it and then pass it off, then check that signature on the other end, okay? That’s And what you can use for this for this stack is Sigstore is very useful for this, okay? Um and then Salsa is basically like attach provenance of the artifact, cryptographically sign it, and then check it on any other internal pipeline that you have, okay? So, it’s a way of doing like a zero-trust pipelines that’s very effective. It’s very good in this

[17:39] current environment. A lot of these attacks are basically pipe different kinds of pipeline attacks, messing with your um your your tags, your download pages, um your depths, uh anything earlier between source and where your users get stuff. Um libraries is basically uh we take And this is a new mechanism, so it’s a little hard to it’s a little hard sometimes to for people to be like, “Wait, what’s the point of this?” Basically, we take clean clean source. Most attacks are after source

[18:09] and then between the source and the distribution of the artifact. So, we take the source, we airlift it out of the maintainers kind of like, you know, situation with their distribution page and their CI/CD and everything. We airlift it out, little helicopter. We put it into our system, we build it all, and then we pass it on to you, okay? So, it’s built from source. We also do scanning, another kinds of remediation triage, you know, uh to, you know, beyond that, but you know, the built-from-source is a kind of unique mechanism that we do. And then I guess Ubuntu’s not updating.

[18:40] >> [laughter] >> Maybe I should be running on Wolfi. And um and then see our ChainGuard Actions, and we’re thinking about more in this space now, but basically trying to remediate this this problem of CI/CD is being this this one of the main soft targets in the modern um environment, okay? So, ChainGuard You can pull You can try it out. It’s it’s free to try it out. ChainGuard Actions, um you can drop them in for GitHub Actions. Um we’ll also be thinking about other ways where, you know, I think

[19:10] I don’t know what exactly what I’m allowed to say. We have Assemble London going on, so you can tune into that this week, okay? Um this is something I’ve been working a lot on myself, too, is the Chingford agent skills. So, Chingford agent skills is basically we take upstream third-party skills, um we harden them in our pipeline, and then we pass them on to you. Uh so, it goes through a whole bunch of deterministic and non- and in-agentic steps. I actually just released a weird little video with like, you know, like Machinima kind of Minecraft-esque that

[19:41] will kind of explain how the pipeline works. If you want to check that out on the R YouTube channel. But, um but yeah, so, you know, and a lot of agent skills like my own in um recent uh analysis is something like 5% of agent skills on upstream repositories are actively malicious. Um earlier in the year, I think it was like something like 20%, though I think it’s changed a little bit. And then another like 30 to 40% have serious security issues or implications um that make them insecure even though they’re not intended to be malicious. Um we also can in your own

[20:12] organization, you can upload um uh skills to be hardened and then discovered by folks within your own organization. Um so, it’s basically a quick and dirty, you know, a 20 minutes is kind of the new lightning talk, right? And I’m trying to cover a lot of ground. Um hopefully we can maybe answer a question or two. Um but we have the open source finance forum forum coming up. It’s funny when I just just now was looking at the slide and it said open source fiance forum. So, that’s not a kind of fun, actually. We should have the open source fiance forum. But, um but it’s the open source finance forum

[20:43] on November 5th. Um that’s with Dan Lawrence, our CEO, and uh leaders who are leaders from the Athena consortium. Uh check that out. That’s the QR code there. And then hope hopefully it works. And then um this is our fi If you’re I know there’s a lot of finance folks in the room, this is QR code is to our like start here if you’re in finance page. Um come do check out our our in um in It’s booth 23. We’re behind a big column, so we’re really hard to see. So, just look behind all the columns in the big expo room and

[21:14] you should be able to find us. And then my name’s Patrick Smith. Uh this is my LinkedIn and this is Wolfie. Wolfie is the smallest octopus in the world. He’s really tiny. He’s minimal. Being minimal helps with zero days. Uh it’s he’s the size of a of a fingernail. There’s not that many videos of him. This is one of the few that are online, but he you know, I’ll leave him up for a second and then hopefully we have time for just a couple questions, but thank you. >> [applause]