Conheça os modelos que estão chegando ao seu datacenter

Autoria: VAST Data · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Meet the Models Coming to Your Datacenter · Canal: VAST Data · 04:11 · Assistir no YouTube

Tópicos: Agentes de IA, Governança e regulação de IA, Infraestrutura e hardware de IA, Modelos locais e open source, Privacidade e proteção de dados

Resumo

O vídeo apresenta os desafios de usar IA com dados confidenciais e a necessidade de manter esses dados privados, seguros e sob controle. A VAST Data anuncia o VAST DataEnclave, uma capacidade baseada em confidential computing que leva modelos com pesos criptografados ao datacenter, sem exigir que os dados sejam copiados para fora. A proposta combina computação local, segurança e implantação em ambientes isolados para atender setores regulados. O vídeo também prevê um papel crescente para agentes no desenvolvimento de software e destaca a importância da governança humana e da confiança.

Pontos-chave

Clientes querem usar IA com dados proprietários sem transmiti-los para fora de seus ambientes.
A confidential computing permite levar pesos de modelos criptografados ao datacenter.
O VAST DataEnclave é apresentado como uma nova capacidade para executar modelos junto aos dados.
A proposta busca evitar a escolha entre velocidade e segurança.
Ambientes regulados podem exigir implantações locais, seguras e totalmente air-gapped.
A VAST Data combina computação local, o VAST AI Operating System e o DataEnclave.
O vídeo prevê o uso de agentes em todas as etapas do ciclo de desenvolvimento de software.
Humanos continuarão responsáveis pela governança e pelas políticas que orientam os agentes.
A meta anunciada é viabilizar modelos e conjuntos de dados seguros em datacenters de nuvem pública ou privada.

Capítulos

Início	Capítulo	Resumo
00:00	O desafio de proteger dados confidenciais	O vídeo apresenta a necessidade de IA privada e os riscos associados a agentes que atuam em bases de código.
01:04	Apresentação do VAST DataEnclave	A VAST Data anuncia uma capacidade que usa confidential computing para aproximar modelos seguros dos dados.
02:06	IA segura para setores regulados	O vídeo aborda implantações locais e isoladas e prevê o uso de agentes no ciclo de desenvolvimento de software.
03:09	Confiança e expansão da IA	Os participantes destacam a confiança, a auditoria e a possibilidade de implantar modelos e conjuntos de dados seguros em datacenters.

Citações

A peça-chave mais importante é a confidential computing. — 00:00

Quero levar a IA para onde meus dados já estão. — 00:30

Não precisamos fazer essa falsa escolha entre rapidez e segurança. — 01:36

Os humanos se tornam mais relevantes do que nunca ao conduzir a camada de governança e políticas. — 02:38

A inteligência se torna ilimitada. — 04:11

Conceitos e entidades

VAST Data (empresa): Empresa que apresenta uma plataforma de dados em escala de exabytes e anuncia o VAST DataEnclave.
VAST DataEnclave (ferramenta): Capacidade anunciada pela VAST Data para levar modelos seguros aos dados em ambientes de datacenter.
confidential computing (conceito): Abordagem mencionada no vídeo para levar pesos de modelos criptografados ao datacenter.
VAST AI Operating System (ferramenta): Sistema citado como parte da pilha segura de IA da VAST Data.
air-gapped (conceito): Característica de ambientes isolados, sem conexão com redes externas, nos quais a solução pode ser implantada.
agents (conceito): Sistemas que podem executar ações e, segundo o vídeo, participar de todas as etapas do desenvolvimento de software.
regulated industries (conceito): Setores sujeitos a exigências de segurança, governança e conformidade.

Tradução completa (pt-BR)

00:00 Parece mais confortável. Som a postos. Primeira tomada. As informações são proprietárias demais e confidenciais demais. Este é um problema realmente desafiador e complexo. Há muitos clientes que realmente precisam de IA privada. Quando agents executam ações dentro da base de código, surge todo um novo mundo de riscos. O elemento mais importante é a computação confidencial.

00:30 Os clientes querem uma solução criptografada. Alguns países querem garantir que tudo seja hospedado localmente e que nada fique na nuvem. O maior impacto está realmente nos dados mais sensíveis. Quero levar a IA até onde meus dados já estão. Se você quer que esses aplicativos altamente sensíveis tenham a opção de dizer: “Ei, não quero transmitir meus dados”, precisa levar a computação até os dados. Os clientes estão procurando modelos que lhes permitam manter suas informações privadas.

01:04 Eles não querem compartilhar suas informações proprietárias com todo mundo. Estamos desenvolvendo nossos modelos de última geração e um sistema de agents que entendem vídeos de forma holística, no local onde ficam os dados dos clientes. A plataforma de dados em escala de exabytes da VAST já está onde o cliente está. Até hoje, os melhores modelos de IA não conseguiam raciocinar com segurança sobre dados sensíveis. E queremos mudar isso. Então, hoje, temos o prazer de apresentar uma prévia de um novo recurso que lançaremos nos próximos meses. Ele se chama VAST DataEnclave.

01:36 A computação confidencial nos permite levar pesos de modelos criptografados para o data center. Bem ali, sem precisar copiar os dados para fora dele e sem precisar de um enclave separado. Acho que, pela primeira vez, realmente não precisamos fazer essa falsa escolha entre rapidez e segurança. A plataforma não consegue comprovar que é confiável. Não há atestação, não há acesso, ponto-final. Esse controle é fundamental numa época em que a IA está se tornando mais importante do que nunca nas atividades cotidianas típicas de uma empresa. À medida que ampliamos nosso uso da IA,

02:06 segurança e proteção passam a ocupar o centro das atenções. Clientes que dispõem de enormes quantidades de conteúdo em vídeo em setores regulamentados estão, francamente, limitados. E muito disso tem a ver com segurança, governança e a necessidade de uma pilha completamente segura. Isso permite fazer o deploy em ambientes seguros totalmente isolados da rede. Podemos fazer isso com rapidez, usando computação local. Podemos fazer isso com segurança, usando o VAST AI Operating System e o DataEnclave. Daqui a um ano, uma equipe de software de um setor regulamentado

02:38 poderá usar agents em todas as etapas do ciclo de vida de desenvolvimento de software. Hoje, uma empresa tem mil funcionários, e o conhecimento coletivo deles representa a forma como essa empresa opera. Essa mesma empresa terá um milhão de agents. Atualmente, a maioria das empresas e órgãos governamentais do mundo procura soluções baseadas em agents para ambientes altamente seguros, regulamentados e sujeitos a uma governança rigorosa. Os seres humanos se tornam mais relevantes do que nunca ao conduzir a camada de governança e políticas à qual os agents, em última instância, devem se submeter.

03:09 Do prompt à geração de insights utilizáveis e artefatos, o processo agora é automatizado de ponta a ponta. E vocês são a plataforma ideal para isso, certo? Para disponibilizar esses enclaves confidenciais a todos os fornecedores de modelos, permitindo que levem seus modelos com segurança até a borda. Então, quando pensamos no papel desse ecossistema, obviamente temos um papel a desempenhar. É preciso haver muita confiança para que os clientes não apenas obtenham todos os benefícios da IA, mas também construam uma pilha em que possam confiar. É uma confiança construída com base na excelência de engenharia

03:40 que seja auditável e à prova de falhas. Acho que este é o momento mais louco para estar vivo, para ser sincero. O desbloqueio que está acontecendo é fantástico. É uma experiência verdadeiramente mágica, que nossos clientes adoram. Nossa missão é tornar a IA onipresente, possibilitar sua ampla adoção e o desenvolvimento de cada vez mais aplicativos de IA. O anúncio do DataEnclave de hoje desbloqueia a possibilidade de fazer o deploy de modelos seguros e conjuntos de dados seguros em qualquer data center de nuvem pública ou privada.

04:11 Estamos empolgados para construir a próxima fase desta revolução da IA. A inteligência se torna ilimitada.

Transcrição original

[00:00] Feels more comfortable. Sound speeds. Take one. The information is too proprietary and too confidential. This is a really challenging and complex problem. There’s a lot of customers that really need to have private AI. When you have agents taking actions inside of the code base, there’s a whole new world of risk that is introduced. The most important key piece is confidential computing.

[00:30] Customers want to have an encrypted solution. Some countries, they want to make sure they host everything on-prem and nothing is on the cloud. The highest leverage is really around their most sensitive data. I want to bring the AI to where my data already sits. If you want these highly sensitive applications to have the option to say, “Hey, I don’t want to transmit my data.” You want to take the compute to the data. Customers are looking for models that they can keep their information private for themselves.

[01:04] They don’t want to share their proprietary information with everyone else. Growing our state-of-the-art models and agent system that understand video holistically to where customers’ data live. VAST’s exabyte-scale data platform already lives where the customer is. Till today, the best AI models could not securely reason over sensitive data. And we want to change that. So today, we’re happy to preview a new capability that we’re shipping over the next few months. It’s called the VAST DataEnclave.

[01:36] Confidential computing allows us to bring encrypted model weights into the data center. Right there, without being required to copy their data out of it, without needing a separate enclave. I think for the first time, really, we don’t have to make this false choice between fast and safe. The platform can’t prove it’s trustworthy. There’s no attestation, there’s no access, period. That control is critical in an era where AI is becoming more important than ever in the typical day-to-day activities of a business. As we expand our use of AI,

[02:06] safety and security take center stage. Customers that are sitting on top of massive amounts of video content in regulated industries, they are frankly constrained. And a lot of that has to do around security and governance and having a completely secure stack. That allows you to deploy into these secure environments fully air-gapped. We can do it fast with local compute. We can do it safe with the VAST AI Operating System and the DataEnclave. A year from now, a regulated software team

[02:38] will be able to use agents in every stage of their software development lifecycle. A company today has 1,000 employees, and their brains collectively represent the way that company operates, that same company will have a million agents. Most businesses and government agencies around the world today are looking for agentic solutions for highly secure, regulated, and highly governed. Humans become more relevant than ever by driving the governance and policy layer that agents are ultimately beholden to.

[03:09] From prompt to usable insight and artifacts generation is now end-to-end automated process. And you guys are that ideal platform, right? To be able to bring these confidential enclaves for all the model vendors to bring their models securely to the edge. So when you think about what this ecosystem is, we obviously have a role to play. There’s a lot of trust that has to happen for customers to really not only get the full benefits of AI, but also build a stack that they can rely on. It’s trust built upon engineering excellence

[03:40] that is auditable and bulletproof. I think this is the craziest time to be alive, to be honest. unlock, right, that is happening is fantastic. Truly a magical experience that our customers enjoy. Our mission is to make AI ubiquitous, to enable its widespread adoption and the development of more and more AI applications. Today’s DataEnclave announcement unlocks the opportunity to deploy secure models and secure data sets in any public or private cloud data center.

[04:11] We are excited to build the next phase of this AI revolution, intelligence becomes unbounded.