Testando chips de IA para sobreviver no espaço

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Testing AI chips to survive in space · Canal: Google · 02:41 · Assistir no YouTube

Tópicos: Avaliação e benchmarks de IA, Infraestrutura e hardware de IA

Resumo

O Project SunCatchers, do Google, investiga a possibilidade de usar data centers de IA em órbita, aproveitando energia solar. A equipe testa se os chips e seus invólucros resistem às vibrações e acelerações de um lançamento, além da radiação e dos raios cósmicos no espaço. Em testes com feixes de prótons e cargas de trabalho reais de IA, foram observados erros, incluindo um caso de corrupção silenciosa de dados (SDC). Os resultados indicam que a TPU resistiu bem às condições simuladas para cinco anos de órbita, embora cada componente tenha taxas de sobrevivência e erro diferentes.

Pontos-chave

O Project SunCatchers busca viabilizar data centers de IA no espaço usando energia solar.
Durante o lançamento, componentes podem sofrer vibrações intensas e acelerações de até 50 a 100 Gs.
Uma mesa de vibração testa os protótipos nos três eixos com frequências que simulam o lançamento de um foguete.
Raios cósmicos e partículas de alta energia podem danificar eletrônicos e causar inversões de bits.
Os testes de radiação incluem bombardear o hardware com prótons em uma instalação de feixe de prótons.
A equipe executa cargas de trabalho reais de IA durante os testes para observar os efeitos dos erros no treinamento.
Um teste com feixe detectou corrupção silenciosa de dados (SDC), pela primeira vez nesse tipo de teste da equipe.
A TPU teve bom desempenho nos testes que simulavam cinco anos em órbita, mas a resistência varia entre componentes.
O projeto pretende aproveitar avanços comerciais em vez de esperar por longos ciclos de desenvolvimento de hardware próprio para o espaço.

Capítulos

Início	Capítulo	Resumo
00:00	A proposta do Project SunCatchers	O vídeo apresenta a ideia de levar data centers de IA para o espaço e a questão de saber se o hardware sobreviverá.
00:30	Testes de vibração do lançamento	A equipe simula as forças do lançamento de foguete e testa o invólucro personalizado em uma mesa de vibração.
01:33	Radiação e danos aos componentes	O vídeo explica os erros causados pela radiação e descreve testes que bombardeiam o hardware com prótons.
02:07	Resultados dos testes e próximos desafios	A equipe relata a detecção de corrupção silenciosa de dados e a boa resistência da TPU nas condições simuladas para cinco anos em órbita.

Citações

Uma das perguntas mais importantes é se esse hardware de IA e o sistema conseguem sobreviver no espaço. — 00:00

Zero pode virar um, e um pode virar zero. — 01:33

Foi a primeira vez que encontramos uma corrupção silenciosa de dados durante um teste com feixe. — 02:07

Podemos aproveitar os avanços da indústria comercial e enviá-los imediatamente ao espaço. — 02:41

Conceitos e entidades

Project Sun Catcher (conceito): Iniciativa do Google para explorar data centers de IA no espaço, aproveitando a energia solar.
Google (empresa): Empresa responsável pelo Project SunCatchers.
Planet (empresa): Empresa mencionada como responsável pelo projeto do invólucro personalizado para proteger o hardware.
TPU (modelo): Acelerador de IA avaliado nos testes de resistência às condições simuladas de órbita.
single event upsets (conceito): Erros causados por partículas de alta energia que podem inverter um bit, alterando zero para um ou vice-versa.
total ionization dose (conceito): Dano acumulado provocado pela exposição contínua do hardware a um ambiente de radiação.
silent data corruption (conceito): Corrupção de dados que ocorre sem ser detectada de imediato, observada pela equipe durante um teste com feixe de prótons.

Tradução completa (pt-BR)

00:00 O Project SunCatchers é uma iniciativa ambiciosa do Google para ampliar a escala de data centers de IA no espaço, aproveitando a energia solar gratuita disponível. >> [música] >> Uma das perguntas muito importantes que fazemos é se esse hardware de IA e o sistema conseguem sobreviver no espaço. >> São 10 minutos de viagem [música] em um foguete até a órbita baixa da Terra, e durante esse trajeto a espaçonave ficará exposta a [música] vibrações tremendas

00:30 e também a cargas de aceleração sustentadas de até 10 vezes a força da gravidade. Componentes individuais, como [música] os chips de IA, podem chegar a sofrer forças amplificadas de até 50 a 100 Gs. Então, a importância dos testes de vibração é garantir que a embalagem personalizada projetada pela Planet para impedir que esse hardware se quebre seja suficiente. O principal equipamento de que precisamos é uma mesa de vibração que possa ser programada com as frequências [música] que vão simular o lançamento do foguete. Então, vamos construir

01:00 nosso primeiro protótipo de uma embalagem >> [música] >> e depois colocá-lo em uma mesa de vibração e sacudi-lo nos três eixos. Esses primeiros testes de vibração com protótipos, meio que uma aposta ambiciosa, raramente saem como você espera [música] e, por isso, acho que ficamos agradavelmente surpresos com o resultado. Quando você chega ao espaço, fica sujeito a eventos solares e também a raios cósmicos. Essencialmente, [música] partículas de alta energia que podem causar estragos nos seus componentes eletrônicos. >> De certa forma, estamos protegidos dessa radiação por causa da atmosfera da Terra

01:33 . Vivemos sob esse lindo cobertor, certo? Mas, no espaço, ela pode causar danos graves. Pode acontecer algo como uma inversão de bit. Um zero pode virar um, um um pode virar zero, e isso é o que chamamos de perturbação de evento único. Então, esse é um tipo de erro, e ele pode ser corrigido. O outro é a dose total de ionização >> [música] >> e esse é o dano causado pela exposição constante a esse ambiente de radiação. >> [música] >> E, para testar isso, levamos o equipamento a esta instalação de feixe de prótons e o bombardeamos diretamente com esses prótons.

02:07 Enquanto fazemos isso, executamos cargas de trabalho reais de IA e observamos como os erros podem afetar [música] nosso treinamento. >> Então, nossos testes encontraram o que é chamado de SDC, ou corrupção silenciosa de dados. >> [música] >> É a primeira vez que encontramos uma SDC durante um teste com feixe. >> Estávamos testando se a TPU sobreviveria por 5 anos ao tipo de órbita [música] que estamos considerando, e cada componente tem diferentes taxas de sobrevivência e diferentes taxas de erro. E a TPU se saiu muito bem.

02:41 >> O importante aqui é que podemos aproveitar os avanços da indústria [música] comercial e enviá-los imediatamente para o espaço, em vez de esperar por longos ciclos de projeto [música] para torná-los qualificados para uso espacial. >> Esses projetos são arriscados. Às vezes, as coisas não dão certo, mas, se você é cientista, está pronto para encarar esse desafio e resolver os problemas que surgem pelo caminho. E pode acabar com algo completamente diferente ou novo, que é, essencialmente, a parte divertida de trabalhar em algo assim.

Transcrição original

[00:00] Project SunCatchers is Google’s moonshot effort to scale AI data centers in space utilizing the free solar power available. >> [music] >> One of the very important questions we ask is whether this AI hardware and the system can survive in space. >> It’s a 10-minute ride [music] on a rocket to lower Earth orbit and during that the spacecraft is going to be exposed to [music] tremendous

[00:30] vibration forces as well as sustained acceleration loads up to 10 times the force of gravity. Individual components such as [music] the AI chips can actually experience up to 50 to 100 Gs of [music] amplified forces. So really the importance of vibration testing is to ensure that the custom packaging that Planet has designed to prevent this hardware from breaking is sufficient. The main piece of equipment we need is a vibration table that can be programmed with the frequencies [music] that will mimic the rocket launch. So we’ll build

[01:00] our first prototype of a package >> [music] >> and then put it on a vibe table and we will shake it in all three axes. These early prototype or or kind of moonshot vibe tests, they rarely go as you expect them to [music] and so I think we were pleasantly surprised how well it went. Once you get into space, now you’re subjected to solar events as well as cosmic rays. Essentially [music] high-energy particles that can wreak havoc on your electronics. >> We are protected in some ways from this radiation because of the Earth’s

[01:33] atmosphere. We live underneath this beautiful blanket, right? But in space, it can create severe damage. You can have something like a bit flip. Zero can become a one, one can become a zero and these are actually what are called single [music] event upsets. So that’s one kind of error and these are correctable. The other is total ionization dose >> [music] >> and this is the damage of it being constantly under this radiative environment. >> [music] >> And the way we test for this is we take it to this proton beam facility and bombard it directly with these protons.

[02:07] While we are doing this, we actually run actual AI workloads and we see how the errors can affect [music] our training. >> So, our tests have found what is called an SDC or it’s called a silent data corruption. >> [music] >> It is the first time we have found actually an SDC during a beam test. >> So, we were testing for if the TPU would survive 5 years of the kind of orbit [music] that we are looking at and each part has different survival rates and different error rates. And the TPU has held up remarkably well.

[02:41] >> The importance here is that we can leverage the advances in the [music] commercial industry and immediately send those to space instead of waiting for long design cycles [music] to make it space rated. >> These are risky projects. Sometimes these things don’t work out, but if you are a scientist, you’re ready to kind of face that challenge and solve the problems that come along the way and you might end up with something completely different or new, which is essentially the fun part of working in something like this.