Não compre uma GPU para IA. Experimente primeiro estas 4 opções gratuitas

Autoria: Hyperautomation Labs · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Don’t Buy a GPU for AI. Use These 4 Free Ones First · Canal: Hyperautomation Labs · 04:12 · Assistir no YouTube

Tópicos: Infraestrutura e hardware de IA, Modelos de IA, Modelos locais e open source, Modelos multimodais

Resumo

O vídeo apresenta quatro serviços que oferecem acesso gratuito a GPUs ou aceleradores de IA: Google Colab, Kaggle com GPUs T4, Kaggle com TPUs e Hugging Face ZeroGPU. O apresentador testa modelos de diferentes tamanhos e compara desempenho, memória disponível e limites de uso. Cada opção atende a necessidades distintas, como experimentar modelos, executar modelos maiores, treinar ou testar apps de imagem. Comprar uma GPU pode fazer sentido se os limites de tempo forem insuficientes, se os dados não puderem sair de casa ou se for necessário deixar os modelos rodando durante a noite.

Pontos-chave

As opções gratuitas oferecem tempo limitado de uso de GPU, não um computador próprio.
O Google Colab é indicado para começar, com configuração simples e acesso a uma T4 ou a uma TPU pequena.
No Kaggle, duas GPUs T4 oferecem 32 GB de memória combinada e permitem executar modelos maiores.
As TPUs do Kaggle oferecem 128 GB de memória no total, mas exigem verificação de identidade e podem ter fila.
TPUs não executam Ollama; o vídeo cita JAX e Keras como ferramentas para usá-las.
O Hugging Face ZeroGPU oferece acesso a metade de uma GPU NVIDIA Blackwell com 48 GB, mas o plano gratuito limita o uso a cinco minutos por dia.
É possível combinar os serviços gratuitos para experimentar diferentes modelos e tarefas antes de comprar hardware.
Comprar uma GPU pode valer a pena quando os limites de uso são atingidos com frequência, os dados precisam ficar locais ou é necessário executar tarefas durante a noite.

Capítulos

Início	Capítulo	Resumo
00:00	Quatro opções gratuitas de GPU	O vídeo apresenta as opções gratuitas e explica que o acesso é limitado por cotas de tempo.
01:03	Google Colab e GPUs T4 do Kaggle	O apresentador testa modelos no Colab e compara o desempenho de uma e duas GPUs T4 no Kaggle.
02:07	TPUs do Kaggle	O vídeo explica os requisitos, as cotas e as limitações de uso das TPUs.
03:09	Hugging Face ZeroGPU e quando comprar	O apresentador demonstra o ZeroGPU, resume qual serviço escolher e indica em que situações comprar uma GPU pode fazer sentido.

Citações

Antes de clicar em comprar, pare. — 00:00

O que você recebe é tempo gratuito de GPU, não um computador para ficar com você para sempre. — 00:32

TPUs não executam Ollama. — 02:38

E você pode usar as quatro. — 03:40

Conceitos e entidades

Google Colab (ferramenta): Serviço de notebooks que oferece acesso gratuito, sujeito a disponibilidade e limites de sessão, a uma GPU T4 ou a uma TPU pequena.
Kaggle (ferramenta): Plataforma que, segundo o vídeo, oferece GPUs T4 e TPUs com cotas semanais e limites de duração das sessões.
Hugging Face ZeroGPU (ferramenta): Serviço apresentado no vídeo que permite executar apps de IA em uma GPU NVIDIA Blackwell, com uma cota diária gratuita.
Ollama (ferramenta): Ferramenta usada no vídeo para executar modelos em GPUs T4.
NVIDIA T4 (modelo): GPU usada nos testes do Google Colab e do Kaggle; o vídeo relata 15 GB de memória no teste do Colab e 16 GB por GPU no Kaggle.
NVIDIA Blackwell (modelo): Arquitetura de GPU citada como base do hardware oferecido pelo Hugging Face ZeroGPU.
TPU (conceito): Acelerador de IA do Google apresentado como opção no Kaggle, com oito unidades de 16 GB cada.
JAX (ferramenta): Ferramenta citada como uma das opções para trabalhar com TPUs, que não executam Ollama.
Keras (ferramenta): Ferramenta citada como uma das opções para trabalhar com TPUs, que não executam Ollama.
Persona (empresa): Serviço usado, segundo o vídeo, para a verificação de identidade exigida antes de liberar o acesso às TPUs no Kaggle.
Qwen (modelo): Nome corrigido da legenda automática para o app de imagens citado no teste do Hugging Face ZeroGPU.

Tradução completa (pt-BR)

00:00 Você colocou uma placa de vídeo no carrinho. Centenas de dólares, talvez mais de mil. Tudo isso para poder rodar IA por conta própria. Antes de clicar em comprar, pare. Neste momento, quatro grandes empresas vão emprestar uma GPU de graça. Sem cartão de crédito. Basta abrir um navegador. Testei as quatro diante das câmeras. Você vai ver o que cada uma roda, a velocidade e o limite real de cada uma. Depois, vai saber se precisa mesmo comprar alguma coisa. Primeiro, uma coisa. O que você recebe é tempo gratuito de GPU, não um computador que fica com você

00:32 para sempre. Cada uma oferece um período limitado: horas por semana ou minutos por dia. Quando o tempo acaba, ele é renovado e você pode usar de novo. Se planejar seu uso em torno desse limite, não vai custar nada. A número um é a mais fácil: Google Colab. Abra um notebook, clique em runtime e depois em change runtime type. Em uma conta gratuita, estas são as opções. Uma GPU T4 ou uma TPU pequena. As GPUs mais potentes aparecem desativadas. Essas são dos planos pagos. Escolha T4 e salve. Rodei um comando para ver o que consegui: uma Tesla T4 com 15 GB de memória. Depois, instalei Ollama e rodei um modelo de 8

01:03 bilhões de parâmetros: 32 tokens por segundo, mais rápido do que você consegue ler. Um modelo de 14 bilhões também cabe, mas uma T4 roda esse modelo a cerca de oito tokens por segundo. Este é o limite. O Google não diz qual GPU você vai receber nem por quanto tempo. As sessões duram até 12 horas quando há uma GPU disponível. Use o Colab na sua primeira tentativa. Não precisa configurar nada. A número dois oferece mais memória: Kaggle. Verifique seu telefone e cada notebook poderá usar duas NVIDIA T4, com 16 GB cada, por 30 horas por semana, até 12 horas de cada vez. Sem cartão. E, desde 15 de setembro,

01:36 a antiga opção de uma única GPU não existe mais. Duas T4 são agora a única opção de GPU no menu. Veja o que medi: um modelo de 8 bilhões, 32 tokens por segundo. O modelo de 14 bilhões, que se arrastava em uma T4, chegou a 13 tokens por segundo aqui. E o modelo de 32 bilhões, dividido entre as duas placas, chegou a 8,6. As duas GPUs ficaram cerca de 90% ocupadas. Esse modelo nem sequer carrega na maioria das placas de jogos. Duas coisas me deram problema. Mantenha seus modelos dentro da pasta de trabalho, senão o Kaggle avisa que há pouco espaço em disco. E, se você parar qualquer célula, também para o

02:07 Ollama. Basta iniciá-lo de novo. A número três está escondida no mesmo menu do Kaggle. Troque o acelerador para TPU. Esse é o chip de IA do próprio Google. São oito, com 16 GB cada. 128 GB de memória. 20 horas por semana, nove horas de cada vez. Mas duas coisas mudaram. Primeiro, agora o Kaggle pede uma rápida verificação de identidade antes de liberar a TPU. Você faz isso com a câmera do celular, por meio de um serviço chamado Persona. Segundo, talvez você tenha que esperar na fila. Depois que ativei a opção, minha sessão ficou na

02:38 fila por mais de 20 minutos. E as TPUs não rodam Ollama. Você usa as ferramentas do próprio Google, JAX ou Keras. Use a TPU para treinamento e para os maiores modelos, quando puder se planejar com antecedência. A número quatro tem o hardware mais novo daqui. Hugging Face Zero GPU. Metade de uma placa NVIDIA Blackwell. 48 GB. Você não precisa configurar nada. Muitos apps de IA já rodam nela. Abri o app de imagens do próprio Qwen, entrei com uma conta gratuita e digitei um prompt. Cerca de um minuto e meio depois, lá estava: um laptop e quatro

03:09 GPUs verdes. A parte da GPU levou menos de 30 segundos. O limite de tempo é curto: cinco minutos de GPU por dia em uma conta gratuita. Mas só conta enquanto o app está funcionando. Depois de 30 dias, você pode hospedar gratuitamente dois apps seus em um link público. Use esse serviço para testar os modelos mais novos com um único clique. Então, qual escolher? Nunca rodou IA antes? Comece pelo Colab. Quer conversar com um modelo grande, de 14 a 32 bilhões? As duas T4 do Kaggle. Treinamento ou os maiores modelos? A TPU. Modelos de imagem e vídeo ou compartilhar uma

03:40 demonstração? Zero GPU. E você pode usar as quatro. São 50 horas por semana no Kaggle, mais alguns minutos por dia no Hugging Face, além do Colab, tudo por zero dólares. Quando vale a pena comprar? Se você atingir o limite de tempo toda semana. Se seus dados não puderem sair de casa ou se tudo precisar rodar a noite inteira. E aqui vai o bônus. Você vai saber exatamente quanta memória precisa, porque já rodou os modelos de graça. Coloquei as quatro em uma página. O limite de cada uma, as execuções exatas que fiz e as velocidades.

04:12 Comente “quatro GPU”, tudo junto, e meu bot vai enviar a página para você. Está começando a usar código na nuvem? Meus guias para iniciantes estão na descrição. E, se quiser apoiar o canal, torne-se membro aqui no YouTube e assinante no Facebook. Se isso evitou que você chegasse à página de pagamento, inscreva-se no canal. Isso também é grátis.

Transcrição original

[00:00] You’ve got a graphics card in your cart. Hundreds of dollars, maybe more than a thousand. All so you can run AI on your own. Before you click buy, stop. Right now, four big companies will lend you a GPU for free. No credit card. You just open a browser. I ran all four on camera. You’ll see what each one runs, how fast, and the real limit on each. Then, you’ll know if you need to buy anything at all. One thing first. What you get is free GPU time, not a computer you keep

[00:32] forever. Each one gives you a clock, hours a week or minutes a day. When it runs out, it resets and you go again. Plan around the clock and it costs you nothing. Number one is the easiest, Google Colab. Open a notebook, click runtime, then change runtime type. On a free account, these are your choices. A T4 GPU or a small TPU. The big GPUs are grayed out. Those are for paid plans. Pick T4 and save. I ran one command to see what I got, a Tesla T4 with 15 gigs of memory. Then I installed Ollama and ran an 8

[01:03] billion model, 32 tokens a second, faster than you can read. A 14 billion model fits, too, but one T4 runs it at about eight tokens a second. Here is the limit. Google doesn’t say which GPU you’ll get or for how long. Sessions run up to 12 hours when a GPU is free. Use Colab for your first try. Zero setup. Number two gives you the most memory, Kaggle. Verify your phone and every notebook can use two Nvidia T4s, 16 gigs each, 30 hours a week, up to 12 hours at a time. No card. And since September 15,

[01:36] the old single GPU is gone. Two T4s is now the only GPU on the menu. Here’s what I measured, an 8 billion model, 32 tokens a second. The 14 billion model that crawled on one T4, 13 tokens a second here. And the 32 billion model split across both cards, 8.6. Both GPUs about 90% full. That model won’t even load on most gaming cards. Two things that bit me. Keep your models inside the working folder or Kaggle warns you about disk space. And stopping any cell stops

[02:07] Ollama too. Just start it again. Number three is hiding in the same Kaggle menu. Switch the accelerator to TPU. That’s Google’s own AI chip. Eight of them, 16 gigs each. 128 gigs of memory. 20 hours a week, 9 hours at a time. But two things have changed. First, Kaggle now asks for a quick identity check before it unlocks the TPU. You do it with your phone camera through a service called Persona. Second, you may wait in line. After I switched it on, my session sat in the

[02:38] queue for over 20 minutes. And TPUs don’t run Ollama. You use Google’s own tools, JAX or Keras. Use the TPU for training and the biggest models when you can plan ahead. Number four is the newest hardware here. Hugging Face zero GPU. Half of an NVIDIA Blackwell card. 48 gigs. You don’t set anything up. Lots of AI apps already run on it. I opened Gwen’s own image app, signed in with a free account, and typed one prompt. About a minute and a half later, there it was. A laptop and four

[03:09] green GPUs. The GPU part took under 30 seconds. The clock is short, 5 minutes of GPU a day with a free account. But it only counts while the app is working. After 30 days, you can host two apps of your own free on a public link. Use it to try the newest models in one click. So, which one? Never run AI before? Start on Colab. Want to chat with a big model, 14 to 32 billion? Kaggle’s two T4s. Training or the biggest models? The TPU. Image and video models or sharing a

[03:40] demo? Zero GPU. And you can use all four. That’s 50 hours a week on Kaggle plus daily minutes on Hugging Face plus Colab for zero dollars. When should you buy? If you hit the clock every single week. If your data can’t leave your house or if it needs to run all night. And here’s the bonus. You’ll know exactly how much memory you need because you already ran the models free. I put all four on one page. Each limit, the exact sales I ran and the speeds.

[04:12] Comment four GPU all one word and my bot sends it to you. New to cloud code? My beginner guides are in the description. And if you want to back the channel, become a member here on YouTube and a subscriber on Facebook. If this saved you from a checkout page, hit subscribe. It’s free, too.