Deepseek 4.1 Flash em 2 DGX Sparks mudou minha vida
Autoria: Alex Finn · Assistir no YouTube
Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.
Idioma original: inglês
Vídeo original: Deepseek 4.1 Flash on 2 DGX Sparks changed my life · Canal: Alex Finn · 16:36 · Assistir no YouTube
Tópicos: Agentes de IA, Engenharia de software com IA, Infraestrutura e hardware de IA, Modelos locais e open source
Alex Finn compra um segundo DGX Spark e conecta os dois para executar modelos locais de IA, usando 256 GB de memória unificada em conjunto. Com ajuda do Grokbot e do Tailscale, configura a rede, instala o Deepseek V 4.1 Flash e o acessa pelo Hermes. O vídeo demonstra o modelo respondendo a mensagens e criando um jogo Snake e uma experiência 3D roguelike. Embora não substitua modelos de ponta em tarefas difíceis, o apresentador destaca o potencial de modelos locais gratuitos e ilimitados para atividades contínuas.
Pontos-chave
Seção intitulada “Pontos-chave”- Dois DGX Sparks são conectados para compartilhar 256 GB de memória e executar modelos maiores.
- O apresentador configura os dispositivos pela rede, sem conectar um monitor, e usa Tailscale para permitir o acesso de outros computadores.
- Grokbot ajuda a configurar o segundo Spark e instalar o Deepseek V 4.1 Flash.
- O modelo local é acessado pelo Hermes e responde a mensagens em poucos segundos.
- O Deepseek cria um jogo Snake simples em cerca de um minuto e meio.
- Uma experiência 3D roguelike mais complexa leva cerca de 20 a 25 minutos para ser criada e testada.
- Modelos locais podem ser úteis para tarefas recorrentes, como revisar código e buscar oportunidades de negócio.
- O apresentador considera que modelos locais não substituem os modelos de ponta em tarefas difíceis, mas oferecem uso contínuo sem custos de assinatura.
Capítulos
Seção intitulada “Capítulos”| Início | Capítulo | Resumo |
|---|---|---|
| 00:00 | Compra e conexão dos DGX Sparks | O apresentador compra um segundo DGX Spark e explica que pretende conectar os dois para executar modelos maiores. |
| 03:37 | Configuração da rede e instalação do modelo | Com ajuda do Grokbot, ele conecta os computadores pelo Tailscale e inicia a instalação do Deepseek V 4.1 Flash. |
| 07:14 | Carregamento do Deepseek V 4.1 Flash | O apresentador escolhe o modelo, começa o download de 400 GB e configura o acesso pelo Hermes. |
| 10:52 | Testes de conversa e jogo Snake | Ele mede a resposta do modelo e mostra a criação de um jogo Snake em um arquivo HTML. |
| 13:26 | Criação de uma experiência 3D | O modelo desenvolve e testa um jogo roguelike 3D, que o apresentador experimenta no navegador. |
| 15:32 | Usos contínuos de modelos locais | O apresentador destaca tarefas que podem rodar continuamente com modelos locais e recomenda começar mesmo com computadores mais modestos. |
Citações
Seção intitulada “Citações”É melhor ter um computador em casa que fica sempre ligado e conectar a ele quando você está fora. — 05:40
Você conecta as coisas, vai ao seu agent e diz o que quer fazer. Ele faz. — 09:19
Como isso é gratuito e ilimitado, há muitas coisas diferentes que você pode fazer. — 15:32
Quando você tem tokens ilimitados, muda o que pode fazer com eles. — 16:03
Conceitos e entidades
Seção intitulada “Conceitos e entidades”- DGX Spark (ferramenta): Computador da Nvidia apresentado para executar modelos locais de IA.
- DeepSeek V4.1 Flash (modelo): Modelo local que o apresentador instala nos dois DGX Sparks e usa em demonstrações de conversa e programação.
- Grokbot (ferramenta): Agent usado no vídeo para configurar dispositivos e instalar o modelo.
- Tailscale (ferramenta): Serviço usado para conectar os computadores do laboratório de IA em uma rede privada.
- Hermes (ferramenta): Agent usado para conversar com o modelo local instalado nos DGX Sparks.
- NVIDIA (empresa): Empresa que desenvolve o DGX Spark.
- Micro Center (empresa): Loja que patrocina o vídeo e onde o apresentador compra o segundo DGX Spark.
- Alex Finn (pessoa): Apresentador do vídeo que testa modelos locais em dois DGX Sparks.
- modelos locais (conceito): Modelos de IA executados em computadores do próprio usuário, em vez de depender de serviços na nuvem.
- ambient intelligence (conceito): Expressão usada pelo apresentador para descrever tarefas de IA que podem funcionar continuamente em segundo plano.
Tradução completa (pt-BR)
Seção intitulada “Tradução completa (pt-BR)”00:00 Hoje estamos na Micro Center para pegar meu segundo DGX Spark. Já peguei um. Vamos pegar um segundo, levar para casa, vou conectá-los e vamos ver que tipo de IA dá para rodar em dois DGX Sparks. Dá para cancelar as assinaturas de serviços na nuvem tendo dois DGX Sparks? Quão poderosa é a inteligência? Dá para rodar todo o seu workflow de programação? Vamos descobrir. Obrigado à Micro Center por patrocinar o vídeo. Não é minha única loja favorita, mas é a melhor loja de eletrônicos do planeta Terra. Se ainda não conhece, vá até lá ou acesse o site, se precisar. Eles são incríveis. Eles são os
00:30 profissionais de computação mais inteligentes que existem. Agora, vamos entrar e pegar nosso segundo DGX Spark. Ah, está bem ali. Então, vamos pegar este. Vamos para casa. Vou conectar os dois. Para quem não sabe, o DGX Spark é a maneira mais fácil possível de rodar modelos locais de IA. Se você os conecta, pode criar clusters cada vez maiores e rodar modelos mais inteligentes. Então, vamos pegar este, ir para casa, vou mostrar como conectá-los e toda a inteligência de IA que dá para rodar nessas máquinas. Vamos lá. Certo, voltamos. Aqui está. Vamos tirar da caixa. Vamos adicioná-lo
01:01 ao meu laboratório doméstico de IA, que consiste em, vejamos, um Mac Studio, um AMD Halo, o outro DGX Spark, ao qual vamos conectá-lo, e alguns Mac Minis. Vamos até aqui: bum, dois Mac Studios que também estarão na rede. A propósito, este é… este é o aspecto do estúdio. Está meio bagunçado, não reparem. Certo, vamos tirar este da caixa. Depois, vamos conectar os dois DGX Sparks. Em seguida, vamos carregar vários modelos de IA. Acho que vamos usar o novo Deep Seek Flash, que, pelo que ouvi, é incrível em dois DGX Sparks.
01:32 Vamos tirar da caixa. Certo, como podem ver, temos duas abas para puxar. Vamos removê-las. Vamos ver o que temos aqui. Vamos tirar esta belezinha daqui. Certo, bum. Aí está, o DGX Spark. Gostei da apresentação, bem ao estilo da Apple. Vamos tirá-lo daqui. Para quem ainda não viu, é um belo dispositivo projetado pela Nvidia. É muito pequeno, fácil de carregar, muito leve e tem bastante potência. 128 GB de memória unificada, um
02:06 computador de IA absolutamente incrível e potente. Não vem com HDMI nem nada. Isso porque, tecnicamente, não é necessário conectá-lo a um monitor. Não precisa fazer isso. Se você simplesmente ligar o Spark na tomada e ligá-lo, ele cria sua própria rede Wi-Fi, à qual você pode se conectar usando outro dispositivo e configurá-lo, por exemplo, pelo seu computador principal, que é o que vamos fazer com meus Mac Studios daqui a pouco. Vamos nos conectar à rede Wi-Fi que
02:36 o Spark cria, para podermos configurá-lo usando nosso Mac Studio em vez de ter que conectá-lo a um monitor. Então, vamos fazer isso. Vou ligar este na tomada. Depois, vou usar este cabo aqui. Este cabo é, na verdade, um conector que você pode usar na parte de trás, do lado esquerdo. Dá para ver no Spark. Ele se conecta ali e à parte de trás do meu primeiro DGX Spark, o original, para que eu possa juntar a memória. 128 aqui, 128 aqui. Isso dá 256, se minha matemática estiver
03:07 certa, que podemos compartilhar entre estes dois dispositivos para carregar modelos de IA bem grandes neles. Então, deixa eu fazer isso. Vou ligá-lo na tomada. Depois, vamos voltar para minha câmera original, para podermos usar o Mac Studio e configurá-lo. Em seguida, vamos carregar nele alguns modelos de IA incríveis e fazer coisas realmente fantásticas com IA local. Sua cabeça está prestes a explodir. Certo. Já configuramos o segundo Spark. Conectamos tudo, conectamos ao outro Spark. A configuração foi muito fácil. Tudo o que você precisava fazer era
03:37 conectá-lo a uma rede Wi-Fi que estava anotada neste pedacinho de papel que vem com o Spark. Você o conecta à rede Wi-Fi. Ele faz toda a configuração. Não precisa conectar a um monitor nem nada. A partir daqui, podemos fazer toda a configuração avançada por conta própria. Vou usar o Grokbot. Você pode usar qualquer agent de IA que quiser. O que fizemos foi garantir que tudo estivesse conectado à mesma rede Tailscale. Para quem ainda não configurou o Tailscale, se você tem mais de um dispositivo, precisa usar o Tailscale. É totalmente grátis. Isto não é patrocinado. Ele permite
04:09 que você crie uma espécie de rede privada entre todos os seus dispositivos. Permite que eles se comuniquem entre si com muita facilidade e que você os acesse de qualquer lugar do mundo. Você precisa configurar isso. Vamos colocar o segundo Spark nessa rede Tailscale, para que todos possam se comunicar entre si. Certo, vamos configurar isso com o Grok Bot. A propósito, quando você configura seu Spark, ele vem com este livro de receitas incrível, com várias coisas diferentes que dá para fazer automaticamente com o DGX Spark. Isso torna tudo… é totalmente acessível para iniciantes, aliás. Se você
04:39 se interessa por IA, pode comprar um desses DGX Sparks e fazer qualquer coisa que quiser: treinar modelos, treinar LoRAs, fazer o que quiser. É muito fácil com os diferentes livros de receitas que eles fornecem aqui. Gerar imagens localmente e tudo mais. Muito, muito fácil. Mas vamos fazer tudo com o Grok Bot. Na minha opinião, é simplesmente muito mais fácil assim. Então, vou dar a ele acesso ao meu segundo DGX Spark. Vou fornecer minhas credenciais e vamos configurar tudo. Certo, o Grok Bot configurou tudo com sucesso para mim, configurou a rede Tailscale,
05:10 colocou o segundo DGX Spark na rede Tailscale, então agora não só o Grok Bot, mas todos os outros computadores do meu laboratório doméstico de IA — meus Mac Studios, meus Mac Minis, o AMD e meu computador para jogos — podem se conectar a esse cluster de DGX Sparks, o que é demais. Isso é ótimo, né? É assim que você deve configurar tudo, porque agora pode rodar esses modelos de IA nos seus DGX Sparks, seja você tendo um ou vários, seja tendo um Mac Studio ou o que quer que use para rodar sua IA. Você pode deixá-la rodando nesses dispositivos e, quando estiver fora de casa, seja no celular, no iPad, no laptop ou em qualquer outro aparelho, pode se conectar a esses dispositivos e usar esses modelos locais.
05:40 Esta é uma maneira muito melhor de usar IA. É como ter uma configuração doméstica sempre ligada, que nunca desliga e usa bons computadores; depois, você usa dispositivos como seu iPhone, laptops ou qualquer outro para acessar os modelos nesses computadores enquanto está fora. Eles se conectam à rede Tailscale e podem enviar
06:11 prompts para esses computadores de casa e receber respostas. Acho que isso é muito melhor do que levar laptops por aí, como comprar laptops muito caros. Você acabaria comprando MacBook Pros de uns 10.000 dólares, com 128 GB de RAM. Não entendo, porque você paga um valor extra pelo formato de laptop, ele desliga toda vez que você fecha o laptop e esquenta demais. Por que não ter simplesmente um computador em casa, sempre ligado, com hardware muito melhor pelo preço, ao qual você pode se conectar usando seu laptop barato
06:43 quando você está em movimento. Acho que essa é uma maneira muito melhor de fazer isso. Enfim, foi um pequeno desvio do assunto. Vamos começar a configurar tudo. Primeiro, vamos carregar modelos neste equipamento. Agora que conectamos esses dispositivos uns aos outros, a maneira mais fácil de carregar modelos neles é simplesmente pedir para o nosso Grokbot fazer isso. Então, se você não sabe quais modelos executar nos dispositivos que tem, isso não vale só para os DGX Sparks. Estamos prestes a colocar estes dois DGX Sparks à prova para ver que tipos de modelos eles executam, mas, mesmo que você tenha um Mac mini, um Mac Studio mais barato ou qualquer dispositivo
07:14 que seja, ou um DGX Spark, não importa. A melhor maneira de descobrir o que funciona no seu dispositivo é simplesmente falar com qualquer um dos seus agentes de IA — Hermes, Grokbot, Dodds, qualquer um — e dizer: “Ei, dê uma olhada nesse computador, veja que tipo de hardware ele tem e me diga qual é o melhor modelo que podemos carregar nele.” Eu já tenho uma ideia de qual modelo quero executar, porque vi este tuíte de Ray Fernandez mostrando esse Deepseek V 4.1 Flash insano, com velocidades absolutamente impressionantes em dois DGX Sparks. Então, quero carregá-lo. Quero fazer isso e ver
07:45 o desempenho dele no DGX Spark e descobrir se conseguimos esse tipo de desempenho. Então, tudo o que vou fazer é enviar este tuíte para o meu Grokbot e dizer: “Ei, carregue isso nos meus Sparks.” É fácil assim. Você não precisa ser nenhum gênio dos modelos de IA para fazer isso funcionar. Só precisa ter agentes de IA. Os agentes de IA tornam tudo muito fácil. Desde que você tenha agentes de IA, pode fazer qualquer coisa que quiser. Não há barreiras de acesso. Não é necessário nenhum conhecimento técnico para nada disso. Basta ir até o seu agente e dizer: “Ei, é isso que eu quero.” Ou, mesmo que você não saiba o que quer, diga: “Ei, não sei o que quero. Me ajuda aqui.” E ele vai descobrir por
08:17 você. Então, vamos carregar isso aqui. Vou pedir ao Rockbot para configurar esse modelo DeepSeek, que é super-rápido e funciona perfeitamente em dois DGX Sparks. Ele está me passando algumas instruções para ajustar as velocidades da GPU para os valores corretos. Está me dando comandos e facilitando tudo para mim. Não tem nenhuma complexidade nisso. Certo, o modelo está baixando agora: 400 GB. Ele vai ficar ali. O Rockbot configurou o cabo de conexão para mim. Está baixando o modelo diretamente no dispositivo. Nem precisei conectar isso ao meu monitor. Está fazendo tudo por mim. E, em muito
08:48 pouco tempo, estará funcionando, e vamos testar para ver como se saem dois DGX Sparks conectados e que tipos de modelos de IA dá para executar. Será que vão ser bons o suficiente para você cancelar suas assinaturas do Claude e da OpenAI? Estamos prestes a descobrir. Antes disso, deixe um like aqui embaixo se você gostou. Esse tipo de conteúdo é novidade para mim: testar dispositivos diferentes e ver que modelos de IA rodam neles. Se isso foi útil, se você quer ver mais desse tipo de conteúdo, deixe um like e me conte aqui embaixo. Dependendo do retorno, vou continuar comprando mais e mais computadores e mostrando que tipos
09:19 de modelos de IA rodam neles. Também tenho a newsletter de IA número um do planeta Terra. Ela é totalmente gratuita. O link também está aqui embaixo. Vamos ver como isso vai. Certo, está tudo pronto. Tudo foi carregado. O Deepseek está funcionando nos dois Sparks. Estou dizendo: não tem nenhum mistério nisso. Você conecta as coisas, vai até o seu agente e diz: “Ei, é isso que quero fazer. Faça para mim.” E ele faz. Não há mais barreiras de acesso quando o assunto é tecnologia. Você pode fazer qualquer coisa que quiser. Basta ir até seu agente de IA, dizer o que quer que seja feito, e isso
09:49 é feito. Então, colocamos tudo para funcionar. Ele tem a própria API, que vem dos Sparks para o meu computador. Agora, tudo no meu Mac Studio principal aqui pode se conectar a ele. Já dei continuidade e perguntei: “Ei, você pode fazer com que meu Hermes acesse isso pelo meu Mac Studio? Crie um perfil no meu Hermes para se comunicar com ele.” Recomendo muito usar o Hermes para isso. Se quiser criar um agent usando esse modelo local que está executando, o Hermes é gratuito, open source, muito fácil de usar e foi feito para casos de uso como este. Literalmente
10:21 menos de um minuto depois, estava tudo configurado. Tenho um perfil novo no meu agent Hermes, pronto para usar. Então, lá vamos nós. Olha só, Deep Seek. Tenho um bot novo, que é um perfil novo no Hermes, todo configurado, com o qual posso conversar diretamente com meu novo modelo local. Sempre que quiser conversar com meu modelo local, posso clicar em Deep Seek e começar a falar com ele. É totalmente gratuito, ilimitado e nunca vai me custar um centavo, tirando a eletricidade consumida por esses DGX Sparks. Então, vamos enviar algumas mensagens de teste e ver como funciona. Ei, você está aí?
10:52 Vamos testar a velocidade. Vamos ver se a velocidade aqui é boa. Certo. Então, enviamos “Ei, você está aí?”. Isso está acontecendo em tempo real. Não vou editar nada disso. Dá até para ver o contador de tempo embaixo. Aí está. “Sim, estou aqui. Do que você precisa?” Oito segundos. “Dê um oi para o meu público do YouTube, por mim.” Vou apertar Enter. Vamos ver com que rapidez ele responde. Dá até para ver o raciocínio. Essa é outra grande vantagem dos modelos locais: dá para ver o registro completo do raciocínio. Muitos dos modelos de ponta agora ocultam isso, então não dá para ver o raciocínio. Assim, você consegue ver
11:23 tudo o que acontece dentro do seu modelo. Essa é uma parte realmente incrível de usar modelos locais: tudo é aberto. Nada fica escondido, nada é ocultado. Dá para ver como ele pensa, como funciona, tudo isso. “Aqui vai uma saudação curta para colocar na introdução do vídeo. Você pode criar um jogo da cobrinha rapidinho em um único arquivo HTML?” Vou apertar Enter. Vamos ver como fica. Daqui a pouco, vamos fazer um teste muito maior e mais intenso para descobrir até onde conseguimos levar isso. Então, vamos ver com que rapidez ele consegue criar
11:54 algo bem simples para nós e, depois, partimos para uma tarefa mais intensa: criar uma grande experiência em 3D. Ele está pensando. Já está pensando há 20 segundos. Já definiu os controles. Vamos ver no que mais está pensando. Já está escrevendo os arquivos. Dá para ver que a lógica do jogo e a implementação já estão em andamento. Estamos com 20 segundos e ele basicamente já planejou tudo. Os detalhes do código. Isso é muito, muito rápido. Quer dizer, é tão rápido que consigo me imaginar usando isso como modelo principal para fazer coisas.
12:25 Certo, há 6 meses, 12 meses, isso seria desempenho de ponta, funcionando numa velocidade incrível, tudo na minha mesa, ilimitado e de graça. É de cair o queixo. E pronto, olha só. Ainda não passou nem um minuto e o código já está escrito. Agora vamos ver como conseguimos testar isso. Certo, pronto, acabou. Ficou legal. Temos um artefato bem bacana aqui no nosso chat do Hermes. Então, podemos jogar aqui mesmo. Vamos lá, vamos testar. Certo, lá vamos nós. Ah, quer saber? Para um jogo da cobrinha, não ficou nada mal. Chegamos ao canto. Certo, certo, certo, será que consigo chegar ao canto? Ah, não, não consigo. Não consigo chegar ao canto. Até que
12:56 Ótimo. Criou em cerca de um minuto e meio com um modelo local. Agora, vamos levá-lo ao limite. Vamos ver até onde conseguimos chegar. Certo, vamos pedir que ele crie uma experiência 3D bem intensa. Quero criar um jogo roguelike usando 3JS. Quero um jogo de matar demônios com visão de cima, como Diablo, em que a cada nível aparecem cada vez mais demônios, mas, entre os níveis, você pode escolher um poder específico para obter ou um atributo para aprimorar. Deve ter um tema sombrio, demoníaco, parecido com Diablo, uma jogabilidade divertida e satisfatória, e gráficos estilizados, detalhados e belíssimos.
13:26 É bem intenso. Mesmo assim, vamos pedir para ele fazer. Vou clicar em enviar e ver no que dá. Também vou deixar esse prompt abaixo para você copiar, se quiser. Estou muito empolgado em criar videogames agora. Acho uma diversão incrível criar jogos. Então, fique à vontade para pegar isso e criar sua própria versão. Edite como quiser, ajuste como quiser, e vai dar tudo certo. É um exercício divertido, faça comigo. Não custa tentar. Certo, terminamos. Para ser sincero, levou uns 20 a 25 minutos. Este é um jogo bem intenso. É um jogo 3D grande, complexo e com vários níveis. Parece
13:56 que temos várias capturas de tela que ele nos enviou, o que é ótimo. Ele testou o próprio trabalho, o que é muito bom. Quer dizer, este é um modelo local testando a si mesmo, sendo inteligente, avaliando a qualidade do jogo e nos enviando capturas de tela. Tudo feito localmente, tudo de graça. Mas vamos testar por conta própria. Certo, abri no navegador. Ficou bem legal. Os gráficos 3D feitos por um modelo local. De novo: local, não de ponta, totalmente gratuito e sem limite. Isso é bem impressionante. A jogabilidade realmente lembra
14:27 Diablo. Quer dizer, não tenho um monte de feitiços nem classes como em Diablo, mas vamos ver até onde conseguimos ir. Certo, agora podemos adicionar atributos. Reflete 25% do dano recebido, cura em 12% do dano causado. Acho que você tem que escolher esse vampirismo. Certo, voltamos ao jogo. Acho que meu personagem está com uma armadura melhor agora. Vamos ver como nos saímos aqui. Vamos usar uma das nossas habilidades. Bum! Certo, temos chefes maiores, inimigos maiores. Isso é incrível. Quer dizer, isso é mesmo para uma única rodada, uma única tentativa, um jogo criado com um único prompt, certo? Tipo, isso
15:00 é bem impressionante. Tem acertos críticos. Dá para ver os números grandes subindo. Agora posso voltar e continuar trabalhando nisso e aprimorá-lo com o modelo. De novo, totalmente de graça. Acho que uma pergunta que me fazem bastante é: “Certo, Alex, isso é ótimo, mas não é de ponta. Então, quando é que eu usaria isso? Pago US$ 200 por mês pelo chat GPT. Por que eu usaria esse modelo?” Bem, os casos de uso mudam quando você tem um modelo ilimitado e gratuito, certo? Sim, se estiver fazendo programação muito difícil, vai usar as assinaturas que tem
15:32 com Claude, Opus, seja lá qual for. Mas, como este modelo é gratuito e ilimitado, há muitas coisas diferentes que você pode fazer com ele. É o que chamo de inteligência ambiente. Coisas que você pode deixar funcionando o tempo todo. Por exemplo, deixo meu modelo local pesquisando na web oportunidades de negócio o tempo todo. Procurando maneiras de criar negócios e ganhar dinheiro. Também o deixo analisando minhas bases de código e revisando o código repetidamente ao longo do dia. Se você fizesse essas coisas com modelos na nuvem, seu limite de uso acabaria rapidinho. Mas, como são locais, posso simplesmente
16:03 deixá-lo funcionando. Quando você tem tokens ilimitados, muda o que pode fazer com esses tokens. Então, recomendo muito, muito, muito começar a usar modelos locais. Você não precisa de dois DGX Sparks para fazer isso. Embora ter dois seja incrível e permita fazer coisas muito, muito legais como esta. Mas, mesmo que você só tenha um Mac mini, cara, é só ir até um agent Hermes e dizer: “Ei, qual é o melhor modelo local que posso rodar neste Mac mini?” E ele vai baixá-lo e executá-lo para você. É realmente simples assim e é algo que todo mundo deveria fazer. São os melhores modelos do mundo? Não, mas
16:36 é seu. Você aprende, é educativo, e fica melhor em usá-lo; além disso, pode desbloquear casos de uso muito legais que funcionam o tempo todo. Recomendo muito. De novo, obrigado à Micro Center por patrocinar o vídeo. Que parceiros incríveis. Apoie o comércio local. Vá à Micro Center. Espero que isso tenha sido útil. Vejo você no próximo vídeo.
Transcrição original
[00:00] Today we’re at Micro Center to pick up my second DGX Spark. I already got one. We’re going to pick up a second, bring it home, I’m going to link them together, and we’re going to see what kind of AI you can run on two DGX Sparks. Can you cancel your cloud subscriptions by having two DGX Sparks? How powerful is the intelligence? Can you run your entire coding workflow? We’re going to find out. Thank you to Micro Center for sponsoring the video. They’re not my only favorite store, but they are the best electronic store on planet Earth. If you haven’t checked them out yet, go there, go online if you have to. They’re incredible. They’re the
[00:30] smartest computer people there is. Now, let’s get in there and pick up our second DGX Spark. Oh, there it is right there. So, we are going to pick this up. We’re going to go home. I’m going to link two of these together. For those who don’t know, DGX Spark is like the easiest way to run local AI models humanly possible. If you link them together, you can have bigger and bigger clusters run more intelligent models. So, let’s pick this up, go home, I’ll show you how to link them up, and all the AI intelligence you can run on these machines. Let’s go. All right, we are back. Here it is. We are going to get this unboxed. We are going to add it
[01:01] to my home AI lab, which consists of, let’s see, a Mac Studio, AMD Halo, the other DGX Spark, which we’ll be connecting it to, a couple of Mac Minis. We go over here, boom, two Mac Studios that will be on the network as well. By the way, this is This is what the studio looks like. Bit of a mess, please ignore it. All right, so let’s get this unboxed. Then we are going to connect them together, those two DGX Sparks. Then we’re going to load a bunch of AI models onto. I think we’re going to go with the new Deep Seek Flash, which I hear is incredible on two DGX Sparks.
[01:32] Let’s get this unboxed. All right, as you see, we have two pull tabs. Let’s get those off there. Let’s see what we got here. Let’s get this sucker out of here. All right, boom. There it is, the DGX Spark. I like the presentation, very Apple-esque. Let’s get this out. For those who haven’t seen it yet, it is a beautiful device designed by Nvidia here. Very small, very easy to carry, very light, and it packs a ton of power. 128 GB of unified memory, an absolutely
[02:06] incredible powerhouse of an AI computer. Doesn’t come with HDMI or anything. That’s because you don’t technically need to connect it uh to a monitor. You don’t need to do that at all. If you actually just plug the Spark into the wall and turn it on, it creates its own Wi-Fi network so that you can connect to it from a different device and set it up through like your main computer, which is what we’re going to do with my Mac Studios in just a second. We are going to connect uh to the Wi-Fi network that
[02:36] the Spark makes so we can just set up through our Mac Studio instead of having to connect it to the monitor. So, let’s do this. I’m going to get this plugged into the wall. Then, I’m going to use this cable here. What this cable is is actually a connector that you can use that goes in the back there over on the left-hand side. You can see on the Spark. Connects into there and will connect to the back side of my first original DGX Spark that I have so that I can pull the memory together. 128 here, 128 here. That is 256 if my math is
[03:07] correct that we can share between these two devices so that we can load some pretty big AI models onto them. So, let me do this. I’m going to plug it into the wall. Then, we’re going to go back to my original camera so that we can go on the Mac Studio and set it up. Then, we will load some awesome AI models onto it and we will do some really incredible things with local AI. Your mind’s about to be blown. All right. So, we got the second Spark all set up. We plugged into all, plugged into the other Spark. Set up was super easy. All you had to do was
[03:37] connect it to a Wi-Fi network that was on this little piece of paper that comes with your Spark. You connect it to the Wi-Fi network. It runs all the setup. No need to plug it into a monitor or anything. From here, we can do all the advanced setup and configuration ourselves. I’m going to use Grokbot. You can use whatever AI agent you want. And what I did was is we made sure that everything was connected to the same Tailscale network. For those who don’t have Tailscale set up yet, if you have more than one device you own, you need to be using Tailscale. It’s completely free. This is not sponsored. It allows
[04:09] you to create your own kind of private network between all your devices. Allows them to communicate with each other very easily, access them from anywhere in the world. You need to set that up. We’re going to get the second Spark onto that Tailscale network, so they can all communicate with each other. All right, so let’s set this up with Grok Bot. By the way, uh when you set up your Spark, it gives you this awesome like recipe book with all these different things you can do automatically uh with your DGX Spark. It makes it It’s like totally beginner-friendly, by the way. If you
[04:39] just care about AI at all, you could buy one of these DGX Sparks and like do anything you want. Train models, train LoRAs, do whatever you want. It’s super easy uh with the the different recipe books they give you here. I generate images locally, all that. Super super easy. But, we’re going to do everything with Grok Bot. Just much easier that way, in my opinion. So, I’m going to give it access to my second DGX Spark. I’m going to give it my credentials, and we’ll get this all set up. All right, so Grok Bot successfully set up everything for me, set up the Tailscale network,
[05:10] got the second DGX Spark onto the Tailscale network, so that now, not only can Grok Bot, but all my other computers in my home AI lab, my Mac Studios, my Mac Minis, the AMD, my gaming computer, can all contact that DGX Spark cluster, which is sick. This is great, right? This is the way you want to be setting it up, because now you can run those AI models on your DGX Sparks, whether you have one, whether you have multiple, whether you have a Mac Studio, whatever you’re running your AI on, you can have
[05:40] it running on those devices, and then when you’re on the go, whether you’re on your phone, your iPad, your laptop, whatever it is, you can connect to those devices and use those local models. This is a much better way of using AI. It’s kind of having a home setup that’s always on, that never turns off, that’s on good computers, and then using nodes, like your iPhone or laptops or whatever, to use the models from those devices on the go. They connect to the Tailscale network, then they’re able to send
[06:11] prompts to those home computers and get responses back. I think that’s a lot better than like taking laptops, like buying like really expensive laptops. You’d be buying like $10,000 like MacBook Pros with like 128 gigs of RAM. I don’t get it because you’re paying like a premium for like the laptop form and it turns off like every time you close your laptop and it gets super hot. Why not just have a home computer that’s always on that is like much better hardware for the price and you can just connect to it on like your cheap laptop
[06:43] when you’re on the go. I think that’s a much better way of doing it. Anyway, a little bit of a tangent there. Let’s start getting this set up. Let’s first load models onto this. The easiest way to load models onto these devices now that we got them hooked up to each other is just asking our Grokbot to do it. So, if you don’t know which models to run on whatever devices you have. This isn’t just for the DGX Sparks. We’re about to put these two DGX Sparks to the test to see what kind of models they run, but even if you have like a Mac mini or like a cheaper Mac Studio or any device at
[07:14] all, one DGX Spark, it doesn’t matter. The best way to figure out what runs on your device is just to go to any of your AI agents, Hermes, Grokbot, Dodds, whatever and just say, “Hey, take a look at that computer, see what kind of hardware it has and let me know the best model we can load onto it.” I have an idea of what model I want to run because I saw this tweet from Ray Fernandez showing this crazy Deepseek V 4.1 Flash just having just like absolutely insane speeds on two DGX Sparks. So, I want to load this up. I want to do this and see
[07:45] how good this performs on the DGX Spark and see if we can get this type of performance. So, all I’m going to do is give this tweet to my Grokbot and say, “Hey, load this up on my Sparks.” That’s how easy this is. You don’t need to be like an AI model genius to get this working. You just have to have AI agents. AI agents make everything super easy. As long as you have AI agents, you can do anything you want. There’s no gatekeeping. There’s no technical knowledge necessary for any of this. You just go to your agent and say, “Hey, this is what I want.” Or even if you don’t know what you want, say, “Hey, I don’t know what I want. Help me out here.” And it’ll just figure it out for
[08:17] you. So, let’s get this loaded in here. So, I am going to have Rockbot set up this deep seek model that is super fast and runs perfectly on two DGX Sparks. It’s giving me some setup to do to set the GPU speeds at the right speed. So, it’s giving me commands. It’s making this super easy for me. There really is no complexity here. All right, the model is now downloading 400 GB. It is going to go on there. It’s set up the link cable for me Rockbot. It’s downloading the model directly on. Never needed to plug this into my monitor. It’s just doing it all for me. And very
[08:48] shortly, it’ll be running and we’re going to test this out to see how good two DGX Sparks linked together are and what kind of AI models can you run. Is it going to be good enough where you can cancel your Claude and OpenAI subscriptions? We’re about to find out. Before we do that, leave a like down below if you enjoyed this. This is kind of brand new kind of content for me testing out different devices, seeing what AI models run on it. If this is helpful, if this is more of what you want to see, leave a like and let me know down below. Depending on the feedback, I’ll just keep buying more and more computers and showing you what kind
[09:19] of AI models run on them. Also, I got the number one AI newsletter on planet Earth. It’s completely free. Link for that down below as well. Let’s see how this goes. All right, it’s all set. It’s all loaded up. Deep seek is up and running across both Sparks. I’m telling you, there’s no rocket science involved with this. He plugged things in, you go to your agent and you say, “Hey, this is what I want to do. Do it for me.” And it does it. There’s no more gatekeeping involved with tech stuff. You can do anything you want. You just go to your AI agent, say you want it done, and it
[09:49] gets done. So, we got it up and running. It has its own API coming from the Sparks to my computer. So, now anything on my main Mac Studio here can connect to it. I went ahead and I already followed up and I said, “Hey, can you make it so my Hermes can access it from my Mac Studio?” Create a profile on my Hermes to talk to it. I highly recommend going with Hermes for this. If you want to build an agent on top of this local model you’re running, Hermes is free, open source, super easy to use, and built for use cases like this. Literally
[10:21] less than a minute later, it was all set up. I have a new profile on my Hermes agent, good to go. So, here we go. Look at that, Deep Seek. I have a new bot, which is a new profile in Hermes, all set up where I can talk directly to my new local model. Anytime I want to talk to my local model, I can go click on Deep Seek and start talking to it. It’s completely free, it’s unlimited, it will never cost me a penny outside of the electricity going into those DGX sparks. So, let’s send in a couple test messages and see how it goes. Hey, are you there?
[10:52] Let’s test this speed. Let’s see how good the speed is here. All right. So, we sent Hey, are you there? This is all real time. I’m not going to edit this out. You can even see the time counter under it. There we go. Yes, I’m here. What do you need? 8 seconds. Say hello to my YouTube audience for me. I’m going to hit enter on that. Let’s see how quick it responds. You can even see the thinking. That’s another great part about the local models is you can see the full thinking traces. A lot of the frontier models now obfuscate that, so you can’t see thinking. So, you can see
[11:23] everything that happens inside your model, which is a really beautiful part about using local models is everything’s open. There’s nothing hidden, there’s nothing obfuscated. You can see how it thinks, how it works, all of that. Here’s a short greeting to drop into the video intro. Can you build me a quick snake game in a single HTML file? I’m going to hit enter on that. Let’s see how this is. We’re going to give it a much bigger, more intense test in a second to see how far we can push this. So, let’s just see how fast it can build
[11:54] something really simple for us, and then we’ll get into the more intense build us some big 3D experience. So, it’s thinking. It’s been thinking for 20 seconds now. It’s already come up with the controls. Let’s see what else it’s thinking about here. It’s already writing the files. You see it’s already got the game logic going on, the implementation. We’re 20 seconds in, and it basically has the entire thing planned out. The code details. This is rapid rapid fire. I mean, this is so quick that I could 100% see myself using this as like a main model to do things.
[12:25] Right, this was 6 months ago, 12 months ago, this would be frontier level running lightning quick all on my desk unlimited for free, which is mind-blowing. And boom, look at this. We are less than a minute in the code is written. Now, we’re going to see how well we can test this. All right, boom, it’s done. It’s nice. We got this nice artifact inside our Hermes chat here. So, we can actually play it inside here. Let’s go. Let’s test it out. All right, here we go. Oh, I mean, I’m going to be honest, for a snake game, it don’t look half bad. We got the corner. Okay, okay, okay, can I get the corner? Oh, no, I can’t. Can’t get the corner. Pretty
[12:56] good. Built in like a minute and a half on a local model. Now, let’s push it to its limits. Let’s see how good we can get here. All right, so we’re going to have it build a pretty intense 3D experience here. I want to build a roguelike game using 3JS. I want to be a top-down demon slaying game like Diablo where each level you get more and more demons, but in between levels you can choose a specific power to get or attribute to level up. It should be a dark demon-like similar to Diablo in fun satisfying gameplay with in-depth detailed beautiful stylistic graphics.
[13:26] That’s pretty intense. We’re going to have it do it though. I’m going to hit send on this and we’re going to see how it goes. I’m going to put this prompt down below as well so you can just copy it if you want. I’m super into building video games right now. I think it’s absolute blast to build. So, feel free to take that build your own version. Edit any way you want, tweak it any way you want, you’ll be good to go. Fun exercise, do with me. Can’t hurt. All right, we are done here. To be honest, it took about 20-25 minutes. This is a pretty intense game. This is a big multi-level complex 3D game. Looks
[13:56] like we have a bunch of screenshots it sent us, which is nice. It tested itself, which is super nice. I mean, this is a local model testing itself, being smart, seeing how good the game is, sending us screenshots. All done locally, all done for free. Let’s test this out ourselves though. All right, so I had this open up in my browser. This is pretty sweet. The 3D graphics for a local model. Again, local, non-frontier, completely free, and unlimited model is pretty sick. The gameplay does feel like
[14:27] Diablo. I mean, I don’t have like a ton of like spells or anything or classes like we have in Diablo, but let’s see how far we Okay, now we can add attributes. Reflect 25% of damage taken, heal for 12% of damage dealt. I feel like you got to get that vampirism. Okay, now we’re back in it. My guy’s looking I think they added onto his armor now. Let’s see how we do here. Let’s use one of our abilities. Boom! Okay, we got bigger bosses, bigger enemies. That is sick. I mean, this is really for one pass, one shot, one prompt game, right? Like, this
[15:00] is pretty impressive. There’s crits. You can see the large numbers going up. Like, now I can go back and keep working on this and improving it with the model. Again, completely for free. I think a question I get a ton is like, “Okay, Alex, that’s great, but it’s not frontier. So, when would I ever use that? I pay $200 a month for chat GPT. Why would I use this model?” Well, the use cases change when you have an unlimited, for free, model, right? Yes, if you’re doing like super tough coding, you’ll use your subscriptions you got
[15:32] with Claude, Opus, whatever. But, because this is free and unlimited, there’s a lot of different things you can do here. It’s what I call ambient intelligence. Things you can just have going around the clock. For instance, I have my local model going and like searching the web for business opportunities all times. Looking for ways I can build businesses and make money. I have it looking over my code bases, reviewing code over and over and over again throughout the day. These are things if you did with cloud models, all your usage would be eaten really quick. But, because they’re local, I can just
[16:03] have it going. When you have unlimited tokens, what you can do with those tokens change. So, I highly, highly, highly recommend getting started with local models. You don’t need two DGX Sparks to do this. Although, having two of them is awesome and allows you to really, really sick things like this. But even if you just have a Mac mini, man, you can just go go to a Hermes agent say, “Hey, what’s the best local model I can run in this Mac mini?” And it will download it and run it for you. It really is that simple and it’s something everybody should be doing. Is it the best models in the world? No, but
[16:36] it’s your own. You learn, it’s education, and you get better at using it and you can unlock some really sick use cases that go around the clock. Highly recommend doing it. Again, thanks to Micro Center for sponsoring the video. What great partners. Support local retail. Go to Micro Center. Hope this was helpful. I’ll see you in the next video.