Esta empresa de IA está criando alguns dos modelos mais subestimados (Desert Ant Labs)

Autoria: Better Stack · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: This AI Company Is Making The Most Underrated Models (Desert Ant Labs) · Canal: Better Stack · 15:35 · Assistir no YouTube

Tópicos: Infraestrutura e hardware de IA, Modelos de IA, Modelos locais e open source, Modelos multimodais

Resumo

O vídeo apresenta a Desert Ant Labs, um laboratório europeu que desenvolve modelos pequenos e especializados para executar no próprio celular ou computador, sem conexão com servidores ou custos por token. O apresentador testa 12 modelos para tarefas como transcrição, aprimoramento de áudio, remoção de dados pessoais, sugestão de emojis e reconhecimento de idiomas. Os resultados variam: alguns modelos parecem úteis e eficientes, enquanto outros têm limitações de precisão ou desempenho. A conclusão é que modelos especializados e executados no dispositivo podem ser uma direção promissora para a IA.

Pontos-chave

A Desert Ant Labs aposta em modelos pequenos e especializados, em vez de competir para criar modelos grandes.
A proposta é deixar tarefas rotineiras a cargo de modelos locais e reservar os modelos de nuvem para raciocínio mais complexo.
O modelo Voz transcreveu um vídeo de sete minutos em cerca de dois segundos no teste apresentado.
Clear reduziu parte do ruído de uma gravação, mas o resultado ainda deixou ruído perceptível.
Clips seleciona trechos de vídeos, embora o apresentador tenha considerado que a classificação dos melhores momentos poderia melhorar.
Redact não reconheceu senhas nem um número canadense de seguro social no teste, mas reconheceu texto em letão.
Emo e Tongue foram apresentados como modelos muito leves, com tamanhos de 5 MB e 2 MB, respectivamente.
O apresentador apontou resultados imprecisos em gist, Shapes e Ear em alguns dos testes.
A Desert Ant Labs também tem cinco modelos em beta para tarefas como identificação de falantes, moderação e visão.

Capítulos

Início	Capítulo	Resumo
00:00	A proposta da Desert Ant Labs	O vídeo apresenta a filosofia de criar modelos especializados e leves que executam localmente, como uma camada de reflexos para software.
01:32	Transcrição, aprimoramento de áudio e clipes	O apresentador testa Voz, Clear e Clips para transcrever fala, reduzir ruído e selecionar momentos de destaque em vídeos.
05:42	Privacidade, remoção de palavras de preenchimento e emojis	Os testes de Redact, Um e Emo mostram diferentes resultados para ocultação de dados, limpeza de fala e sugestão de emojis.
08:51	Tags, marcações de tempo e formas	O apresentador avalia a precisão de gist, explica a proposta de Align e testa o reconhecimento de formas do modelo Shapes.
11:26	Títulos e reconhecimento de idiomas	O vídeo apresenta Title, testa a identificação de idiomas em texto com Tongue e em áudio com Ear.
14:03	Modelos em beta e conclusão	O apresentador lista cinco modelos ainda em beta e defende o potencial de modelos eficientes, cada um especializado em uma tarefa.

Citações

Em vez de tentar criar modelos grandes, eles estão criando modelos pequenos que rodam inteiramente no seu celular ou laptop, offline. — 00:00

A ideia é construir pequenos modelos especializados que cuidem do trabalho constante em segundo plano no dispositivo. — 00:30

Acho que esse modelo se concentra principalmente em palavras-chave, não em contexto. — 09:55

Acho muito legal que existam empresas como essa, focadas em modelos muito bons em uma tarefa específica. — 14:34

Conceitos e entidades

Desert Ant Labs (empresa): Laboratório europeu de IA que desenvolve modelos pequenos e especializados para execução no dispositivo.
Voz (modelo): Modelo de reconhecimento de fala testado para transcrever áudio no próprio dispositivo.
Clear (modelo): Modelo de aprimoramento de fala projetado para reduzir ruído e melhorar gravações de áudio.
Clips (modelo): Modelo que identifica e seleciona trechos curtos de destaque em gravações longas.
Clipper (ferramenta): Aplicativo para desktop que usa Clips para transcrever vídeos e gerar clipes curtos.
Redact (modelo): Modelo que identifica e oculta dados pessoais enquanto o texto é digitado.
Um (modelo): Modelo que remove palavras de preenchimento do áudio.
Emo (modelo): Modelo que sugere um emoji adequado ao texto digitado.
gist (modelo): Modelo que prevê tópicos e tags com base no título de uma publicação.
Align (modelo): Modelo que gera marcações de tempo para as palavras de uma transcrição.
Shapes (modelo): Modelo que converte traços desenhados à mão em formas vetoriais.
Title (modelo): Modelo que gera um título factual curto e uma descrição a partir de um bloco de texto.
Tongue (modelo): Modelo que identifica o idioma de um texto curto.
Ear (modelo): Modelo que identifica o idioma de um trecho curto de áudio.
Who (modelo): Modelo em beta destinado à identificação de falantes.
Shammer (modelo): Modelo em beta destinado a extrair JSON estruturado de texto bruto.
Toxic (modelo): Modelo em beta destinado a detectar discurso de ódio antes de uma publicação.
Moderator (modelo): Modelo em beta destinado a sinalizar nudez antes do envio de conteúdo.
I and Face (modelo): Modelo em beta mencionado para diferentes tarefas de visão.
Hugging Face (ferramenta): Plataforma onde, segundo o vídeo, os modelos publicados pela Desert Ant Labs estão disponíveis.
GitHub (ferramenta): Plataforma onde, segundo o vídeo, o SDK da Desert Ant Labs está disponível.
Claude Sonnet (modelo): Modelo usado como referência em uma comparação de consumo de energia citada para Clips.

Tradução completa (pt-BR)

00:00 Esta pode ser genuinamente a empresa de IA mais legal que existe. Ela se chama Desert Ant Labs, é um laboratório europeu de IA e tem uma missão muito específica. Em vez de tentar construir modelos grandes, eles estão criando modelos minúsculos que rodam inteiramente no seu celular ou laptop, offline, sem servidor nem chaves de API e sem custo por token. Então, neste vídeo, vamos dar uma olhada em 12 de seus pequenos modelos de IA, ver como funcionam e testá-los um por um. Vai

00:30 ser muito divertido, então vamos nessa. Toda a filosofia da Desert Ant Labs gira em torno de uma parte específica do corpo: o cerebelo. Ele representa cerca de 10% do tamanho do seu cérebro, mas contém 80% dos neurônios do cérebro. E é essa parte do cérebro que cuida do pensamento rápido e dos reflexos, como equilíbrio, ritmo e coordenação, para que o resto do cérebro fique livre para pensar. E a Desert Ant Labs quer aplicar essa mesma camada

01:02 ao software. O que eles estão fazendo é criar modelos pequenos e especializados que cuidam do trabalho constante em segundo plano no dispositivo, enquanto os grandes modelos na nuvem cuidam do raciocínio propriamente dito. Até agora, eles lançaram 12 modelos para várias tarefas, como converter áudio, texto e imagens, e também têm vários modelos beta que devem sair em breve. E olhem as páginas de marketing deles. Olhem como cada uma é linda. Fico impressionado com o estilo e o bom gosto na apresentação dos modelos. E tudo

01:32 o que lançaram está disponível no Hugging Face, o SDK deles está disponível no GitHub e o uso é gratuito para até 100 mil dispositivos ativos por mês em cada plataforma. Então vou testar todos esses 12 modelos e ver como se saem. Vamos conhecer o laboratório. Primeiro, temos Voz. Esse é o modelo especial de reconhecimento de fala deles. A promessa no site é que ele consegue transcrever 10 minutos de áudio em cerca de 2 segundos, rodando inteiramente em um iPhone.

02:04 Vamos ver se essa promessa se confirma. Para isso, criei um pequeno app com vibe coding usando Opus 5, que usa o modelo Voz por baixo dos panos. Aqui, vou selecionar um arquivo. Recentemente, fui à Fan Expo, onde vi Mr. T pessoalmente, e gravei alguns trechos dele falando. Então, vou usar um desses trechos, que é um vídeo de 7 minutos, e ver como ele o transcreve. E, como vocês podem ver pelos números aqui, ele realmente transcreveu o vídeo em 2 segundos. E aqui está uma

02:35 pequena reprodução de como ficou essa transcrição. >> Um garoto negro na Casa Branca. Sabe, qual é a piada ou a ideia principal? Sabe, diga às pessoas que eu não era um convidado sem convite. Não pulei o muro. Não estava lá protestando. >> Em seguida, temos um modelo chamado Clear. Ele promete aprimorar a fala para dar aquele som quente de microfone próximo, típico de um estúdio de podcast. Então, vamos tentar

03:06 gravar um áudio horrível e cheio de ruído e ver como ele o processa. Criei um pequeno app para iPhone com vibe coding, para testar o modelo diretamente no meu iPhone, e gravei um trechinho na cozinha. Aumentei a velocidade do ventilador para vocês ouvirem como fica a gravação original aqui. >> Olá, estou falando ao vivo de uma cozinha muito, muito barulhenta no meu apartamento. Vamos ver como fica tudo isso depois do

03:38 pós-processamento. >> De fato, vamos ver como fica. Com o Clear aplicado, fica assim. Olá, estou falando ao vivo de uma cozinha muito, muito barulhenta no meu apartamento. Vamos ver como fica tudo isso depois do pós-processamento. Bom, está razoável. Sinto que a remoção de ruído chegou a uns 70% do resultado, mas, para ser sincero, dei uma tarefa bem difícil para esse modelo.

04:09 Então, imagino que, com um áudio um pouco menos ruidoso, o resultado seria melhor, mas só queria testá-lo no exemplo mais extremo possível. Certo, o próximo é Clips. Esse modelo transforma gravações longas em vídeos curtos selecionados a dedo, com destaques da transcrição do vídeo. E ele tem um benchmark impressionante: eles afirmam que o Clips conseguiu recortar 100 mil vídeos de 30 minutos usando 470 vezes menos

04:39 energia para fazer o mesmo trabalho que Claude Sonnet. Eles também lançam esse modelo junto com um app para desktop chamado Clipper. Então, para esta demonstração, vou usar o Clipper e ver como funciona. O app é bem intuitivo. Basta arrastar um vídeo para dentro, e ele o processa, transcreve e divide em clipes curtos. Esses clipes são classificados de acordo com o que o modelo considera os melhores momentos do vídeo inteiro. E, como conheço o conteúdo deste vídeo, preciso dizer que a classificação deles não é das melhores

05:09 porque, em termos de potencial de viralizar, havia momentos melhores que certamente deveriam ter ficado mais acima na classificação. E é uma pena não haver como ajustar a forma como o modelo classifica os clipes. Mas, enfim, você também recebe um pequeno título para cada clipe e um parágrafo de resumo. Isso vem do modelinho de títulos deles, que vamos conferir daqui a pouco. Em seguida, temos Redact, um modelo que remove dados pessoais enquanto você digita. Assim, informações confidenciais nunca

05:42 chegam aos servidores nem aos registros. E ele é compatível com 27 idiomas. Esse modelo tem uma demonstração pronta para usar na página de marketing deles, então vou usá-la neste teste. Certo, como podem ver, já temos um exemplo aqui. Ele está destacado, e podemos ver como fica com os dados ocultados. Vamos começar a digitar alguma coisa. Meu nome é Andres. Vamos tentar outra. Minha senha é hello, alguma coisa, alguma coisa. E olhem só: ele não reconhece senhas.

06:12 Que pena. Acho que isso deveria estar incluído no modelo, mas, de qualquer forma, e se eu disser: “Meu número de SIN é”? Agora, vamos escrever alguma coisa. Como podem ver, ele nem reconhece um número canadense de SIN. Isso é um pouco decepcionante. Vamos tentar no meu idioma nativo, o letão. Como podem ver, ele também entende meu idioma nativo, o que é bem legal. Certo, vamos em frente.

06:42 Passando para o próximo, chamado Um. Esse modelo promete remover todas as palavras de preenchimento em 20 milissegundos e consegue processar uma hora de áudio em apenas 12 segundos. Mais uma vez, instalei o modelo em um app que criei com vibe coding, só para poder testá-lo no meu iPhone. Hum, então, hum, estou, estou trabalhando em um vídeo hoje, hum, e está, acho que está indo muito bem. Hum, estou gravando agora um áudio para uma,

07:16 hum, uma certa parte do vídeo. Ele encontrou cinco palavras de preenchimento, e fez isso em menos de um segundo. Estou, estou trabalhando em um vídeo hoje, e está, acho que está indo muito bem. Estou gravando agora um áudio para uma, hum, uma certa parte do vídeo. Vamos ver como ficou. Ele não cortou a minha parte do “hum”, mas removeu a maioria dos “hum”. Então, eu diria que é um bom modelo.

07:47 Não diria que é perfeito, mas faz o trabalho. E, para ser sincero, também não gostei do corte, porque ele não dividiu o áudio de maneira precisa. Ainda assim, é um modelinho legal. O próximo se chama Emo e provavelmente é um dos meus favoritos. Ele basicamente sugere um emoji que combina com o texto que você acabou de escrever, e eles afirmam que consegue fazer isso mais rápido do que você digita. Vamos ver como funciona. Temos vários exemplos aqui. Reserve um

08:19 voo para Tóquio, e ele mostra um avião. Vamos tentar um país: Canadá. Ele me dá uma folha de bordo, bem próximo. Estou surpreso que não sugira uma bandeira, mas tudo bem. Estou atrasado. Atrasado, então temos um homem correndo, um relógio, outro relógio. Acho que, para “atrasado”, ele sugere um emoji de lua. Então, acho que esse é um modelinho bem divertido e, na maior parte do tempo, bastante preciso. E ele ocupa apenas 5 MB no dispositivo e dá uma sugestão em menos de 2 ms.

08:51 Então, esse é um consumo de memória bem baixo para seus aplicativos. Em seguida, temos gist, um modelo que basicamente prevê tópicos e tags com base nos títulos das suas publicações. Ele afirma ser capaz de fazer isso em 101 idiomas e também oferece uma demonstração na página. Como podem ver, temos aqui um exemplo de título em inglês, e ele reconhece que “treino de corpo inteiro” significa saúde e condicionamento físico com

09:23 99% de precisão. Aqui está um artigo de notícias que acabei de colar de um site de notícias. Ele fala sobre cães e se eles estão tristes ou assustados. O estudo sugere — e ele sugere artes e cultura, o que não está correto, porque se trata de um estudo científico, mas tudo bem. Aqui está outro exemplo, que fala sobre viagens espaciais, e ele me dá carreiras e produtividade. Não é o resultado mais preciso que eu esperava. Acho que este modelo precisa de alguns ajustes, porque eu

09:55 acho que ele se concentra principalmente em palavras-chave, e não no contexto. Então, para ser sincero, eu não diria que está pronto para produção. Seguindo em frente, o próximo da nossa lista é Align, um modelo pequeno que gera marcações de tempo para palavras no dispositivo, a partir de qualquer transcritor. Eles afirmam que ele é mais preciso do que o transcritor da própria Apple, porque consegue detectar com mais precisão o início e o fim de cada palavra. E este é um

10:25 pouco difícil de testar, porque, para fazer uma demonstração visual legal, eu precisaria gerar duas transcrições separadas de um arquivo de áudio e vídeo e depois tentar verificar se elas correspondem com precisão de milissegundos. Então, neste caso, vou confiar na afirmação deles de que ele tem um bom desempenho e vou deixar vocês testarem por conta própria. Mas vamos passar para o próximo modelo. Em seguida, temos Shapes, um modelo de reconhecimento de formas no dispositivo

10:56 que transforma seus traços desenhados à mão em gráficos vetoriais precisos. E devo dizer que ele é legal. Quer dizer, reconhece uma linha, um retângulo, um triângulo e uma estrela, mas não consegui fazer com que reconhecesse uma elipse direito se eu a desenhar com duas linhas separadas; só reconhece se eu desenhar como uma linha circular. Então, este modelo é bonitinho e tudo mais, mas acho que ainda precisa de alguns ajustes. Vamos ao próximo, que se chama

11:26 Title. Ele basicamente gera um título curto e factual e uma descrição curta com base em um bloco de texto. Ou, neste caso, como vimos antes com Clipper, pode sugerir títulos para seus clipes curtos com base no conteúdo do texto. Já vimos como ele funciona no Clipper, e é bem legal. Então, vou deixar por isso mesmo e passar para o próximo modelo. O próximo se chama Tongue, e este modelo consegue identificar o idioma escrito

11:57 a partir de apenas algumas palavras, em dezenas de microssegundos, e oferece suporte a até 84 idiomas. Eles também têm uma demonstração nesta página, então vamos testá-la. Temos alguns exemplos aqui. “Je voudrais un café.” É francês. “Mitsubishi”: parece que ele acha que isso é polonês. Não exatamente, mas foi um bom esforço. Vamos ver se reconhece letão. Neste caso, ele reconhece o letão, o que me deixa muito feliz. Não tenho do que reclamar.

12:27 Tongue funciona muito bem. E este modelo tem apenas 2 megabytes. Então, acho que o consumo de memória é tão baixo que provavelmente vale a pena incluí-lo no seu aplicativo, se você precisar dele em produção. E, por último, mas não menos importante, temos Ear, que tem um conceito parecido com o modelo Tongue, mas consegue identificar 99 idiomas a partir de um trecho curto de áudio. Para este, também vou usar meu aplicativo feito com vibe coding, e vamos

12:59 começar a falar e ver se ele reconhece que isto está mesmo em inglês. E sim, está mesmo em inglês, com 100% de precisão, e ele identificou o idioma em 10 segundos. Então, eu diria que é um pouco lento, mas dá conta do recado. Vamos testar outros idiomas. “Šodien ārā ir ļoti skaists laiks.” Vamos ver como ele se sai com meu idioma nativo, o letão. Certo, isso não está bom. O modelo levou 5 segundos para processar o áudio e, com

13:32 29% de confiança, acha que é turco, quando, na verdade, não é. Não acho que o letão seja sequer parecido com o turco. Então, para ser sincero, fiquei bem decepcionado. Mas tudo bem, vamos em frente. Vamos tentar francês. “Bonjour, ça va ? Je voudrais un croissant.” Mais uma vez, foram 5 segundos de processamento e, neste caso, ele identificou que era francês, com 96% de precisão. Pelo menos funciona com alguns idiomas.

14:03 E aí está: analisamos 12 dos modelos publicados recentemente por eles. A Desert Ant Labs também tem cinco modelos ainda em beta. Who é para identificação de falantes; Shammer serve para extrair JSON estruturado de texto bruto; Toxic detecta discurso de ódio antes da publicação; Moderator sinaliza nudez antes do envio; e I e Face são para diferentes tarefas de visão. Eles ainda não foram totalmente lançados, mas, vendo a rapidez com que esse pequeno laboratório de IA está lançando modelos, não me surpreenderia se eles fossem

14:34 ficar disponíveis muito, muito em breve. Então, é isso, pessoal. Essa foi uma breve introdução à Desert Ant Labs. Acho mesmo que eles estão seguindo a abordagem certa, porque, num mundo com tantos modelos de IA de ponta que exigem muito espaço em disco e muita RAM para funcionar, acho muito legal que existam empresas como esta, focadas em modelos que são muito bons em uma tarefa específica. Acho que esse é o caminho sensato para o qual a IA no dispositivo está indo. Tenho certeza de que

15:05 veremos muitos outros exemplos desses micro modelos de IA, super eficientes em uma única tarefa, para que possamos criar aplicativos interessantes em torno deles. Mas o que vocês acham da Desert Ant Labs e de seus modelos? Já experimentaram algum deles? Quais são as primeiras impressões? Contem para a gente nos comentários aqui embaixo. E, pessoal, se gostam deste tipo de análise técnica detalhada, mostrem isso clicando no botão de curtir abaixo do vídeo. E também não se esqueçam de se inscrever no nosso canal. Aqui foi Andrus, da Better Stack, e eu

15:35 vejo vocês nos próximos vídeos.

Transcrição original

[00:00] This might genuinely be the coolest AI company out there. It’s called Desert Ant Labs and they are a European AI lab and they’ve set out on a very specific mission. Instead of chasing building big models, they’re building tiny models that run entirely on your phone or your laptop offline with no server and no API keys required and with no token cost. So in this video, we’ll take a look at 12 of their little AI models, see how they work and test them out one by one. It’s

[00:30] going to be a lot of fun, so let’s dive into it. So Desert Ant Labs whole philosophy is built around a certain body part, the cerebellum. It’s about 10% of your brain by size, but it holds 80% of your brain’s neurons. And that’s the part of your brain that handles the fast thinking and reflexes like balance, timing, coordination, so the rest of your brain is free to think. And Desert Ant Labs wants to apply the same layer

[01:02] for software. So what they’re doing is building small specialized models that handle the constant background work on device while the big cloud models handle the actual reasoning. And so far they’ve shipped 12 of these for various tasks like converting audio, text and vision and they have a handful of beta models coming out soon as well. And look at their marketing pages. Look how gorgeous each of them are. I’m just so blown away by how stylish and tasteful their model presentations are. And everything

[01:32] they’ve shipped is open on Hugging Face, their SDK is open on GitHub and it’s free to use up to 100,000 monthly active devices per platform. So I’m going to try out every single one of these 12 models and see how they perform. So let’s go through the lab. First up, we have Voz. That’s their special speech recognition model. The claim on their site is that they can transcribe 10 minutes of audio in about 2 seconds running entirely on an iPhone.

[02:04] So, let’s see if that claim actually holds up. So, for this purpose, I vibe coded a little app using Opus 5 that uses this Voz model under the hood. And here, I’m going to select a file and I recently visited Fan Expo where I saw Mr. T in person and I recorded some clips of him talking. So, I’m going to use one of these clips which is a 7-minute long video and see how well it transcribes it. So, and as you can see by the numbers here, it did actually transcribe it in 2 seconds. And here’s a

[02:35] little playback of what that transcription actually looks like. >> A black kid in the White House. You know, what is the joke or the main thing? You know, tell people I wasn’t an uninvited guest. I didn’t jump over the wall. I wasn’t out there protesting. >> Next, we have a model called Clear. And this model promises speech enhancement that gives you warm, closed-mic’d sound of a podcast studio. So, let’s try to

[03:06] record some awful, noisy audio and see how well it processes it. I vibe coded a little iPhone app so I can test out the model directly on my iPhone device and I recorded a little sound bite in my kitchen and I turned the fan up so you can hear how that sounds in the original recording right over here. >> Hello, I’m coming to you live from a very, very loud kitchen in my apartment. Let’s see how this all sounds after

[03:38] post-processing. >> Indeed, let’s see how that sounds. So, with Clear applied, it sounds like this. Hello, I’m coming to you live from a very, very loud kitchen in my apartment. Let’s see how this all sounds after post-processing. So, I mean, it’s okay. I feel like the noise removal was 70% there, but to be honest, I gave this model a really hard task.

[04:09] So, I would assume for a slightly less noisy audio, you would have a better output, but I just wanted to test it out on the most extreme example. Okay, next up we have Clips. And this is a model that turns long recordings into cherry-picked shorts with highlights from the video’s transcript. And this one has an insane benchmark because they claim Clips was able to clip 100,000 30-minute videos using 470 times less

[04:39] energy for the same job as Claude Sonnet. And they also ship this model with a desktop app called Clipper. So, for this demo, I’m going to use Clipper and see how it works. So, the app is quite intuitive. You just drag in a video and then it processes it, transcribes it, and cuts it into short clips. And these clips are ranked based on what the model decides are the best moments of the whole video. And since I know the content of this video, I have to say their ranking is not the best

[05:09] because in terms of virality, there were better moments for sure that should have been ranked higher. And it’s a shame that there’s no way to tweak the way the model ranks the clips. But anyway, you also get a little title for each clip and a summary paragraph. And this comes from their little title model, which we will check in a moment. Next up, we have Redact, which is a model that strips personal data as you type. So, sensitive information never

[05:42] reaches servers or logs. And it supports 27 languages. And this one has a ready-to-use demo on their marketing page, so I’m going to use that for this test. All right, as you can see, we already have some kind of an example here. It’s highlighted, and we can see how it looks redacted. So, let’s start typing something in. My name is Andres. Let’s try another one. My password is hello, something something. And look at that, it doesn’t recognize passwords.

[06:12] So, that’s a bummer. I think that should be included in the model, but nonetheless, what if I say, “My SIN number is”? And then, let’s write something in. So, as you can see, it doesn’t even recognize a Canadian SIN number. So, that’s a bit disappointing. Let’s try my native Latvian language. And as you can see, it also understands my native language, which is pretty cool. All right, let’s move on.

[06:42] Moving on to the next one, which is um, and this model claims to remove all filler words within 20 milliseconds, and it can process an hour of audio in just 12 seconds. So, once again, I have installed this in a Vibe Coded app, just so I can test it out on my iPhone. Um, so, um, I am I am working on a video today, um, and it’s I I guess it’s going pretty well. Um, I am now recording an audio for a,

[07:16] hm, a certain portion of the video. So, it found five fillers, and it did this in under a second. So, I am I am working on a video today, and it’s I guess it’s going pretty well. I am now recording an audio for a, hm, a certain portion of the video. Let’s see how that looks. So, it did not clip my, hm, portion, but it did remove most of the ums. So, I would say it’s a nice model.

[07:47] I wouldn’t say it’s perfect, but it does its job. And I’m going to be honest, I wasn’t a fan of the cut as well, because it didn’t slice the audio neatly. Nonetheless, it’s a cool little model as well. Next one is called Emo, and this is probably one of my favorite ones. It basically suggests an emoji that fits the text you’ve just written, and they claim it can do it faster than you type. So, let’s check how this works. So, we have a bunch of examples here. Book a

[08:19] flight to Tokyo, and it shows a plane. Let’s do a country, Canada. It gives me a maple leaf, so pretty close. I’m surprised it doesn’t give you a flag, but okay. I’m running late. Running late, so we have a running man, clock, another clock. I guess for late, it suggests a moon emoji. So, I think this is a pretty fun little model, and for most of the part, it’s quite accurate. And it’s only 5 MB on device, and it gives you a suggestion in under 2 ms.

[08:51] So, that is a pretty low memory footprint to have on your apps. Next up, we have gist, and this is a model that basically predicts topics and tags based on the titles of your post. And it claims to be able to do this in 101 languages, and they also have an on-page demo. So, as you can see, we have an example here of an English title, and it recognizes that full body workout means health and fitness with

[09:23] 99% accuracy. So, here’s a a news article I just pasted from a news site, and it talks about dogs, whether they’re sad or scared. Study suggests and it suggests arts and culture, which is not actually accurate because this is a scientific study, but okay. Here’s another one that talks about space travel, and this gives me careers and productivity. Not the most precise result I was hoping for. I think this model needs some improvement because I

[09:55] think this model mainly focuses on keywords and not on context, so I wouldn’t say this is production ready, to be honest. Moving on, the next one on our list is Align, and this is a small model that generates word timestamps on device from any transcriber, and they claim that it is more accurate than Apple’s own transcriber because it is able to detect the actual beginning and the end of a word more precisely. And this one is a

[10:25] bit tricky to test because in order for me to run a nice visual demo, I would need to generate two separate transcripts of an audio and video file, and then try to see if it matches precisely with the millisecond precision. So, for this one, I’ll just trust their claim here that it’s pretty performant, and I’ll let you folks try it out for ourselves. But let’s move on to the next model. So, next up we have Shapes, and this is an on device shape recognition model

[10:56] that turns your hand-drawn strokes into precise vector graphics. And I got to say it’s it’s nice. I mean, it does recognize a line, a rectangle, a triangle, and a star, but I couldn’t get it to recognize an ellipse properly if I draw it with two separate lines, only if it’s like a circle line. So, this model is cute and all, but I think it still needs some improvement. Let’s move on to the next one, which is

[11:26] called Title. And this one basically generates a short factual title and a short description based on a text block or in this case with Clipper as we saw before, it can suggest titles for your short clips based on the text content. We already saw it how it works in Clipper and it’s pretty cool. So, I’ll just leave it at that and let’s move on to the next model. Next one is called Tongue and this model is able to identify the written language

[11:57] from just a few words and it does it in tens of microseconds and it supports up to 84 languages. And they also have an on-page demo here, so let’s test it out. Okay, we have some examples here. Je voudrais un café. It’s French. Mitsubishi, it seems to think this is Polish. Not quite, but solid effort. Let’s see if it recognizes Latvian. It does recognize Latvian in this case, which I’m super happy about. I have no complaints.

[12:27] Tongue works pretty good. And this model is only 2 megabytes in size. So, I think the memory footprint is so small that this is probably worth putting in your application if you have a production need for it. And last but not least, we have Ear, which is a similar concept as the Tongue model, but this one can identify 99 languages from a short stretch of audio. So, for this one, I’m going to be using my Vibe Coded app as well and let’s

[12:59] start talking and see if it can recognize this is indeed English. And yes, indeed, it is English with 100% accuracy and it identified it in 10 seconds. So, I would say it is a bit slow, but it does the job. Let’s try different languages. Šodien āra ir ļoti skaists laiks. And let’s see how well it does with my native Latvian language. Okay, this is not good. The model took 5 seconds to process the audio and with

[13:32] 29% confidence, it thinks it’s Turkish when in reality it is not Turkish. It’s I don’t think Latvian is even similar to Turkish. So, I’m quite disappointed in that to be honest. But, okay, let’s move on. Let’s try French. Bonjour, ça va ? Je voudrais un croissant. And again, 5 seconds for processing and in this case it did identify that it’s French with 96% accuracy. So, at least it works for some languages.

[14:03] So, there you have it. We’ve gone through 12 of their recently published models. And Desert Ant Labs also have five models still in beta. Who is for speaker identification, Shammer is for pulling structured JSON out of raw text, Toxic is for catching hate speech before posting, Moderator for flagging nudity before upload, and I and Face for different vision tasks. These aren’t fully released yet, but seeing how fast this little AI lab is pumping out models, I’m not surprised if they’re

[14:34] going to be available very, very soon. So, there you have it, folks. That is a little introduction into Desert Ant Labs. I really think they’re going for the right approach here because in the world with so many frontier AI models that require a ton of disk space and a ton of RAM to run, I think it’s so cool that there are companies like this one that are focusing on models that are super good at one specific task, and I think that is the sensible future where on-device AI is heading. I’m sure we

[15:05] will see a lot more examples of these micro AI models that are super efficient at one single task, so we can build interesting apps around them. But, what do you think about Desert Ant Labs and their models? Have you tried any of these? What are your first impressions? Let us know in the comment section down below. And folks, if you like these types of technical breakdowns, please let me know by smashing that like button underneath the video. And also, don’t forget to subscribe to our channel. This has been Andrus from Better Stack, and I

[15:35] will see you in the next videos.