Pular para o conteúdo

Edge Zero

Ver no idioma original →

Projeto que mantém pesos de especialistas em um SSD e carrega os necessários para executar modelos grandes de mistura de especialistas em dispositivos pessoais.

Laya, Nimble, Magpie, Strata, Open Muse, Jev Ultrafast, Fast Jev Compaction, LibriSpeech, vLLM, RTX 4090, Apache License 2.0, PyTorch