Pular para o conteúdo

Saída estruturada no navegador com Transformers.js 4.3

Ver no idioma original →

Autoria: Hugging Face · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Structured Output in the browser with Transformers.js 4.3 · Canal: Hugging Face · 00:31 · Assistir no YouTube

Tópicos: Engenharia de prompts e contexto, Engenharia de software com IA, Ferramentas de desenvolvimento com IA, Geração de conteúdo com IA

Transformers.js 4.3 apresenta suporte a saídas estruturadas, uma funcionalidade muito solicitada pela comunidade. Um novo pacote no NPM permite criar um processador que acompanha a geração de tokens e garante que eles sigam uma estrutura especificada. O vídeo demonstra o uso de um JSON Schema e de uma expressão regular. A equipe convida o público a experimentar o pacote e enviar feedback.

  • Transformers.js 4.3 introduz suporte a saídas estruturadas.
  • A funcionalidade atende a um pedido antigo da comunidade.
  • Um novo pacote no NPM permite criar um processador de saída estruturada.
  • O processador atua durante a geração de novos tokens.
  • As saídas podem ser restringidas por um JSON Schema ou por uma expressão regular.
  • A equipe convida o público a testar o pacote e compartilhar feedback.
Início Capítulo Resumo
00:00 Saídas estruturadas no Transformers.js 4.3 A nova funcionalidade, solicitada pela comunidade, é apresentada junto do pacote que cria um processador para controlar a geração de tokens.
00:31 JSON Schema, regex e feedback O vídeo mostra restrições por JSON Schema e regex e convida o público a experimentar o pacote e enviar feedback.

Uma das novas funcionalidades incríveis da versão 4.3 é a saída estruturada. — 00:00

Ele se conecta ao processo de geração de novos tokens e garante que cada token siga a estrutura. — 00:00

Aqui temos um JSON Schema, que precisa ser seguido. — 00:31

Está disponível no NPM. Experimentem e enviem seu feedback. — 00:31

  • Transformers.js (ferramenta): Biblioteca apresentada no vídeo, cuja versão 4.3 oferece suporte a saídas estruturadas.
  • structured output (conceito): Técnica que restringe a geração para que os tokens produzidos sigam uma estrutura definida.
  • npm (ferramenta): Registro onde o vídeo informa que o novo pacote de saída estruturada está disponível.
  • JSON Schema (conceito): Esquema usado para definir a estrutura que a saída gerada precisa seguir.
  • regex (conceito): Expressão regular que pode ser usada para restringir a saída gerada.
  • Hugging Face (empresa): Organização indicada como canal responsável pelo vídeo.

00:00 Um dos novos recursos incríveis da versão 4.3 é a saída estruturada. A comunidade pede saída estruturada há bastante tempo, e agora finalmente encontramos uma solução que funciona muito bem com Transformers JS. O que você pode ver é que temos este novo pacote de saída estruturada do Transformers no NPM, que permite criar um novo processador de saída estruturada. Basicamente, ele se integra ao processo de geração de novos tokens e garante que cada novo token realmente siga a estrutura que nós

00:31 queremos. Então, aqui temos um esquema JSON, e ele precisa seguir esse esquema JSON. E aqui temos uma expressão regular, e ela precisa corresponder a essa expressão regular. O pacote está disponível no NPM. Experimentem. Estamos muito felizes com o resultado, mas também adoraríamos receber o feedback de vocês.

Transcrição original

[00:00] One of the amazing new features in version 4.3 is structured output. Structured output has been requested by the community since quite some time, and now we finally found a solution that works great with Transformers JS. So, what you can see is that we have this new Transformers structured output package on NPM that allows you to build a new structured output processor. What it does, it basically hooks into the generation process of new tokens, and it makes sure that every new token actually follows the structure that we

[00:31] want. So, here we have a JSON schema, so it needs to follow this JSON schema. And here we have a regex, so it needs to satisfy this this regex. So, it is available on NPM. Please try it out. We are super happy with how it turned out, but we would love to get your feedback, too.