Andrej Karpathy e ASD-STE100

Autoria: Data Science in your pocket · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Andrej Karpathy ASD-STE100 · Canal: Data Science in your pocket · 05:34 · Assistir no YouTube

Tópicos: Agentes de IA, Avaliação e benchmarks de IA, Geração de conteúdo com IA, Segurança de IA

Resumo

O vídeo apresenta a ideia de adaptar respostas de IA aos princípios do ASD-STE100, um padrão de inglês técnico controlado criado para tornar instruções mais consistentes e compreensíveis. A linguagem controlada pode facilitar a revisão ao destacar ações, condições, pressupostos e incertezas, mas não torna uma resposta necessariamente correta. Para trabalhos importantes, recomenda-se separar a produção técnica da apresentação para revisão, preservar o conteúdo original e verificar as afirmações decisivas. O objetivo é criar respostas e outros formatos que as pessoas consigam inspecionar e usar para tomar decisões.

Pontos-chave

Com a geração de conteúdo ficando barata, compreender e verificar respostas extensas se torna mais difícil.
ASD-STE100 é um padrão de inglês técnico controlado, desenvolvido para documentação técnica e segurança na manutenção de aeronaves.
A consistência de termos e a clareza sobre ações e condições facilitam a revisão humana.
Uma resposta clara ainda pode estar errada; a estrutura melhora a superfície de revisão, não a veracidade das informações.
Peça que o modelo preserve números, unidades, versões, identificadores, mensagens de erro, exceções e incertezas.
Separe o fluxo de trabalho em duas etapas: resolver e reunir evidências; depois, apresentar o resultado para revisão sem alterar seu significado.
Escolha o formato — texto, diagrama, página interativa ou vídeo narrado — conforme o que a pessoa precisa entender ou decidir.
Verifique o próprio material produzido: execute comandos, confira diagramas e valide cálculos.
Relatórios de agents podem funcionar como superfícies de controle para a supervisão humana, mas não eliminam a responsabilidade de verificar.

Capítulos

Início	Capítulo	Resumo
00:00	Da geração à compreensão	O vídeo apresenta o desafio de confiar em respostas extensas de IA e propõe pensar em interfaces melhores para revisá-las.
01:40	Como a linguagem controlada facilita a revisão	Um exemplo mostra como etapas explícitas e termos consistentes tornam afirmações e condições mais fáceis de inspecionar, sem garantir que estejam corretas.
03:22	Preservar o significado e verificar	O vídeo recomenda preservar detalhes e incertezas, separar a solução da apresentação para revisão e escolher formatos conforme a decisão necessária.
04:29	Um fluxo de trabalho para supervisão	A proposta é definir a decisão, reunir evidências, escolher uma representação e verificar tanto as afirmações quanto o material produzido.

Citações

Quando gerar conteúdo fica barato, compreender fica caro. — 00:00

Uma resposta errada e clara continua errada. — 02:48

Peça preservação, não apenas simplicidade. — 03:22

O objetivo não é apenas uma resposta de IA mais curta. É uma resposta que você possa inspecionar. — 05:34

Conceitos e entidades

ASD-STE100 (conceito): Padrão de inglês técnico controlado que define regras de escrita e um vocabulário aprovado para tornar a documentação técnica mais consistente.
Andrej Karpathy (pessoa): Pesquisador cuja sugestão, apresentada no vídeo, é aproximar respostas de IA dos princípios do ASD-STE100.
controlled language (conceito): Uso de regras e termos consistentes para tornar um texto mais fácil de compreender e revisar.
human oversight (conceito): Supervisão humana que inclui examinar evidências, pressupostos e resultados antes de agir.

Tradução completa (pt-BR)

00:00 O modelo termina em segundos. Um plano de migração, 20 resumos de artigos, uma explicação que soa impecável, e então o trabalho de verdade chega à sua mesa. Milhares de palavras agora se interpõem entre você e uma pergunta simples. Posso confiar nisso o bastante para agir? Quando a geração fica barata, a compreensão fica cara. A sugestão de Andrej Karpathy começa com uma mudança de perspectiva. Não peça apenas uma resposta melhor. Peça uma interface melhor para essa resposta. A proposta prática dele

00:34 é chegar a cerca de 80% do caminho até o ASD STE100, uma forma controlada de inglês técnico. Mas a ideia mais profunda vai além da escrita. Projete a saída em torno do trabalho mental que a pessoa precisa fazer. ASD STE100 significa Inglês Técnico Simplificado da ASD. Ele foi criado para documentação técnica, especialmente para manutenção de aeronaves, onde leitores com diferentes níveis de inglês ainda precisavam ter o mesmo entendimento seguro. O projeto

01:08 começou no fim dos anos 1970. O primeiro guia foi lançado em 1986, e a edição nove se tornou um padrão internacional em janeiro de 2025. O padrão tem duas partes. As regras de escrita controlam a gramática, a estrutura das frases, os procedimentos, as descrições e as instruções de segurança. Um dicionário controlado atribui significados e classes gramaticais específicos às palavras aprovadas. Isso é mais rigoroso do que o inglês simples. Não se trata apenas de usar frases curtas. O objetivo é a

01:40 consistência. Um componente, um termo, uma ação, uma etapa clara. Imagine uma resposta de IA sobre como melhorar um serviço lento. Um parágrafo bem escrito mistura cache, escalabilidade, condições e um alerta sobre dados desatualizados. Gramaticalmente, não há nada de errado. Do ponto de vista operacional, a frase é um nó. Uma versão inspirada no STE desata esse nó. Meça a latência. Adicione um cache quando as solicitações se repetirem. Defina um prazo de expiração.

02:13 Execute um teste de carga. Adicione instâncias somente se a meta ainda não tiver sido atingida. Em seguida, coloque o alerta exatamente onde ele importa. Um cache pode retornar dados antigos. Agora, quem faz a revisão tem pontos específicos para questionar. Qual métrica de latência? A carga de trabalho tem muitas leituras? Qual prazo de expiração é seguro? O teste de carga se parece com a produção? A linguagem controlada faz mais do que reduzir tokens. Ela expõe agentes, ações, condições e suposições como afirmações que podem ser inspecionadas. Uma terminologia

02:48 consistente elimina outro encargo. Se uma resposta chama o mesmo componente de trabalhador, depois de processador e, em seguida, de consumidor, você precisa decidir se o assunto mudou. Um termo estável elimina esse trabalho de detetive. Mas lembre-se do limite. Uma resposta errada e clara continua errada. Uma estrutura bem-acabada pode fazer evidências fracas parecerem confiáveis. O STE melhora a forma como a resposta pode ser revisada, não a verdade que está por trás dela. Portanto, não peça apenas simplicidade no prompt. Peça que as informações sejam preservadas.

03:22 Mantenha todos os números, unidades, versões, identificadores, mensagens de erro, exceções e incertezas. Palavras como somente, a menos que, antes e não verificado podem determinar toda a decisão. Peça ao modelo que separe fatos, suposições e incógnitas. Indique o que está faltando e termine com verificações que você possa usar para confirmar a resposta. Para trabalhos de alto valor, divida o workflow em duas etapas. Primeiro,

03:53 resolva e busque fontes. Produza a resposta técnica, reúna evidências e marque as incertezas. Segundo, prepare a apresentação para revisão. Converta essa resposta em um texto inspirado no STE ou em outra forma adequada, sem alterar o significado. Mantenha o original disponível. Para cumprir o padrão rigorosamente, use um verificador específico e uma revisão especializada. A IA deve ajudar autores humanos, não substituí-los. Agora, a ideia se desdobra em quatro formatos. Use etapas controladas para revisar um deploy. Use um diagrama para revelar

04:29 relações, como todos os ambientes consultarem o mesmo índice de recuperação desatualizado. Use uma página interativa para alterar suposições sobre volume, ordenação, repetição ou custo. Use um vídeo narrado quando o movimento ajudar a construir o modelo mental. A questão não é STE ou HTML. É: “O que a pessoa que revisa precisa entender ou decidir?” Um workflow prático tem seis etapas. Defina a decisão. Peça

04:59 evidências. Escolha a representação. Preserve o original. Verifique as poucas afirmações que poderiam mudar sua decisão. Em seguida, teste o próprio material. Execute os comandos. Inspecione cada conexão do diagrama. Valide o cálculo. Saídas mais elaboradas exigem verificações mais elaboradas. Um diagrama bonito pode inventar uma conexão com a mesma facilidade com que um parágrafo pode inventar um fato. À medida que os agents assumem tarefas mais longas, seus relatórios se tornam superfícies de controle para a supervisão humana. Portanto, não peça apenas

05:34 um resumo detalhado. Peça o diagrama do sistema, as ações controladas, todas as suposições, uma lista de verificação e os logs originais. O modelo pode simplificar a explicação. Não pode eliminar sua responsabilidade de verificá-la. O objetivo não é apenas produzir saídas de IA mais curtas. É produzir saídas que você possa inspecionar.

Transcrição original

[00:00] The model finishes in seconds. A migration plan, 20 paper summaries, a flawless sounding explanation, then the real work lands on your desk. Thousands of words now stand between you and one simple question. Can I trust this enough to act? When generation becomes cheap, comprehension becomes expensive. Andre Karpathy’s suggestion starts with a change of perspective. Do not ask only for a better answer. Ask for a better interface to that answer. His practical

[00:34] prompt is to go about 80% of the way to ASD STE100, a controlled form of technical English. But the deeper idea reaches beyond writing. Design the output around the mental work the human must do. ASD STE100 means ASD Simplified Technical English. It was created for technical documentation, especially aircraft maintenance, where readers with different levels of English still needed the same safe understanding. The project

[01:08] began in the late ’70s. The first guide arrived in 1986, and issue nine became an international standard in January 2025. The standard has two parts. Writing rules control grammar, sentence structure, procedures, descriptions, and safety instructions. A controlled dictionary gives approved words specific meanings and parts of speech. This is stricter than plain English. It is not just use short sentences. Consistency is

[01:40] the point. One component, one term, one action, one clear step. Imagine an AI answer about improving a slow service. One polished paragraph mixes caching, scaling, conditions, and a warning about stale data. Grammatically, nothing is wrong. Operationally, the sentence is a knot. An STE-inspired version cuts the knot. Measure latency. Add a cache when requests repeat. Set an expiration time.

[02:13] Run a load test. Add instances only if the target is still missed. Then place the warning exactly where it matters. A cache can return old data. Now the reviewer has specific points to challenge. Which latency metric? Is the workload read heavy? What expiration is safe? Does the load test resemble production? Control language does more than reduce tokens. It exposes actors, actions, conditions, and assumptions as inspectable claims. Consistent

[02:48] terminology removes another burden. If an answer calls the same component a worker, then a processor, then a consumer, you must decide whether it changed the subject. One stable term removes that detective work. But remember the limit. A clear wrong answer is still wrong. Polished structure can make weak evidence feel credible. STE improves the review surface, not the underlying truth. So do not prompt only for simplicity. Prompt for preservation.

[03:22] Keep every number, unit, version, identifier, error message, exception, and uncertainty. Words like only, unless, before, and not verified can carry the whole decision. Ask the model to separate facts, assumptions, and unknowns. State what is missing and finish with checks you can use to verify the answer. For high-value work, split the workflow into two stages. First,

[03:53] solve and source. Produce the technical answer, gather evidence, and mark uncertainty. Second, render for review. Convert that answer into STE-inspired text or another suitable view without changing its meaning. Keep the original available. For strict compliance, use a dedicated checker and expert review. AI should assist human authors, not replace them. Now the idea opens into four formats. Use controlled steps to review a deployment. Use a diagram to expose

[04:29] relationships, such as every environment reading the same stale retrieval index. Use an interactive page to change assumptions about volume, ordering, replay, or cost. Use a narrated video when motion builds the mental model. The question is not STE or HTML. It is, “What must the reviewer understand or decide?” A practical workflow has six moves. Define the decision. Request

[04:59] evidence. Choose the representation. Preserve the original. Check the few claims that could change your decision. Then test the artifact itself. Run the commands. Inspect every diagram edge. Validate the calculation. Richer outputs need richer verification. A beautiful diagram can invent a connection just as easily as a paragraph can invent a fact. As agents take on longer tasks, their reports become control surfaces for human oversight. So do not ask only for

[05:34] a detailed summary. Ask for the system diagram, the controlled actions, every assumption, a verification checklist, and the original logs. The model can simplify the explanation. It cannot simplify away your responsibility to check it. The goal is not merely shorter AI output. It is output you can inspect.