API, SDK ou harness completo: quando e por que escolher cada um?

Ver no idioma original →

Autoria: Cortes do Rafael Quintanilha · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: português

Vídeo original: API, SDK ou Harness completo: quando e por que escolher cada um? · Canal: Cortes do Rafael Quintanilha · 08:44 · Assistir no YouTube

Tópicos: Agentes de IA, Engenharia de software com IA, Infraestrutura e hardware de IA, Mercados e economia

Resumo

A conversa apresenta três níveis de controle para usar serviços de IA: fazer chamadas à API, usar um SDK com um harness para gerenciar o loop ou terceirizar o harness inteiro. A escolha depende da maturidade do projeto, da velocidade necessária para validar a ideia e do quanto a equipe aceita depender de um fornecedor. Começar com uma solução pronta pode acelerar a validação, especialmente para equipes pequenas, enquanto desacoplar a infraestrutura pode ajudar a reduzir custos conforme o negócio cresce. Os participantes também destacam que evitar lock-in a qualquer custo pode fazer uma startup perder oportunidades de avançar mais rápido.

Pontos-chave

• A API oferece o nível mais baixo de abstração: o sistema solicita uma inferência e recebe uma resposta.
• Com um SDK, o fornecedor pode ajudar a controlar o loop e a integração com ferramentas.
• Um harness completo hospedado pelo fornecedor também pode incluir sandbox e scheduler gerenciados por ele.
• A escolha entre os níveis depende do projeto, da maturidade da solução e da rapidez necessária para validá-la.
• Uma solução pronta pode custar mais, mas poupar tempo e trabalho de implementação.
• Depois de validar o produto e observar seu crescimento, a equipe pode reduzir a dependência e desacoplar a infraestrutura.
• Para uma equipe pequena, delegar a gestão da infraestrutura pode liberar tempo para produto, distribuição e validação.
• O receio de lock-in não deve impedir o uso de ferramentas que ajudam a colocar um produto no mercado mais rapidamente.
• Programas de créditos e ecossistemas para startups podem atrair desenvolvedores e empresas para uma plataforma por longo prazo.

Capítulos

Início	Capítulo	Resumo
00:00	Infraestrutura e lançamentos da Anthropic	Os participantes comentam o foco empresarial da Anthropic, seus lançamentos recentes e a preocupação com dependência de um ecossistema.
02:00	Três níveis de controle	A conversa distingue o uso direto da API, o uso de um SDK com controle do loop e a terceirização do harness completo.
03:35	Como escolher o nível de abstração	Vini relaciona a escolha à maturidade do projeto e à rapidez necessária para validar um produto.
06:09	Validar primeiro e desacoplar depois	Os participantes defendem começar com soluções prontas quando isso acelera a validação e considerar o desacoplamento conforme o negócio cresce.
07:41	Ecossistemas e aquisição de startups	A conversa aborda como plataformas e programas de créditos atraem startups e podem criar vínculos duradouros com seus ecossistemas.

Citações

Você basicamente só pede uma inferência. — 02:00

O terceiro degrau é você terceirizar todo o harness. — 02:32

O fator de decisão vai vir junto com o quão rápido eu preciso disso versus o quão rápido eu quero validar. — 05:07

Você precisa validar rápido o produto e, quando validou, aí sim vai pensar em como desacoplar e reduzir o custo. — 07:41

Eu ganhei créditos da AWS pra rodar coisa lá, rodei lá, nunca mais saí de lá. — 08:12

Conceitos e entidades

• API (conceito): Interface que permite solicitar uma inferência ao serviço e receber uma resposta.
• SDK (ferramenta): Kit de desenvolvimento que pode oferecer abstrações para integrar ferramentas e controlar o loop de um sistema.
• Harness (conceito): Estrutura que coordena o loop e outros componentes necessários para executar um sistema de agentes.
• lock-in (conceito): Dependência de um fornecedor ou ecossistema que pode dificultar a migração para outra solução.
• Anthropic (empresa): Empresa citada como focada em desenvolver produtos para o mercado empresarial.
• OpenAI (empresa): Empresa mencionada na comparação entre diferentes níveis de acesso à infraestrutura de IA.
• Vercel (empresa): Plataforma usada como exemplo de serviço que facilita a entrada, mas pode aumentar custos e lock-in.
• AWS (empresa): Serviço de nuvem citado como exemplo de plataforma à qual startups podem se vincular ao começar.
• GCP (empresa): Serviço de nuvem citado na comparação com plataformas que oferecem abstrações sobre a infraestrutura.
• Codex (ferramenta): Nome mencionado brevemente durante uma brincadeira antes da discussão sobre níveis de dependência.

Tradução completa (pt-BR)

00:00 Esse é um corte do podcast Limite Semanal, que acontece toda segunda-feira às 7 da noite, comigo e com o Vini, lá da AI Coders. Se você quer ficar por dentro de tudo que acontece de relevante no mundo da IA, considere se inscrever no canal pelo link que está tanto na descrição quanto no comentário fixado. Vini, você chegou a testar parte dessa infraestrutura deles aqui, seja o Managed Day, seja o SDK, né? O que você está pensando, como está

00:30 pensando em gastar esses créditos que acabou de adquirir? >> Maravilha, maravilha. Cara, essa parte da infraestrutura deles eu ainda estou estudando, porque o que está acontecendo é o seguinte, né? Vi que você já trouxe boa parte disso, mas a Anthropic está muito focada no ecossistema mais voltado para empresas, que é o forte dela. A gente vê a OpenAI, e até a SpaceX AI, brigando muito pela frente B2C, pelo cliente convencional. A Anthropic resolveu que não vai fazer o botzinho dela, que vai focar em criar produto para empresas. E aí, dentro disso, eles lançaram

01:00 recentemente, nesta semana, né? Fizeram uma sequência de lançamentos ali. E um dos lançamentos que achei interessante é a API do Dynamic Workflows. Dá para montar isso no sistema de agentes, dá para montar. Mas o fato de você ter algo plug-and-play ali, a facilidade de simplesmente iniciar vários agentes efêmeros, acho interessante. Não cheguei a testar tão a fundo. Tenho um pouco de pé atrás com me amarrar muito ao ecossistema de uma empresa assim. >> Certo. >> O mesmo pé atrás que eu tenho, né? A

01:30 gente fez o comparativo: será que a Anthropic quer virar a AWS? Também tenho pé atrás com a AWS, com me amarrar muito lá dentro. Mas a gente sabe que tem empresas que eventualmente optam por isso sabendo, né? “Ah, vou usar a AWS sabendo que ali pode haver um problema ou uma solução também”, mas por escolha. Mas esse caminho faz muito sentido, viu, Rafa? Porque agora tem a própria certificação de nuvem. Então, os caras estão de fato desenhando ali uma esteirinha de produto para trazer um

02:00 mercado para dentro mesmo. >> Pois é, e isso também é importante e interessante, né? Porque você vê que eles oferecem um nível de controle desde o nível mais baixo. Não só a Anthropic, a OpenAI faz isso também. Então, você consegue se conectar via API, que seria o nível mais baixo, né? Você basicamente só pede uma inferência. >> Exato. >> Você solicita uma inferência, ele retorna para você. Ponto. É o nível mais básico da requisição, digamos assim. Daí você pode utilizar um SDK, né? O SDK,

02:32 você vai ter aquele harness ali de alguma forma; eles vão controlar, por exemplo, também o loop, né? “Olha, tem essas ferramentas.” Então, você não está controlando só a inferência, mas também todo o loop. Beleza? >> Perfeito. Perfeito. >> Então, esse é o segundo degrau. E aí o terceiro degrau é terceirizar todo o harness. Então, em vez de ter só a inferência e o loop, você também tem tudo isso rodando nos próprios servidores deles, com os próprios ambientes isolados deles, com os próprios escalonadores deles etc. Então, você vai evoluindo ali

03:04 na escadinha. E aí a minha pergunta para você, Vini, já que hoje eu vou ser o host e você vai ser o… >> Estou fechado. Vamos nessa. Você está mandando muito bem aí, cara. Foi… >> Então, hoje, já que estou fazendo esse papel aqui, vou fazer as perguntas para você. >> Bora lá, então. >> E a minha pergunta para você é a seguinte: dado esses três níveis de controle que você pode ter, quando escolheria cada um deles? Você falou, “Pô, talvez eu tenha medo de ficar preso ali”,

03:35 né? No sistema dos caras. Então, o que passa pela sua cabeça? Para o pessoal que está nos assistindo, para a audiência: preciso escolher qual vou usar, né? Em que grau de liberdade vou atuar e por quê? >> Tá bom, vou aproveitar e fazer um gancho com o comentário do Codex aqui. Sei que a turma está te ajudando desde o começo, então a estileira do Vinte Tipo está para lançar o keynote de startup; só falta lançar um “Hi everyone, today we are glad to present Semanal Vinte Tipo Startup”. So, hi everyone. Brincadeira. Cara,

04:06 vamos lá. O que eu enxergo? Não é muito diferente, não é nada de novo em relação ao que a gente já está acostumado a ver no mercado de software, Rafa. Se a gente fizer um comparativo, uma comparação direta, hoje temos, por exemplo, a Vercel, que, querendo ou não, é uma camada sobre um GCP, uma AWS, mas que facilita. Ela entrega ali: você vai pagar um pouco mais caro, vai ter uma dependência maior, mas isso facilita a entrada. Então, vejo que esses degraus de níveis de dependência que a gente vai criando com a

04:36 empresa — ou seja, eu pagar só pela inferência, pagar pela inferência e também usar um SDK, ou simplesmente terceirizar todo o harness para eles — vão depender, na minha opinião, do nível do projeto que estou construindo e da maturidade do projeto. Deixa eu trazer um exemplo. Se eu já tenho um sistema de agentes, ou se não tenho um sistema de agentes e quero validar um produto, o que é mais rápido para eu fazer? Usar um harness já pronto, com todos os escalonadores e tudo funcionando, pelo qual vou pagar um pouco mais caro, mas

05:07 com o qual vou conseguir validar aquela ideia rapidamente, ou criar uma coisa do zero, pensando e entendendo toda a lógica de como montar isso por trás? Mesmo que agora seja mais rápido com IA, ainda assim acho que o fator de decisão vai depender também do quão rápido eu preciso disso versus o quão rápido quero validar. E aí, depois que validei, vamos diminuindo o nível de dependência. E essa redução de dependência vem junto com a redução dos custos operacionais, enquanto o sistema escala, o que, ao mesmo tempo, exige mais

05:38 gente trabalhando nisso. Ou seja, se sou uma empresa de uma pessoa só, talvez faça sentido, na minha visão, pegar a estrutura toda pronta, não ter que gerenciar tudo isso e focar em distribuição, produto e tudo mais. Poxa, validei o negócio, o modelo está crescendo; vamos avançar, vamos começar a separar a nossa infraestrutura da desses caras, como as startups fazem hoje. “Pô, comecei na Vercel, começo a separar um pouco, vou para o GCP, vou para a AWS.” E aí, pô, chega o nível dos caras gigantescos, que compram um data center. Pode até ir por aí. Mas eu chego assim,

06:09 Rafa, você vê alguma coisa diferente? Ou está mutado? Ou sou eu que estou surdo? >> Eu estava mutado. Estava tentando colocar o banner aqui, mas não sei fazer. Estava aprendendo ao vivo, mas não deu certo. >> [risadas] >> Cara, acho que você falou bem, né, cara? Não tem nada de novo sob o sol aqui, né? A gente já está acostumado a trabalhar com MVP. Você sabe: “Ah, cara, talvez eu queira colocar uma coisa no ar, quero validar; pego o maior nível de dependência possível para conseguir validar.” E aí, com o tempo, à medida que eu

06:40 validei a minha ideia, já vou pensando em ter uma infraestrutura mais robusta e coisas do tipo, né? Então, acho que é bem por aí mesmo. E repito o que falei no episódio passado, semana passada ou retrasada, né? Um grande arrependimento que tenho na vida foi ter feito pouco caso de empresas satélites da AWS, sei lá, há 10, 15 anos, quando comecei a trabalhar. Eu falava: “Ah, cara, não quero me… não quero me…” >> Travar aqui, se eu posso fazer… >> É, não vou criar tudo. Aquela ideia,

07:11 né? Eu não quero construir a minha casa no terreno do meu sogro. >> É alugado, né? >> Do meu sogro, exatamente, né? Então, às vezes você fica nessa, fica nessa e deixa passar o cavalo selado, né? Então, a gente também tem que entender que quem tem grande chance de ganhar a corrida é a Cloud, que está na frente, né? >> Pô, Rafa, mas quer ver o maior exemplo do que está acontecendo agora? A quantidade de SaaS feito com ferramentas de desenvolvimento com pouco código que os caras estão conseguindo colocar no mercado e com que conseguem gerar receita, ter lucro, é absurda. Enquanto isso, tem gente que fala: “Não, pô, eu não vou usar ferramentas de desenvolvimento com pouco código, pô, vou fazer um negócio de código em nuvem, não é para infraestrutura, nanana”. Porque, assim, o segredo de startup, né, tem as métricas, né? Antes de A, 95% delas quebram. Mas o negócio é que você precisa validar o produto rápido e, quando tiver validado e encontrado a adequação entre produto e mercado, aí sim vai pensar: “Tá, como é que eu desacoplo, como é que eu reduzo o custo e tudo mais?”. Então, vejo que entra muito nessa pegada. E aí, o que é interessante, fazendo a conexão com o programa de startups da nuvem, é que ele também vai nessa linha, porque eu vou pegar na mão

07:41 do cara que está começando, trazer o cara para o meu ecossistema, entregar um ecossistema fácil para o cara plugar e construir a estrutura dele em cima desse ecossistema, que é a mesma coisa que a AWS faz, a mesma coisa que o Google for startups faz também. E aí o cara vai construindo ali em cima. >> Eu ia falar isso. Eu comecei na AWS porque ganhei — lembro que, na época do Quant Brasil, ganhei créditos da AWS para rodar coisas lá. Rodei lá e nunca mais saí de lá, cara. Comecei lá e fiquei lá. Tudo bem que a AWS é a grande vencedora, é difícil sair de lá mesmo, mas, assim, eles me capturaram certamente; o retorno sobre o investimento para eles foi positivo.

08:12 >> Claro, claro.

08:44 >> Claro, claro.

Transcrição original

[00:00] Esse é um corte do podcast limite semanal que acontece toda segunda-feira às 7:00 da noite comigo e com o Vini lá da AI Coders. Se você quer ficar por dentro de tudo que acontece de relevante no mundo da IA, considere se inscrever no canal através do link que está tanto na descrição quanto no comentário fixado. Você chegou, Vini, a testar eh parte dessa infra deles aqui, seja o Manager Day, seja SDK, né? O que que você tá pensando, como você está

[00:30] pensando em gastar esses créditos que você acabou de adquirir? >> Maravilha, maravilha. Cara, essa parte da infra deles eu tô estudando ainda, porque ele é o que que tá acontecendo, né? Eu vi que você já trouxe boa parte disso, mas a Antropic ela tá muito focada no ecossistema mais para Enterprise, que é o forte dela. A gente vê Open AI, até Space X AI brigando muito pela frente do B2C, do cliente convencional. A Antropic que resolveu que não vai fazer o botezinho dela, que vai focar em criar produto para empresa. E aí dentro disso, ah, eles lançaram

[01:00] recentemente agora na semana, essa semana, né? Fizeram uma sequência de lançamentos ali. E uma um dos lançamentos que eu achei interessante é o API do Dynamic Workflows. Porque dá para montar isso no no sistema de agentes, dá para montar. Mas o fato de você ter plugin play ali, uma facilidade de simplesmente spawnar múltiplos agentes efêmeros ali, eu acho interessante. Não cheguei a testar tão a fundo. Eu tenho um pouco de pé atrás com me amarrar muito no ecossistema assim de empresa. >> Certo. >> O mesmo pé atrás que eu tenho, né? A

[01:30] gente fez o comparativo com a Será que a Antropic quer virar a AWS? Eu tenho o pé atrás da com a AWS também, de me amarrar muito lá dentro. Mas a gente sabe que tem empresas que eventualmente eh optam por isso sabendo, né? Ah, eu vou usar a AWS sabendo que ali vai ser um problema ou uma solução também, mas por escolha. E mas faz muito sentido esse esse caminho, viu, Rafa? Porque agora tem a própria certificação de Cloud. Então os caras estão de fato desenhando ali uma uma esteirinha de produto para trazer um

[02:00] mercado para dentro mesmo. >> Pois é, e é importante também e é interessante, né? Porque você vê que que eles oferecem o nível de controle desde ali do nível mais baixo, não só na Tropic, que a Open AI faz isso também. Então você consegue se conectar via API, que seria o nível mais baixo, né? Então você basicamente só só pede uma inferência. >> Exato. >> Você solicita uma inferência, ele retorna para você. Ponto. É o nível mais básico, digamos assim, da requisição. Daí você pode utilizar SDK, né? A SDK,

[02:32] você vai ter aquele harness ali de alguma forma, ele eles vão controlar, por exemplo, também o loop, né? Olha, tem essas ferramentas, então não só você está controlando só a inferência, mas também todo o loop. Beleza? >> Perfeito. Perfeito. >> Então essa é a segunda é o segundo degrau. E aí o terceiro degrau é você terceirizar, então, todo o harness. Então, em vez de você ter não só inferência e não só loop, mas você também tem isso rodando nos próprios servidores dele, com os próprios sandbox dele, com os próprios schedulers dele, etc, etc. Então você vai evoluindo ali

[03:04] na escadinha. E aí a minha pergunta para você, Vin, que hoje hoje eu vou ser o host e você vai ser o >> Tô fechou. Vamos nessa. Você você tá você mandando aí para caramba, cara. Foi >> Então hoje, já que eu já que eu estou fazendo esse papel aqui, a minha eu vou fazer as perguntas para você hoje. >> Bora lá, então. >> E a minha pergunta para você é o seguinte: dado esses três níveis de controle que você pode ter, quando que você escolheria cada um deles? Assim, você você falou do você falou, pô, eu tenho medo talvez de ficar preso ali,

[03:35] né? Não é com o sistema dos caras. Então que que passa pela sua cabeça na para o pessoal que está aqui na nos assistindo, a audiência, preciso escolher qual que eu vou usar, né? Em qual grau de liberdade eu vou dar e por quê? >> Tá bom, eu vou eu vou aproveitar e vou fazer um gancho com o comentário do Codex aqui. Que eu sei que a turma tá te ajudando desde desde o começo aqui, então a stileira do Vinte Tipo tá para para lançar o keynote de startup, só falta lançar um “Hi everyone, today we are glad to present Semanal Vinte Tipo Startup”. So, hi everyone, brincando. Cara, eh,

[04:06] vamos lá. Que que eu enxergo? Não é muito diferente, não é nada de novo em relação ao que a gente já tá acostumado com o mercado de software, Rafa. Eh, se a gente fizer um comparativo, um depara, hoje a gente tem, por exemplo, a Vercel, que, pô, querendo ou não, ela é um wrapper de um GCP, de uma uma AWS, mas que ela facilita. Ela entrega ali, você vai pagar um pouco mais caro, você vai ter um lock-in mais forte, mas ela facilita a entrada. Então, eu vejo que o a esses degraus de eh níveis de de de como os outros de lock-in que a gente vai colocando com a

[04:36] empresa, ou seja, eu pagar só pela inferência, eu pagar pela inferência mais usar um SDK e eu simplesmente terceirizar todo o harness harness com eles, vai depender, ao meu ver, do nível do projeto que eu tô construindo e da maturidade do projeto. Deixa eu trazer um exemplo. Se eu já tenho um sistema de agentes, ou eh se eu não tenho um sistema de agentes e eu quero validar um produto, o que que é mais rápido para eu fazer? Eu usar uma um harness já pronto, que tem todos os schedules tudo funcionando, que eu vou pagar um pouco mais caro pelo custo, mas

[05:07] que eu vou conseguir validar aquela ideia rápida, ou criar uma coisa do zero, de pensar, entender toda a lógica de montar isso por trás? Eh, tá, por mais que agora é é mais rápido com IA, mas ainda assim, eu acho que o fator de decisão vai vir junto com isso, de o quão rápido eu preciso disso versus o quão rápido eu quero validar. E aí depois que eu validei, aí a gente vai diminuindo o nível de eh dependência. E esse nível de dependência, ele vem junto com a redução de custos no questão na questão operacional, enquanto o sistema escala, que ao mesmo tempo exige mais

[05:38] gente trabalhando nisso. Ou seja, se eu sou uma empresa de uma pessoa só, talvez pegar ali a estrutura toda pronta, não ter que gerenciar tudo isso e focar em distribuição, produto e tudo mais, na minha visão faz sentido. Poxa, validei o negócio, o modelo tá crescendo, vamos avançar, vamos começar a desacoplar a nossa infra desses caras, que é o que startups fazem hoje. Pô, comecei na Vercel, começo a desacoplar um pouco, vou pro GCP, vou pra AWS. E aí, pô, aí chega no nível dos caras gigantescos e compram um data center. Aí pode até ir por aí. Mas eu chego assim,

[06:09] Rafa, você você vê alguma coisa diferente? Ou você tá mutado? Ou eu que tô surdo? >> Eu tava mutado. Tava tentando botar Tava tentando botar o banner aqui, mas eu não sei fazer. Eu tava aprendendo aqui ao vivo, mas não deu certo. >> [risadas] >> Eh Cara, eu acho que você falou bem, né, cara? Não tem nada de novo sobre o sol aqui, né? A gente já tá acostumado a trabalhar com com MVP. Você sabe, ah, cara, talvez eu quero colocar uma coisa no ar, quero validar, pego o maior nível de dependência possível, mas pra eu conseguir validar. E aí, com o tempo, à medida que eu

[06:40] validei a minha ideia, eu já vou pensando em ter uma infraestrutura mais robusta e coisas do tipo, né? Então, acho que isso é é é bem por aí mesmo. Né? E eu repito o que eu falei no episódio passado, semana passada ou retrasada, né, que um grande arrependimento que eu tenho na minha vida foi fazer pouco caso de de empresas satélites da AWS, ah, sei lá, 10, 15 anos atrás, quando comecei a trabalhar. Eu falava: “Ah, cara, eu não quero me não quero me me >> Travar aqui se eu posso fazer >> É, eu não vou criar tudo Aquela ideia,

[07:11] né? Eu não não quero construir a minha casa no terreno do do meu >> É alugado, né? >> do meu sogro, é, exatamente, né? Então, você às vezes fica com fica nessa, fica nessa e deixa passar o cavalo selado, né? Então, a gente tem que tem que entender também que quem tem grande chance de co de ganhar a corrida é e a Cloud tá na frente, né? >> Pô, Rafa, mas quer ver o isso, o maior exemplo de tá acontecendo nesses tempos agora, a quantidade de SaaS feito em low-code, que os caras estão conseguindo colocar no mercado e ter revenue, ter lucro em cima, é absurdo. Enquanto isso tem Tem galera que fala: “Não, pô, eu não vou usar o low-code, pô, eu vou

[07:41] fazer um negócio cloud code, não é pra pra infra, nanana”. Porque assim, o segredo de startup, né, tem as tem as métricas, né, isso antes de A, 95% delas quebram, mas você o negócio é que você precisa validar rápido o produto e quando você validou, encontrou o o product market fit, aí sim você vai pensar em tá, como é que eu desacoplo, como é que eu reduzo o custo e tudo mais. Então, eu vejo que entra muito nessa pegada e aí o que que é interessante, fazendo a conexão com o programa de startup do cloud, ele vem nisso também, porque eu vou pegar na mão

[08:12] do cara que tá começando, trago o cara pro meu ecossistema, entrego um ecossistema fácil do cara plugar e construir a estrutura dele em cima desse ecossistema, que é a mesma coisa que a AWS faz, mesma coisa que o Google for startups faz também. E aí o cara vai construindo ali em cima. >> Eu ia falar isso. Eu comecei na AWS porque eu ganhei, eu lembro na época do Quant Brasil, eu ganhei um um AWS credits pra rodar coisa lá, rodei lá, nunca mais saí de lá, cara. Comecei lá e fiquei lá. Tudo bem que a AWS é a grande vencedora, é difícil sair de lá mesmo, mas assim, ela eles me me capturaram certamente, o ROI pra eles foi positivo.

[08:44] >> Claro, claro.