O mito do RAG clínico: por que GPT e Gemini venceram as IAs hospitalares

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: português

Vídeo original: O Mito do RAG Clínico: Por Que o GPT e o Gemini Venceram as IAs Hospitalares. · Canal: Sandeco · 50:11 · Assistir no YouTube

Tópicos: Avaliação e benchmarks de IA, Governança e regulação de IA, Modelos de IA, RAG, busca e recuperação de informação, Saúde e ciência

Resumo

Gerson Yosinares apresenta um estudo publicado na Nature Medicine que compara modelos de fronteira de propósito geral com ferramentas clínicas especializadas, como Open Evidence e UpToDate. Nos testes citados, os modelos gerais tiveram desempenho superior, inclusive em consultas clínicas reais avaliadas por médicos, enquanto o Google AI Overview empatou com as ferramentas especializadas. O apresentador discute possíveis razões, como a capacidade de raciocínio dos modelos e a distração causada por conteúdo recuperado pelo RAG, e ressalta que o rótulo de uma solução médica não garante qualidade ou segurança. A conversa conclui que hospitais precisam de validação independente, governança e supervisão, além de mais letramento em IA entre profissionais de saúde.

Pontos-chave

O estudo comparou modelos de fronteira, ferramentas clínicas especializadas e o Google AI Overview em testes de conhecimento, alinhamento e consultas clínicas reais.
No benchmark de questões médicas de múltipla escolha, o Gemini 3.1 Pro obteve o maior resultado entre os sistemas apresentados.
No HealthBench, GPT-5.2 superou os demais sistemas avaliados, enquanto Open Evidence e UpToDate ficaram abaixo dos modelos de fronteira.
Na avaliação de 100 consultas clínicas reais, os modelos de fronteira formaram o grupo de melhor desempenho; o Google AI Overview empatou estatisticamente com as ferramentas especializadas.
Os autores avaliaram correção clínica, abrangência, segurança e clareza, com revisões cegas e independentes feitas por médicos.
O apresentador sugere que a recuperação de trechos irrelevantes ou excessivos pode poluir o contexto e prejudicar respostas de sistemas com RAG.
Ferramentas especializadas podem omitir informações importantes ou recusar responder; segurança não deve ser medida apenas pela presença de alucinações.
A compra de uma solução com selo médico não substitui validação independente, testes com dados e fluxos de trabalho locais e governança institucional.
O apresentador considera o letramento em IA um dos principais desafios para profissionais de saúde e defende compreender tanto os riscos quanto as aplicações práticas.
Salvaguardas e validação podem limitar a adoção rápida de tecnologias médicas, mas são necessárias devido ao impacto potencial sobre pacientes.

Capítulos

Início	Capítulo	Resumo
00:00	Abertura e apresentação do tema	Gerson Yosinares apresenta a live e introduz a discussão sobre ferramentas de IA para a saúde.
02:06	A confiança em ferramentas clínicas especializadas	O apresentador questiona a ideia de que soluções médicas especializadas sejam necessariamente superiores aos modelos gerais.
07:37	O que é RAG clínico e como foi feita a comparação	A live explica o RAG e apresenta os modelos e ferramentas incluídos no estudo.
11:21	Resultados dos benchmarks	São descritos os resultados nos testes de questões médicas e de alinhamento com a conduta clínica.
14:14	Avaliação de consultas clínicas reais	O apresentador detalha a metodologia cega, os avaliadores médicos e os critérios usados para avaliar as respostas.
18:00	Desempenho das ferramentas e erros observados	A avaliação separa os modelos de fronteira das ferramentas clínicas e destaca o empate do Google AI Overview com estas últimas.
23:03	Por que o RAG pode prejudicar as respostas	O apresentador propõe que a capacidade de raciocínio e a poluição do contexto podem ajudar a explicar as diferenças observadas.
26:18	Governança, validação e salvaguardas	A discussão enfatiza que ferramentas médicas precisam de validação independente, supervisão e controle de omissões críticas.
31:37	Raciocínio e possíveis caminhos para a IA médica	O apresentador comenta a relação entre raciocínio dos modelos, evidências recuperadas e governança institucional.
35:55	Letramento em IA na saúde	A conversa aborda a baixa familiaridade de profissionais de saúde com IA e exemplos de aplicações administrativas.
41:22	Resistência à adoção e mudanças no trabalho	Os participantes discutem o receio de substituição profissional e as mudanças que a IA pode trazer às rotinas de trabalho.
45:15	Salvaguardas e encerramento	O apresentador defende cautela na adoção médica, explica por que salvaguardas são necessárias e encerra a live.

Citações

Seria eu acoplar uma base de dados específica previamente selecionada ao prompt. — 08:40

O Google AI Overview gratuito da barra de buscas empatou com o segundo escalão. — 19:03

A IA na saúde não mata apenas pelo que inventa; ela mata também pelo que omite. — 28:54

Eu acho que o desafio se chama letramento. — 38:38

Na medicina, se algo der errado, o impacto pode ser muito maior na vida dos pacientes. — 49:05

Conceitos e entidades

RAG (conceito): Técnica que acrescenta informações recuperadas de uma base de dados ao contexto usado para gerar uma resposta.
Modelos de fronteira (conceito): Modelos de propósito geral apresentados como os mais avançados de suas respectivas empresas no momento do estudo.
GPT-5.2 (modelo): Modelo da OpenAI comparado no estudo e apontado como o de melhor resultado no HealthBench.
Gemini 3.1 Pro (modelo): Modelo do Google que alcançou o maior resultado informado no teste de questões médicas de múltipla escolha.
Claude Opus 4.6 (modelo): Modelo da Anthropic incluído na comparação com ferramentas clínicas especializadas.
Open Evidence (ferramenta): Plataforma clínica especializada avaliada no estudo.
UpToDate Expert (ferramenta): Ferramenta de atualização médica especializada incluída na comparação.
Google AI Overview (ferramenta): Recurso de busca com inteligência artificial do Google usado como controle no estudo.
Nature Medicine (empresa): Periódico científico citado como local de publicação do estudo.
HealthBench (benchmark): Benchmark descrito na transcrição como uma avaliação de alinhamento com a conduta médica e de sua comunicação.
Real Clinical Queries (conceito): Conjunto de 100 consultas clínicas reais e desidentificadas usado na terceira fase da avaliação.
Gerson Yosinares (pessoa): Médico e pesquisador de IA que apresenta e comenta o estudo durante a live.
Sandeco (pessoa): Nome do canal em que a live foi transmitida e do professor mencionado pelo apresentador.

Tradução completa (pt-BR)

00:00 Sejam todos muito bem-vindos ao canal Sandeco. Opa, temos um problema de conexão aqui, não sei, deu uma travada. Voz da consciência, depois você me fala se está indo ou não. Sejam muito bem-vindos a mais uma live Explica aí, Doutor. Eu sou Gerson Yosinares, médico e pesquisador na área de IA, e saúdo todos vocês. Tivemos um pequeno atraso no início porque

00:32 a plataforma mudou, mudou tudo de lugar. Ainda estou meio perdido, então não se assustem se eu ficar meio perdido aqui: os botões mudaram de lugar. Mas enfim, vamos tocando em frente. Perdemos tudo o que a gente preparou. O pior é que entrei ontem à noite, Voz da consciência, para arrumar tudo, e sumiu tudo aqui. Mas enfim, tudo bem. Vão dando oi para a gente, por

01:05 favor. Digam como está o som, como estão as coisas, se vocês conseguem me ouvir bem. Já vão dando um olá aí, dizendo de onde vocês estão, enquanto eu vou preparando aqui. Deixa eu ver se perdemos… Não, não perdemos, não. Está aqui. Então, muito bem. Vamos lá, né? Hoje o assunto é bastante interessante, né? Peguem aí o seu café. Eu não sei… depois, Voz, da

01:35 consciência, você me diz se está dando umas travadas. Não sei se aí também está, mas aqui, na tela da plataforma, está dando uns congelamentos meio esquisitos. Mas vamos lá, né? Puxem a cadeira, peguem o café de vocês, respirem fundo, porque a transmissão de hoje vai, de fato, abalar as estruturas de quem compra e consome tecnologia hospitalar. Na prévia dos grupos do

02:06 canal Sandeco — e já quero fazer o convite: se você ainda não faz parte dos grupos, venha para o grupo do WhatsApp. Aqui está o QR Code para você entrar nos grupos de saúde. Temos dois grupos de saúde, tá? E, nos grupos, coloquei uma enquete perguntando: “Se você tivesse que tomar uma decisão médica, em qual plataforma confiaria? Na famosa OpenEvidence ou no ChatGPT?” E, em um dos grupos, na última vez que vi a contagem,

02:42 o ChatGPT, a OpenEvidence estava ganhando de lavada, né? E é justamente sobre isso que venho falar, pessoal. Às vezes, a intuição pode falhar, tá bom? Durante anos, o mercado bateu na mesma tecla: cuidado ao usar modelos de linguagem gerais na área da saúde. Vocês precisam contratar ferramentas especializadas, com RAG proprietário, curadas por especialistas e blindadas, geralmente por uma centena de dólares

03:17 de assinatura anual. Foi assim com o Med Gemini, com o PaLM — era PaLM que chamava, né? Foi assim com o GPT Health, que eles anunciaram, e até fizemos uma live sobre isso aqui. Eu falei que ainda estava um pouco reticente e, de fato, nem isso, nem ele saiu; nem foi lançado. Mas, na esteira dessas ferramentas, temos algumas que são bem famosas, como a própria OpenEvidence, né? Para quem é

03:49 da área da saúde e usa LLM, geralmente essa ferramenta é bastante famosa. E a UpToDate, que é a plataforma de atualização médica mais famosa e não custa barato, também tem seu agent, por um valor relativamente alto. Se não me engano, dá quase $00 por ano. Então, o que viemos falar aqui? A prestigiosa revista Nature

04:20 Medicine acabou de publicar um estudo. Na verdade, é uma brief communication, uma comunicação breve, mas vamos ver que é bem estruturada: um estudo conduzido pela equipe da NYU Langone. É uma universidade em que desmontaram essa narrativa. Alguém pode eventualmente comentar que não prova nada, mas com certeza abre uma grande interrogação. Vamos

04:52 ver esse estudo em detalhes, e ele é muito interessante, né? O que eles fizeram? Colocaram as principais ferramentas clínicas do mercado frente a frente com os modelos de fronteira de propósito geral da época. Vamos ver que essa loucura dos modelos de inteligência artificial proprietários — e os open source também, os de pesos abertos — está tão maluca que, quando publicaram esse negócio, ele já nem era mais o modelo de fronteira atual.

05:25 Mas colocaram frente a frente essas ferramentas proprietárias, digamos, específicas da área da medicina, e os modelos de fronteira. E adivinhem só? As IAs gerais não apenas venceram: atropelaram as ferramentas especializadas em conhecimento, alinhamento com o que diz respeito ao conhecimento, ao alinhamento e à prática clínica geral. Então, esse

05:58 é o contrassenso, né? Na pesquisa dos grupos, muita gente, praticamente todos, disseram que usavam ferramentas como a OpenEvidence. Eu inclusive também fazia isso. E agora esse estudo mostra que, na verdade, essa não é a melhor estratégia. Então, vamos dar uma olhadinha nesse estudo e entender um pouquinho melhor o que está acontecendo, com uma metodologia muito bacana, difícil de contestar do ponto de vista científico. E entender por que a governança hospitalar precisa acordar agora, porque isso significa não só maior qualidade no atendimento, mas também redução de custos, né?

06:33 E reduzir custos é o que todo gestor quer, desde que isso seja feito com qualidade, né? Quero aproveitar aqui mais uma vez para cumprimentar todos que estão chegando à live. Sejam muito bem-vindos. Boa tarde para o Fabrício. O Fabrício Cruz está sempre aí com a gente. O Marcos

07:03 também, boa tarde. O som está OK? Obrigado. Você achava que a OpenEvidence era a mais usada nessa área? Pois é, Fabrício, eu também. Sou um dos que ainda usam a OpenEvidence, mas acho que esse estudo, se não muda a prática de como usamos as inteligências artificiais na área médica, pelo menos precisa levantar uma pulga atrás da orelha, né? Então, a ideia é mais ou menos essa. Continuem dando suas opiniões aí e vamos dar uma olhadinha nesse estudo, né? Deixa

07:37 eu compartilhar minha tela aqui para mostrar a vocês que raio de estudo é esse que publicaram, tá? Para entender o tamanho do choque que esse estudo provoca, né? Deixa eu trocar aqui; vou deixá-la no cantinho por enquanto. Se quiserem, aqui está o link para o artigo completo. Então,

08:10 vou deixar aqui, ó: o artigo completo está neste link, no canto superior esquerdo da tela de vocês, tá bom? Vamos contextualizar o hype, né? Por que esse artigo tem um impacto importante na prática de quem usa essas ferramentas na clínica? A indústria de healthtech vendeu a ideia de que o RAG clínico… Então, o que é RAG? Lá nos grupos, eu vou

08:40 perder 30 segundos explicando isso aqui, porque ainda tem muita gente nos grupos com dúvida sobre o que é RAG. A sigla significa geração aumentada por recuperação. O que seria isso? Seria acoplar ao prompt uma base de dados específica, selecionada previamente. Então, nada mais é do que enviar, junto com a minha solicitação, uma série de dados que vão compor — que eu quero que componham — a resposta, tá? No fim das contas, é isso. Então, como

09:10 eu faço RAG? Por exemplo, faço uma pergunta e anexo um PDF. Isso é uma técnica de RAG, tá? Dá para fazer, por exemplo, no ChatGPT. Então, o que era esse RAG clínico? Era acoplar bases de dados fechadas de artigos científicos, das melhores evidências, e fazer isso associado a um motor de inteligência artificial. Seria aquela bala de prata de que a gente fala para evitar alucinações e entregar respostas de qualidade.

09:43 superior em comparação com os modelos gerais, tá? E o que esse artigo fez? Colocou na arena, de um lado, os modelos de fronteira de uso geral, né? No caso da OpenAI, eles usaram o GPT-5.2, que era o modelo de ponta na época. Este artigo foi submetido — aqui vocês conseguem ver — em dezembro do ano passado e foi aceito em abril deste ano. Eles também colocaram o Google Gemini 3.1 Pro e o Claude Opus 4.6. Então, de um lado estavam

10:19 esses modelos gerais, que eles chamam de modelos de fronteira, ou seja, os modelos mais avançados de cada uma dessas empresas. E, do outro lado, colocaram os pesos pesados da medicina, que são o OpenEvidence, uma plataforma gratuita, entre aspas, e o UpToDate Expert, né? Este último custa cerca de US$ 699 — então, US$ 700 — por uma assinatura digital anual individual, tá? Então, são US$ 700. Faça a

10:51 conta aí para ver quanto isso dá em reais, tá? E eles também incluíram o Google AI Overview. O que é isso? É aquela barra do Google, do próprio www.google.com, com aquele modo de IA, tá? Eles incluíram isso mesmo, [roncando], como um controle para quem procura na internet, tá? Então, esse seria o controle do cara de quem a gente falava como o Dr. Google, né? Então, colocaram o Dr. Google com inteligência

11:21 artificial contra os modelos de fronteira dessas empresas e contra esses pesos pesados dos modelos especializados, né, da OpenEvidence e do UpToDate. E como foi o confronto, né? Aqui a gente tem esse infográfico bem explicadinho. Achei que ficou bem bacana. Então, como foi? Na primeira fase, eles pegaram um benchmark, uma bateria de testes chamada MEDIC, tá? Foram 500 questões no estilo da USMLE.

11:54 A USMLE é chamada de prova do board, né? É a prova que os médicos precisam fazer para poder exercer a medicina nos Estados Unidos, tá? Então, eles pegaram 500 questões desse banco de dados para testar o raciocínio médico puro em questões fechadas de múltipla escolha, tá bom? Quais foram os resultados? Depois não vou entrar em detalhes aqui, mas o artigo está bem bacana, bem escrito, tá? O que eu quero trazer para vocês aqui é que o Gemini 3.1 bateu…

12:34 impressionantes 97,4% de acerto, que está aqui em cima, ó: 97,4% de acerto, tá? O GPT-5.2 fez 94%. O Opus cravou 90,2%. E as ferramentas especialistas, né? A OpenEvidence ficou com 89,6%,

13:06 abaixo de 90%, e o UpToDate, com modestos 88,4%, dentro de uma métrica. Na metodologia, eles explicam isso direitinho, tá? Numa segunda fase, que é a SB, fizeram outra bateria de testes, o HealthBench, tá? É o benchmark da OpenAI, com 500 prompts avaliando o alinhamento com a conduta médica e a comunicação dessa

13:41 conduta. Perdão, dei uma pancada no microfone aqui. [roncando] E aí, como foi o desempenho? O ChatGPT-5.2 disparou: é esse verdinho no meio, com 88%. O Gemini veio com 79,3%; o Claude, com 77%. A OpenEvidence e o UpToDate amargaram o fundo da tabela, com 62,6% e 61,3%. Então, temos dois testes fechados em que os modelos de fronteira foram

14:14 melhores do que os modelos especialistas, digamos, tá? Mas vocês me conhecem, né? Sou engenheiro, sou médico, sou pesquisador, então tenho uma preocupação metodológica. Seria muito fácil atacar apenas essas questões de múltipla escolha, dizendo: “Ah, é porque eles acessam a internet, então isso pode estar na rede”, blá-blá-blá. Então, beleza: o resultado das questões de múltipla escolha não convence por si só. E eu concordo. O grande diferencial dessa metodologia está na metodologia da terceira fase,

14:51 que é essa C, tá? E que está mais bem explicadinha aqui, OK? Então, o que é essa C? O que é essa C? Vamos analisar essa metodologia com lupa, tá? O coração deste trabalho, que lhe confere maior robustez científica, é o chamado RCQ, que significa Real Clinical Queries, tá? A equipe não inventou perguntas de laboratório, não são dados sintéticos. O que eles fizeram?

15:25 Eles extraíram 100 consultas clínicas reais e desidentificadas, feitas por médicos durante a rotina assistencial, em um ambiente compatível com a HIPAA, tá? O que é compatível com a HIPAA? A HIPAA seria a LGPD dos Estados Unidos, tá? Ou seja, é um lugar que tem a HIPAA para garantir que esses dados sejam anonimizados, não permitam identificar o paciente e atendam a todas aquelas exigências da HIPAA. Seria como a LGPD norte-americana, tá?

15:55 [roncando] E lá, na instituição NYU Langone. E olha só como avaliaram isso, tá? Três pontos. Primeiro, parâmetros determinísticos, tá? Ou seja, os modelos de fronteira rodaram com temperatura zero, tá? Assim, não dá para eles ficarem variando muito, né? E com uma seed fixa, uma seed 62. Fixaram essa seed justamente para não haver essas variações, tá? Para não ter

16:25 variabilidade estocástica. Eles fizeram uma avaliação triplo-cega e aleatória, tá? Ou seja, 12 médicos especialistas avaliaram as respostas às cegas, sem saber qual IA gerou cada uma, distribuídas aleatoriamente em 100 avaliações manuais, tá? Ou seja, a pessoa não sabe o que foi feito por um humano, não sabe o que foi feito por IA e, se foi IA, qual IA gerou aquilo. Então, a pessoa não sabe nada, né? E cada par de pergunta e resposta passou por três revisores

16:58 independentes. Então, não dá para questionar que tenha havido viés de seleção, viés de pesquisador ou qualquer outra coisa do tipo. E a escala foi estruturada em quatro eixos. Eles definiram bem quais eram os quatro eixos avaliados em cada resposta: correção clínica, abrangência, que é a completude; segurança, prevenção de danos, que é um princípio da bioética, a não maleficência; e clareza para o

17:28 profissional, ou seja, a forma como a pessoa explica aquela resposta, tá? Então, vejam: a princípio, é uma metodologia bem robusta, né? Se alguém tiver alguma observação em relação à metodologia, por favor, acho que este é o lugar para a gente discutir, né? Achei uma metodologia bem interessante, tá? E quais foram os resultados? Vamos lá. O que a análise estatística com modelos lineares mistos

18:00 e regressão logística ordinal revelou? Ou seja, uma metodologia bastante robusta para avaliar as respostas, certo? Então, temos dois grupos totalmente separados. Temos um primeiro grupo e um segundo grupo. Quem está no primeiro grupo? São os modelos de fronteira, tá? O Gemini fez 3,62 de média nessa escala de quatro pontos que eles

18:32 usaram, né? O GPT fez 3,54 e o Claude fez 3,52, tá? Estatisticamente, são indistinguíveis entre si. Então, os três tiveram desempenho idêntico nesse RCQ. Mas aí há um segundo grupo, totalmente separado, tá? São as ferramentas clínicas e de busca. A OpenEvidence fez

19:03 3,24, estatisticamente diferente das outras, e o UpToDate AI fez 3,17, tá? E aqui entra uma ironia metodológica, tá? Lembram da nossa base, que era o Dr. Google, né? Então, o Google AI Overview, gratuito, na barra de busca, empatou com o segundo grupo, com 3,27, sem diferença estatística. Ou seja, o que estão querendo dizer é o seguinte: sabe aquela ferramenta pela qual você pagou US$ 700 por ano? Se você tivesse perguntado

19:36 no Google, seria a mesma coisa? Vocês estão entendendo onde está o cerne da questão, né? E isso me lembrou muito — não sei se vocês vão se recordar — o começo da Wikipédia. Hoje em dia, ninguém questiona a Wikipédia como uma base válida; se é confiável ou não, é outra história, mas é uma base válida de conhecimento, tá? É óbvio que a gente não usa como referência, mas busca muitas referências lá. E, na época da Wikipédia, pela forma como ela é construída, eu me recordo que

20:11 Houve uma crítica muito grande, principalmente de quem já estava estabelecido, né? As enciclopédias, como a Larousse, a Britannica e tal, porque não havia checagem e tal. E aí, quando fizeram o estudo, mostraram que, na verdade, do ponto de vista de atualização e correção dos dados, não havia tantos erros na plataforma colaborativa que era a Wikipedia. A quantidade de erros era semelhante à quantidade de erros que havia nas enciclopédias tradicionais, e a velocidade de atualização dessas enciclopédias da

20:45 Wikipedia era muito superior à do papel, né? Claro, porque, no papel, você tem que editar, demora para sair, blá-blá-blá. Então, numa plataforma digital, a atualização é instantânea, né? A medicina é cheia desses pontos de quebra de paradigma, né? Outro ponto que eu sempre gosto de trazer são os DEA, né? Os desfibriladores externos automáticos, em relação aos quais havia uma preocupação dos cardiologistas de que, ah, mas esse equipamento não consegue fazer análise de traçado para poder decidir se vai dar choque ou não no paciente. Até que fizeram um estudo duplo-cego e mostraram que, na verdade, os DEAs acertavam mais diagnósticos do que os cardiologistas. Então, esse é um estudo que vem desmontar uma narrativa e talvez desmontar um consenso que a gente tinha de que esses RAGs clínicos traziam uma menor possibilidade de alucinação e uma correção maior,

21:19 né? Agora, olha só a taxonomia dos erros qualitativos, né? O nome que eles deram para os erros qualitativos. A Open Evidence, que está nessa última tabela aqui, ó, deixa eu mostrar para vocês. Aqui, ó, estão vendo? Tem aqui: “clinical correctness, completeness, safety and harm avoidance, clarity for clinicians”. Então, a Open Evidence acumulou 52 falhas reportadas pelos avaliadores, liderando

21:55 em omissões críticas de segurança, com 12 falhas, e desorganização dos textos entregues pelos clínicos, com 13 falhas. O UpToDate apresentou uma taxa bruta de 19% de recusa nas respostas. Ou seja, você faz uma pergunta e o sistema não responde àquilo que você perguntou. Isso quer dizer que ele não responde a quase uma em cada cinco perguntas clínicas reais, né? Ele se negou a responder, tá? E aí a gente chega ao ponto crucial, né? Uma coisa que o Sandeco sempre fala, né?

22:29 A IA não é uma caixa mágica, né? A IA é uma ferramenta, né? E eu, como engenheiro de controle e automação e também médico, que vivo essas questões na prática, preciso tentar encontrar com vocês uma explicação para esse comportamento. Obviamente, olhando o estudo, mas trazendo um pouco da minha interpretação: por que as ferramentas clínicas falharam diante dos modelos generalistas, os modelos não

23:03 específicos? Acho que há dois fatores aqui que a gente poderia discutir. O primeiro é o que a gente chama de escala de raciocínio, tá? E o segundo é a distração do RAG. O que acontece? Os modelos generalistas de fronteira recebem volumes massivos de treinamento com raciocínio cruzado, lógica e alinhamento. Já os sistemas com RAG, que podem ser mal calibrados porque não têm tanto poder computacional, nem uma base de treinamento tão grande quanto a desses modelos de fronteira, sofrem com o fenômeno que a gente chama de garbage

23:36 in, garbage out. Ou seja, se o sistema recupera trechos irrelevantes dos artigos ou diretrizes com que é alimentado e injeta isso no prompt, o modelo acaba se distraindo. Ele perde o fio da meada e entrega respostas prolixas, incompletas ou até confusas. Esse é um problema de contexto. Aí, quando você pega uma base de dados científicos muito extensa, às vezes quer fazer uma pergunta que está ali e, para poder respondê-la, o sistema geralmente não faz uma leitura rápida do texto, seleciona um trecho e o envia

24:10 para o prompt. Ele vai pegar aquele artigo, vê que tem a ver com o que você pediu e envia o artigo inteiro. Isso pode, de certa forma, contaminar uma ferramenta que talvez não esteja bem calibrada para aquela base de dados de RAG que está recebendo. E por que ocorre essa descalibração? Porque, para a ferramenta se manter atualizada, esse banco de RAG está mudando o tempo todo, né? Então vocês vão ver a dificuldade disso justamente lá no curso do professor Sandeco, agora do It’s Fine, que é sobre fine-tuning, né?

24:43 Inclusive, aqui, ó, eu tenho o livro de RAG, tá? Lá no grupo, o pessoal falou de RAG. Ah, o que é RAG? Então, o professor Sandeco tem um livro de RAG. Quando você acessar essa plataforma, vai ter acesso ao livro de RAG e também ao catálogo dos outros livros. Inclusive, as mentorias estão começando nesta semana ou na semana que vem. Voz da Consciência, pode me ajudar? Nesta semana, na semana

25:13 que vem, vão começar as mentorias do livro de fine-tuning, né, que é o Fine. Então, o professor Sandeco tem um ecossistema de amanhã. Aqui, Voz da Consciência falou que é amanhã, tá? Então, aqui na plataforma você vai ter tanto o livro de RAG — Voz da Consciência, o cupom de desconto do RAG ainda está valendo, você sabe? Se estiver valendo, me fala e aí você passa. Eu vou passar para o pessoal aqui. Ah, tinha um cupom

25:44 de desconto. Ah, sim. E aí, pessoal, o que acontece? Esse RAG, esse fine-tuning, por exemplo, é difícil de fazer se você tem um modelo que está mudando o tempo todo, né? Então, essa é uma dificuldade, né? E aqui talvez esteja o recado mais importante, né? Na verdade, é preciso ver que talvez não sejam necessários modelos mais especializados. Ah, eu vou pagar, então. E agora? Eu vou pagar pelo

26:18 UpToDate e tenho certeza, agora fico tranquilo. Vou entregar isso para os meus médicos, né? Uma instituição pode pensar: vou entregar isso para os meus médicos e aí vou ficar sossegado. Não é bem assim, não, tá? E esse estudo mostrou que, cada vez mais, a governança institucional vai ser importante, né? Hoje, muitos diretores clínicos e gestores de TI compram essas soluções porque trazem o selo de especialização em medicina ou o logotipo de editoras

26:50 biomédicas consagradas, vide a Open Evidence, né? Eles supõem que o rótulo garante imunidade a erros. E talvez aí esteja o problema, né? Porque você está comprando uma ferramenta e acha que pode usá-la sem fazer a curadoria dessas respostas, né? O próprio CFM, que a gente já discutiu anteriormente, mostra para a gente que não. Então, esse estudo provou empiricamente que o rótulo comercial não é sinônimo de superioridade técnica nem

27:21 de segurança. A governança em inteligência artificial, então, não é terceirizar a responsabilidade para um fornecedor fechado. Vai exigir validação independente e contínua, além de testar as ferramentas com dados do fluxo de trabalho local antes de aprovar orçamentos milionários. Então, às vezes você vai lá e compra: vou comprar uma assinatura para todo o meu corpo clínico. Vai saber quanto você vai gastar num negócio desses, e

27:51 mesmo assim você não vai poder usar de forma irrestrita e irresponsável, né? Então, às vezes, é melhor ter uma governança bem feita e usar uma ferramenta apropriada para a sua realidade, né? Você também vai precisar supervisionar omissões críticas, né? A gente vai falar disso de uma forma bem direta, não trágica,

28:21 né? A IA na saúde não mata apenas pelo que inventa. Muita gente fica só preocupada com a alucinação, mas ela também mata pelo que omite. E isso é mais difícil de medir, né? O que será que ela deixa de listar? Um sinal de alerta cirúrgico? Ela deixa de listar uma interação medicamentosa. Como é que a gente vai rastrear essa alucinação que não aconteceu, né?

28:54 Né? A IA na saúde não mata apenas pelo que inventa. Então, muita gente fica só preocupada com a alucinação, mas ela também mata pelo que omite. E isso é algo mais difícil de medir, né? O que será que ela deixa de listar? Um sinal de alerta cirúrgico? Uma interação medicamentosa? Como é que a gente vai fazer o rastreamento dessa alucinação que não aconteceu, né?

29:27 Na verdade, é um tipo de alucinação, mas ela alucinou por não apresentar uma coisa que deveria apresentar. Então, também é um tipo de alucinação. Aí vem a esteira dos guardrails, né? O professor Sandeco também tem isso. Esse homem é uma máquina, né? Ele também tem um livro de guardrails. Lá, ó, o livro de RAG, que é este aqui, tá? Junto com os outros livros. Não, mas este livro em particular está em promoção. E, usando esse

29:59 cupom aqui, que vou colocar nas legendas — deixa eu colocar aqui, ó —, com o cupom RAG, você ganha 25% de desconto no livro de RAG, tá? Esse é específico para RAG e vale só até hoje, né, Voz da Consciência? Então, não perca tempo. Você vai conseguir entender esse assunto de uma forma muito mais aprofundada. E

30:31 também tem o livro de guardrails, né? Não tenho dúvidas de que isso vai ser cada vez mais fundamental, porque, em vez de depender de um RAG proprietário de caixa-preta, os hospitais e as redes precisam estruturar modelos robustos de fronteira, operando com arquiteturas de orquestração válidas, integração contextual com o prontuário e verificação rigorosa no circuito. Então, existem várias maneiras de criarmos esses guardrails. O professor Sandeco tem inclusive um livro sobre guardrails.

31:02 E eu vou levá-lo para Portugal. Depois que eu apresentar em Portugal, vou trazer para vocês aqui também a minha linha de pesquisa, que é uma linha de guardrails também, tá? Pessoal, sem governança baseada em evidências, os hospitais correm o risco de pagar caro por sistemas medíocres que recusam 19% dos casos solicitados e omitem condutas essenciais. Então, imagina, né? Você está pagando um absurdo, carregando um selo, achando que está abafando, e o cara lá que

31:37 está usando o ChatGPT está melhor do que você. Então, é uma coisa com que a gente precisa se preocupar. Eu coloco de uma forma mais caricata, pessoal, mas é um ponto muito importante para a gente discutir, tá? Vamos dar uma olhada aqui nos comentários. Então, o Fabrício falou: “Começa amanhã”. Isso, né? O do It’s Fine, né? Que são os novos livros do professor

32:07 Sandeco sobre fine-tuning. O Léo Fox colocou esse Link 3.0, Link 3.0 S. Parece interessante, especializado em raciocínio médico. Boa, Léo. Não, eu não sabia. Vou procurar me informar, tá? Inclusive, tem essa questão do raciocínio na medicina. A gente tem um estudo que apresentou no ano passado, na Itália, mostrando que o raciocínio é importante, né, mas não é

32:39 suficiente. Então, o raciocínio traz uma camada adicional, principalmente de verificação, tá? Permite esse rastreio, esse retorno, digamos assim, de como aquela conclusão foi obtida. Mas, sozinho, não é suficiente. Por exemplo, a metodologia — no artigo, a gente mostra isso — do raciocínio clínico e do raciocínio do

33:11 modelo são diferentes, tá? Apesar de eventualmente chegarem à mesma resposta, são caminhos diferentes. Então, um ponto interessante é que talvez — essa é uma hipótese que levantamos, mas ainda não chegamos a explorar mais isso —, ah, ele falou que está no Open Router. Ah, a gente ainda não chegou a explorar isso, Léo. Talvez, se alinharmos um raciocínio robusto que imite

33:47 um pouco mais o processo de tomada de decisão clínica com uma grande precisão factual, talvez tenhamos um modelo mais poderoso, né? Então, acho que o grande ganho que temos com esses modelos de fronteira está justamente nisso: numa capacidade de raciocínio bastante interessante e numa grande capacidade, agora, de fazer uma varredura das informações que estão na rede e trazer essas

34:18 informações de uma maneira mais adequada para dentro do prompt, né? Seriam informações factuais mais adequadas. Então, essa é uma hipótese, tá bom? Ah, bom. Então, o futuro da inteligência artificial médica não está em interfaces fechadas com dados engessados, né? Ela caminha para uma união das capacidades monumentais

34:52 de raciocínio desses modelos de fronteira com a governança estrita das instituições. Então, se não tenho capacidade de gerenciar o modelo porque ele é proprietário, fechado e altamente dinâmico, como posso ter alguma governança sobre essas decisões, sobre essas respostas que esses modelos vão me dar, né? Então, essa é a pergunta que fica e que vou discutir com vocês numa próxima oportunidade, depois do congresso em Portugal, do qual vou participar daqui a duas semanas.

35:24 Então, já adianto que nosso próximo encontro será daqui a um mês, tá? Porque daqui a 15 dias vou estar em Portugal, tá bom? Mas queria ouvir vocês. Se alguém ainda estiver aí e quiser dar sua opinião, coloque no chat as dúvidas, quais são as suas inquietações.

35:55 Vocês que estão aí construindo pipelines em Python, orquestrando agents, né, agora usando harness e montando essas bases de conhecimento: muitos provavelmente vão treinar depois do It’s Fine, vão fazer fine-tuning dos próprios modelos de pesos abertos. Então, vocês já pensaram em medir o impacto da poluição no contexto do RAG de vocês, né? Então, essa é uma pergunta que

36:29 inclusive a gente pode levar para o professor Sandeco, para quem estiver na mentoria do livro sobre fine-tuning, né? Link do ebook com desconto. Voz da Consciência, você consegue me ajudar? Deixa eu ver se acho esse link aqui para vocês. Espera aí. É o Físia. Físia.

37:00 Vamos ver se acho aqui. fisia.com.br, livros, RAG. Achei aqui. Está aqui o link, meus amigos. Vou colocar aqui nos comentários; vejam se aparece para vocês. Vou tentar colocar aqui no QR Code também. Lá, vocês conseguem baixar

37:31 inclusive o primeiro arquivo, o primeiro capítulo gratuito. E deixa eu ver se consigo encontrar o livro. Ah, o QR Code estava aqui. Está aqui o QR Code. Link aqui, ó. Pronto. Certo. Então, é só baixar, fazer a leitura do QR Code. Usem o cupom — que é o cupom R25. Cupom R25. Certo?

38:08 Isso. Beleza, meus amigos. É isso. Artigo interessante, né? Artigo interessante, tem bastante espaço para discussão. Não vou dizer para vocês que eu deixaria aqui… Espera aí, tem uma pergunta: qual é hoje o desafio para a área da saúde com o uso da IA? Acho, Fabrício, que se chama letramento, né? Os médicos são

38:38 extremamente pouco letrados. Não só os médicos, mas os profissionais da saúde em geral têm uma dificuldade muito grande de letramento, né? Poucos usam, e a gente não pode ignorar isso. Vivemos numa bolha, tá? Não me esqueço e sempre lembro desta situação: fui convidado para fazer a conferência de encerramento, no ano passado, do simpósio do Grupo Brasileiro de Câncer de Cabeça e Pescoço, em São Paulo, numa sala com os maiores oncologistas do Brasil. Perguntei quantos usavam inteligência artificial no dia a dia. Dois ou

39:12 três levantaram a mão no ano passado. Então, às vezes estamos numa bolha, achando que todo mundo está usando, que todo mundo domina, que todo mundo sabe o que está fazendo. Não é verdade, Fabrício, sabe? E aí, o que acontece? Quando a pessoa começa, primeiro há uma repulsa inicial, né? “Ah, isso não é para mim, isso não presta.” Às vezes, ela começa a usar por algum outro motivo, sei lá, para fazer uma fotinha diferente do filho ou do neto, fazer uma brincadeirinha e tal. Aí começa a explorar um pouco mais, começa a ver que a coisa começa a responder. Daqui a pouco, está discutindo um caso clínico

39:44 dentro da IA, tá? E aí, essa falta de letramento sobre como o modelo funciona, o que eu posso e o que não posso colocar no modelo, quais são os riscos que isso pode trazer, a legislação — agora a gente tem a resolução do CFM. Então, penso que o maior desafio é o letramento, não só do ponto de vista restritivo, ou seja, daquilo que eu não devo fazer, mas também das potencialidades, né? Pô, o que eu poderia fazer? Por exemplo, cheguei para uma enfermeira numa palestra que fui dar e falei: “Olha,

40:17 sabia que você sabe qual é a sua maior dor?” “Ah, é fazer escala de plantão.” Pô, falei: “Você sabia que, se pegar um bom modelo aí, ele faz a escala de plantão para você?” Inclusive, ah, essas restrições, aquelas famosas restrições para quem já mexeu com escala de plantão, não é? Fulano não pode tirar férias nesse dia. Cicrano tem que pegar… tem férias para tirar; o outro quer juntar aqui, o outro tem… Cara, vira uma bagunça. Você coloca as regras de restrição, joga a escala lá num modelo, sei lá, num

40:48 num Sol da vida, num 5.6 só da OpenAI, cara, vai sair prontinha para você. Então, eles não têm nem ideia de como a ferramenta de inteligência artificial pode ajudar na rotina, principalmente na parte administrativa, que é onde acho que tem o maior impacto e onde é mais subutilizada, né? Então, para mim, Fabrício, essa é a minha opinião, tá? Acho que é letramento, letramento e tudo o que isso acaba trazendo como consequência, né?

41:22 Aqui o Doug trabalha em um CAPS e lá ninguém pensa em utilizar inteligência artificial. Existe uma repulsa. É, né? Os logos, né? Como era aquela piada, né? “Malditas pessoas da cidade, suas máquinas voadoras!”, né? Quando alguém traz eletricidade, todo mundo acha que é uma coisa demoníaca. Então, é natural a gente ter medo e ter uma certa

41:53 resistência a tudo aquilo que é novo, principalmente quando aquelas pessoas acreditam que os próprios empregos estão ameaçados por aquela tecnologia. E, apesar de a gente que já está trabalhando nessa área saber que não é bem assim, muitas pessoas têm medo de que, se a inteligência artificial for colocada no emprego, ela coloque o emprego dessa pessoa em xeque. Às vezes, Doug, não o emprego dela em si, mas

42:27 a forma como ela trabalha, né? Ó, um cara que antes, sei lá, demorava 10 dias para conferir nota fiscal manualmente. Agora, na hora em que ele jogar no Maia, vai gastar um dia e meio, e aí, nos outros 8 dias e meio que ficava trabalhando naquilo, vai ter que produzir alguma outra coisa, entende? Então, não é só uma questão de a inteligência artificial tirar o emprego da pessoa, mas de mudar radicalmente a forma como essa pessoa vai trabalhar e as entregas que vai ter que fazer, né? Então, não

43:02 tenho dúvidas de que parte dessa resistência nasce dessa percepção, né, Fabrício? Uou! Hum. Ou acho que é o marketing, o marketing do medo do uso da IA e de como ela vai substituir o ser humano. É, né? E aí a gente tem o vídeo do Sandeco falando da questão de a IA destruir o mundo ou não, né? A gente

43:35 que está junto ali, acompanhando e tal, tem que ter um pensamento mais crítico sobre essas narrativas, né? Sempre tem alguém que está… Então, por exemplo, eu até postei, repostei o vídeo do Sandeco no meu Instagram. Meu Instagram é este aqui, para quem quiser me acompanhar lá. Este aqui, ó, tá? @d.gerson. Eu coloquei: “O pessoal da Anthropic falou que é a favor

44:11 de uma pausa no desenvolvimento da IA. É, desde que todo mundo pause também. Porque, se ninguém pausar, eu também não vou pausar, né? Então, é hipócrita, né? É um medo que pode existir, mas é um medo apresentado de uma forma bastante hipócrita, né? Doug, faz sentido. Acho que no sentido do que eu falei sobre o medo de mudar a forma de trabalhar, né? Na forma de trabalhar, vai ser preciso mostrar serviço mesmo, e nem todos querem. Claro, é o status quo, né, meu amigo? Para

44:42 que mexer aqui? Tô quietinho, funcionário público, tô lá, né? O cara vem mexer com esse negócio agora, agora, né? Vou ter que trabalhar. Então, claro que eu tô, né? Tô exagerando. Nem todo funcionário público é assim, mas existe um certo clichê, e o clichê não existe à toa, né? Então, mas acho que sim. Acho que tem uma… Ah, sim, foi o que o Fabrício falou por conta da palestra. Sim, Fabrício,

45:15 também me… E, assim, foram… Era um grupo extremamente seleto; eram os maiores oncologistas do Brasil, né? Então, isso mostra dois pontos: primeiro, você não precisa usar IA para ser um cara de excelência. Isso está bastante claro. E não é porque o cara não usa IA que acho que ele é menos competente. São caras extremamente competentes. Mas, por outro lado, isso traz essa realidade de que a gente vive em uma bolha extremamente autocircunscrita, né? Então, a gente acha

45:50 que o mundo inteiro está usando, e eu moro aqui em Itajubá, atendo no SUS, e a realidade dos pacientes do SUS é que muitos não têm nem celular, tá? Então, a gente tem uma visão às vezes deturpada da realidade, né? E esse card da Anthropic foi difícil de engolir. É, Estados Unidos primeiro, né? A China vem falar de regulação, né? E tal. Então, tem muita… O Ricardo Marcílio é um cara que fala, né? Na geopolítica, a primeira

46:22 coisa que morre é a inocência, né? Então, é o campo da hipocrisia, né? A gente tem que ter muito cuidado. Acho que concordo muito com a fala do professor Sandeco, né? A gente tem que ter pensamento crítico, aprender realmente as coisas, não é só sair fazendo e dizer: “Ah, estou fazendo, sou especialista”, porque não, você é um usuário avançado, e olhe lá, né? E eu me incluo nisso. Então, se você quer realmente saber o

46:55 que está fazendo e tal, a gente precisa ter essa reflexão, né? Um último comentário aqui do Léo, né? As salvaguardas não são um limitador muito grande da medicina? Não sei se foi uma pergunta, Léo. É assim: são limitadores. Acho que são, não tenho dúvidas, mas são necessários. São necessários, né? Se a gente olhar para a história da medicina, a medicina sempre foi muito mais atrasada, vamos

47:26 dizer assim, do ponto de vista de incorporação de tecnologias do que outras áreas do conhecimento, como engenharia, biologia e outras coisas. Por quê? Porque realmente você precisa de um certo tempo de maturação, né? Na medicina, a gente tem um ditado que é assim: nunca seja o primeiro a abandonar o barco, mas também não seja o primeiro a entrar. Então, quando a gente tem essas ferramentas, precisa de um certo tempo de maturação da tecnologia para saber se ela é segura, onde é segura e tal. Então, o problema é

47:59 que antigamente esses tempos de maturação eram muito longos. Pega o exemplo da vacina da COVID, né? Durante quanto tempo a gente julgava que o tempo mínimo ideal para poder fazer a validação do uso de uma vacina era de 10 anos, e a da COVID forçou para dois, né? E a gente ainda não está 100% seguro, né? Não sou antivacina de forma alguma, mas a gente precisa ter consciência, como pesquisador, de que ainda não tem todas as respostas, porque algumas respostas demandam tempo, né? Então, a medicina é uma

48:34 área que sempre prezou, ou deveria prezar, pela segurança e pela maturidade das tecnologias que incorpora, né? E isso também eleva o custo dessas tecnologias, né? Há uma série de exigências regulatórias e tal, o que acaba encarecendo esse processo como um todo. Então, as salvaguardas são limitadoras na

49:05 Medicina, são, mas são necessários. Acho que é o tipo de coisa em que a gente precisa colocar a mordaça no pitbull, né? Porque, na medicina, se algo der errado, não vai ser uma mão que vai sair com seis dedos, né? Pode ter um impacto muito maior na vida dos pacientes. Tá bom, pessoal? Foi uma conversa muito bacana. Gostei bastante, bastante interação, assim que eu gosto,

49:39 um tema quente, um tema que é importante a gente discutir e, como eu sempre falo, esse canal é justamente isso: uma oportunidade que a gente tem de discutir as coisas. Foi um prazer enorme estar aqui com vocês. Fiquem todos com Deus. Até a próxima. Lembrando que daqui a 15 dias a gente não tem a nossa reunião, o nosso encontro. Vou estar em Portugal e, quando retornar, vou fazer a live apresentando o trabalho que eu vou

50:11 levar lá para Portugal, tá bom? Um abraço, fiquem com Deus e até

Transcrição original

[00:00] Sejam todos muito bem-vindos ao canal Sandeco. Opa, temos um problema aqui de conexão, não sei, deu uma travada aqui. Voz da consciência. Depois você me fala se tá indo ou se não tá. Eh, sejam todos muito bem-vindos a mais uma live Explica aí, Doutor. Eu sou o Gerson Yosinares, sou médico e pesquisador na área de IA e saúdo a todos vocês. Então, nós tivemos um pequeno atraso aqui no início porque,

[00:32] eh, a plataforma mudou, mudou tudo de lugar. Eu tô meio perdido ainda, então não se não se não se não se assustem se eu ficar meio perdido aqui que os botões mudaram de lugar. Mas enfim, nós vamos vamos tocando em frente aqui. Perdemos tudo que a gente preparou. Pior que eu entrei ontem à noite, a voz da consciência, entrei ontem à noite para arrumar tudo e sumiu tudo aqui. Mas enfim, tá bom. Eh, vão dando oi pra gente aí, por

[01:05] favor, de como é que tá o som, como é que estão as coisas, se vocês conseguem me ouvir bem, já vão dando um olá aí da onde vocês estão enquanto eu vou preparando aqui, deixa eu ver se a gente perdeu. Não, não perdemos, não perdemos não. Tá aqui. Então, muito bem. Vamos lá, né? Hoje o assunto é bastante interessante, né? peguem aí o seu café. Eh, eu não sei aqui depois, voz

[01:35] conselha, você fala para mim tá dando umas travadas aqui. Não sei se aí dá também, mas aqui na tela do do da plataforma dá tá dando uns freeze meio esquisito aqui, mas vamos lá, né? Puxem a cadeira, peguem o café de vocês, respirem fundo, porque a transmissão de hoje vai de fato abalar as estruturas de quem compra e consome tecnologia hospitalar. Na prévia dos grupos do

[02:06] canal Sandeco, e aí eu já quero fazer o convite, se eventualmente você ainda não faz parte dos grupos, venha pro grupo do WhatsApp. Então, aqui os eh o Qcode para você entrar nos grupos, nos grupos de saúde. Nós temos dois grupos de saúde, tá? Eh, e nos grupos eu coloquei uma enquete perguntando: “Se você tivesse que tomar uma decisão médica, eh, em qual plataforma você confiaria? Na famosa Open Evidence ou no Chat GPT?” E aí num dos grupos que eu vi a última

[02:42] vez que eu tava vendo a contagem, o chat GP, o Openevidence estava ganhando de lavada, né? Eh, e o que eu venho trazer é justamente isso, tá, pessoal? Às vezes a eh a intuição pode falhar, tá bom? Durante anos, o mercado bateu na mesma tecla. Cuidado ao usar modelos de linguagem gerais na área da saúde. Vocês precisam contratar ferramentas especializadas com ra proprietário, curados por especialistas e blindadas e geralmente para uma centena de dólares

[03:17] de assinatura anual. Foi assim lá com o MED Gemini, com o Palme, era o Palme que chamava, né? Foi assim com o GPT Health que eles anunciaram e a gente fez até uma live disso aqui. Eu falei que eu tava ainda um pouco um pouco eh reticente e de fato, né, nem isso nem ele nem saiu, ele nem foi lançado. Mas, né, na esteira dessas dessas ferramentas a gente tem algumas ferramentas que estão bem famosas, como a própria Open Evidence, né? Para quem é

[03:49] da área da saúde, usa LLM, geralmente a gente tem essa essa ferramenta bastante famosa e a up to date, que é a plataforma de atualização médica mais famosa, que não custa barato, também tem o seu agente de ah, por uma por um valor relativamente alto aí, né? Se eu não me engano, dá quase $00 por ano. Então, o que que a gente, né, eh, o que que a gente veio falar aqui? A prestigiosa revista Nature

[04:20] Medicine acabou de publicar um estudo, na verdade é uma é um brief Communication, né, uma comunicação breve, mas a gente vai ver aqui bem estruturado de um estudo conduzido pelo time da NUI Langone, tá? Que é uma uma universidade aí onde eles desmontaram essa narrativa, tá? Se alguém pode eventualmente comentar que não prova nada, mas com certeza abre aí um uma grande de uma interrogação, né? A gente

[04:52] vai ver esse estudo aqui em detalhes e ele é muito interessante, né? O que que eles fizeram? Eles colocaram as principais ferramentas clínicas do mercado frente à frente com os modelos de fronteira de propósito geral à época, né? Então a gente vai ver que essa essa loucura das dos modelos de inteligência artificiais proprietários tá tão e os open source também, os de peso aberto, eles tá tá tão maluco que qu eles publicaram esse negócio, já nem é mais o

[05:25] já nem é mais o o o modelo de fronteira atual, né? Mas eles colocaram frente à frente então essas ferramentas proprietárias, vamos dizer assim, específicas da área medicina e os modelos de fronteira. E adivinem só? As I gerais não apenas venceram, elas atropelaram as ferramentas especializadas em conhecimento, alinhament com com que no que diz eh em relação a conhecimento, alinhamento e prática clínica geral, né? Então eh essa

[05:58] é a a o contracenso, né? lá na pesquisa dos grupos, muita gente, praticamente todos falaram que usavam as ferramentas como a Open Evidence. Eu inclusive também fazia isso. E agora esse estudo mostra que, na verdade, essa não é a melhor estratégia. Então vamos dar uma olhadinha nesse estudo, vamos entender um pouquinho melhor o que que tá acontecendo, né, de uma metodologia muito bacana, tá? uma uma metodologia que é difícil de atacar do ponto de vista eh científico e entender porque que a governança hospitalar ela precisa

[06:33] acordar agora, porque isso agora tá significando não só maior qualidade de atendimento, mas custo também, né? E é o custo, diminuir custo é o que todo gestor ele quer e mas desde que seja feita com com qualidade, né? Quero aproveitar aqui mais uma vez e cumprimentar a todos que estão chegando aqui na live. Sejam todos muito bem-vindos. Boa tarde aqui pro Fabrício. Fabrício Cruz tá sempre aí com a gente. O Marcos

[07:03] também, boa tarde. O som tá OK? Obrigado. Eh, eh, acha que a Open Evidence era a mais usual nessa área? Pois é, eu também, ô Fabrício, eu era eu sou um dos que ainda usa a Open Evidence, mas isso e é esse estudo eu acho que ela, se ele não muda a prática de como a gente usa as inteligências artificiais na área médica, ela pelo menos precisa levantar uma pulga atrás da orelha, né? Então é mais ou menos essa a ideia. Continuem eh dando a opinião de vocês aí e vamos dar uma olhadinha nesse estudo, né? Deixa

[07:37] eu, deixa eu compartilhar a minha tela aqui que eu vou mostrar para vocês que que é esse raio desse estudo que eles publicaram, tá? para entender o tamanho do choque aí que a gente tem, né, com esse com esse estudo. Deixa eu trocar aqui, vou deixar ela no cantinho por enquanto. Se vocês quiserem, tá aqui o link para o artigo completo, tá? Então,

[08:10] vou deixar aqui, ó, o artigo completo tá aqui nesse link, no canto superior esquerdo da sua tela, tá bom? Eh, vamos contextualizar o hype, né? Então, por que que esse artigo ele traz um impacto importante aí na prática de quem usa essas ferramentas na clínica, né? Eh, a indústria Healthtech vendeu a ideia que o ra clínico, né? Então, o que que é o ra? Então, lá nos nos grupos, eu eu vou

[08:40] perder 30 segundos explicando isso aqui, porque nos grupos ainda tem muita gente que tava com dúvida do que que é o ra. A sigla significa retrieval augmented generation. Tá? Que seria o quê? Seria eu acoplar uma base de dados específica previamente selecionada ao prompt. Então, nada mais é do que junto com a minha requisição eu mandar uma série de dados que vão compor, que eu quero que componham a resposta, tá? Na verdade, no fim das contas é isso. Então, como que

[09:10] eu faço ra? Por exemplo, eu faço uma pergunta e anexo um PDF. Isso é uma técnica de ra, tá? Que dá para ser feita, por exemplo, no chat GPT. Então esse rag clínico o que que era, né? É acoplar as bases fechadas de dados dos artigos científicos, das melhores evidências, né? Eh, fazer isso associado a um motor de inteligência artificial seria aquela bala de prata, né, que a gente fala para evitar as as alucinações e entregar respostas de qualidade

[09:43] superior em comparação com os modelos gerais, tá? E o que que esse artigo fez? Ele colocou na arena de um lado os modelos de fronteira de uso geral, né? Então, no caso da Open eles usaram o GPT 5.2, que era o modelo top na época. Esse artigo, ele foi submetido, aqui, vocês conseguem ver em dezembro do ano passado e foi aceito em abril desse ano. Eles colocaram também o Gemini, o Google Gemini 3.1 Pro e Don Tropical, o Cloud Opus 4.6. Então, de um lado estavam

[10:19] esses modelos gerais, que eles chamam de modelo de fronteira, ou seja, são os modelos mais avançados de cada uma dessas dessas empresas. E do outro lado eles colocaram os pesos pesados da medicina, que é os que é o Open Evidence, que é uma plataforma gratuita, entre aspas, e o Upto Date Expert, né? Esse último custando aí cerca de 699, então 700 por uma assinatura eh digital anual. individual, tá? Então são $00, faz a

[10:51] conta aí para ver quanto que isso dá em reais, tá? E eles também incluíram o Google AI Overview, que é o quê? Que é aquela Google, é a barra de de é o Google mesmo, né? Do www.google.com, eh, com aquele modo AI, tá? Eles colocaram isso mesmo, [roncando] eh, como um controle de o cara que procura na internet, tá? Então esse seria o controle do cara que que a gente falava do Dr. Google, né? Então ele botou o Dr. Google com inteligência

[11:21] artificial versus os modelos de fronteira eh dessas empresas versus esses pesos pesados aí das da dos modelos eh especializados, né, da Open Evidence e do Up to date. E como é que foi o confronto, né? Então aqui a gente tem bem explicadinho esse infográfo. Achei que ficou bem bacana. Então como é que foi? Primeira fase, eles pegaram um benchmark, né, uma bancada de testes que é chamada de medic, tá? Foram 500 questões no estilo da USMLE.

[11:54] Essa USMLE chamavam de prova do board, né? É a prova que os médicos precisam fazer para poder eh exercer a medicina nos Estados Unidos, tá? Então eles pegaram 500 questões desse banco de dados, tá? Para testar o raciocínio médico puro em questões fechadas de múltipla escolha, tá bom? Quais foram os resultados aí? Depois eu não vou entrar em detalhes aqui, mas o artigo tá bem tá bem bacana, bem escritinho, tá? O que que eu eu quero trazer para vocês aqui? Que, né, o eh Gemini ele bateu 3.1, tá? O, o Gemini 3.1 Pro bateu

[12:34] impressionantes 97,4% de acerto que tá aqui em cima, ó, 97, de acerto, tá? Eh, o, eh, GPT 5.6, 5.2 fez 94. O Opus cravou 90.2%. e as ferramentas especialistas, né? O Open Evidence ficou com 89.6

[13:06] abaixo de 90% e o up to date com modestos 88.4% tá dentro de uma métrica aí no no no comp no no na metodologia eles explicam isso certinho, tá? Numa segunda fase aqui que é SB, eles fizeram uma outra bancada de testes que é a Health Bench, tá? Que é o benchmark da Open com 500 prompts avaliando o alinhamento eh com a conduta médica e a comunicação dessa

[13:41] conduta. Perdão, dei uma porrada no microfone aqui. [roncando] Eh, e aí, como é que foi o desempenho? O chat GPT 5.2 disparou, que é esse verdinho no meio aí com 88%, o Gemini veio com 79.3%, o Cloud com 77%. Open Evidence e o Up to date amargaram o fundo da tabela com 62,6 e 61,3%. Então a gente tem dois testes fechados em que os modelos de fronteira foram

[14:14] melhores do que os modelos especialistas. vamos dizer, tá? Mas vocês me conhecem, né? Então, eu sou engenheiro, eu sou médico, eu sou pesquisador, então tem uma preocupação metodológica. Só esses múltiplos escolha seria muito fácil da gente atacar e falando que, ah, porque eles acessam a internet, então isso pode estar na rede, piriri, paroró. Então, beleza, o número de múltiplas escolhas não convence sozinho. E eu concordo. O grande diferencial dessa metodologia tá na metodologia da terceira fase,

[14:51] que é esse C, tá? E que tá mais bem explicadinho aqui, OK? Então, o que que é esse C? O que que é esse C? Vamos eh a a analisar essa metodologia com a lupa, tá? O coração desse trabalho que traz uma robustez científica maior é o chamado RCQ, que é o Real Clinical Queries, tá? A equipe, ela não inventou perguntas de laboratório, tá? Não são os dados sintéticos. Que que eles fizeram?

[15:25] Eles extraíram 100 consultas clínicas reais e desidentificadas feitas por médicos durante uma rotina assistencial em um ambiente que é RIPA compliant, tá? O que que é o RIPA compliant? RIPA é seria a LGPD dos Estados Unidos, tá? Ou seja, num lugar que tem LGPD para garantir que esses dados não são são anonimizados, não permitem identificação do paciente e todas aquelas questões da LGPD, seria como se fosse LGPD norte-americana, tá?

[15:55] [roncando] E lá do da instituição do EN Lengon. E aí, olha só como é que eles avaliaram isso, tá? Eh, três pontos. Primeiro, parâmetros determinísticos, tá? Ou seja, as de fronteira rodaram com temperatura zero, tá? Ou seja, não dá para ela ficar variando muito, né? E com uma SID fixa, uma SID 62, eles fixaram essa SID para justamente não ter essas variações, tá? Para não ter

[16:25] variabilidade estocástica. Eles eles fizeram uma avaliação triplo cega e randômica, tá? Ou seja, 12 médicos especialistas avaliaram as respostas de forma cega, sem saber qual a IAAK gerou o que, distribuídos aleatoriamente em 100 anotações manuais, tá? Ou seja, o cara não sabe quem que foi humano, não sabe quem que foi IA e se foi IA, quem que foi a IA que gerou, então o cara não sabe nada, né? E cada par de pergunta e resposta passou por três revisores

[16:58] independentes. Então assim, não dá para questionar que tem viés de seleção ou viés de de, né, de pesquisador ou qualquer outra coisa do tipo. E a escala estruturada em quatro eixos. Então eles definiram bem quais eram os quatro eixos avaliados em cada resposta. Eh, correção, correção clínica, abrangência, que é a completeness, segurança, prevenção de dano, né, que é um princípio da da bioética, não maleficência, e a clareza para o

[17:28] profissional, ou seja, a forma na qual o cara explica aquela resposta, tá? Então, vejam, uma metodologia, a princípio, bem robusta, né? Se alguém tiver alguma alguma observação com relação à metodologia, eh, por favor, acho que esse aqui é o lugar que a gente tem para discutir, né? Eu achei uma uma metodologia bem bem bem interessante, tá? E aí, o quais foram os resultados? Vamos lá. O que que a análise eh estatística com modelos lineares mistos

[18:00] e regressão logística ordinal revelou? ou seja, uma metodologia de eh bastante robusta da das respostas, certo? Então, a gente tem dois escalões totalmente separados. A gente tem um primeiro escalão e a gente tem um segundo escalão. Quem que é o primeiro escalão? São os modelos de fronteira, tá? Gemini, tá? que fez 3.62 de média dentro dessa escala que eles

[18:32] fizeram de quatro pontos, né? O GPT fez 3.54 e o cloud fez 3.52, tá? Indistinguíveis estatisticamente entre eles, tá? Então, os três performaram nesse RQ RCQ de forma idêntica, mas aí tem um segundo escalão que vem totalmente separado, tá? Que são as ferramentas clínicas e de busca, tá? Então o Open Evidence fez

[19:03] 3.24, estatisticamente diferente das outras, e o up to date AI fez 3.17, tá? E aqui entra uma ironia metodológica, tá? Lembra o nossa base que era o Dr. Google, né? Então o Google AI Overview gratuito da barra de buscas empatou com segundo escalão com 3.27 sem diferença estatística. Ou seja, o que que ele tá querendo dizer é o seguinte: sabe aquela ferramenta que você pagou $00 por ano? Se você tivesse perguntado

[19:36] no Google era a mesma coisa? Vocês estão entendendo onde que é o onde que tá o o cerne, né? E, e, e aí, pessoal, isso me lembrou muito, não sei se vocês vão se recordar, na época do começo da Wikipedia. Hoje em dia ninguém questiona a Wikipedia como sendo uma base válida, se é confiável ou não. São outros 500, mas é uma base válida de conhecimento, tá? É óbvio que a gente não usa como referência, mas muita coisa a gente busca referência lá. Eh, e na época do Wikipedia, pela forma como ele é construído, eu me recordo que

[20:11] houve uma crítica muito grande, principalmente de quem já tava estabelecido, né, as enciclopédias, tipo lá Russe, a Barça e tal, porque não tinha checagem e tal. E aí quando eles fizeram o estudo, eles mostraram que, na verdade, do ponto de vista de atualização e correção dos dados, não havia eh tantos erros na plataforma colaborativa que era o Wikipedia. a quantidade de erros semelhante à quantidade de de erros que tinha na na nas enciclopédias tradicionais e a velocidade de atualização dessas da

[20:45] Wikipedia era muito superior ao papel, né? Claro, porque o papel você tem que editar, demora para sair, piriri, parará. Então, e numa plataforma digital, a atualização ela é instantânea, né? Então, a a a medicina ela é cheia desses pontos na de quebra de paradigma, né? Um outro ponto que eu sempre gosto de trazer foi os 10, né, os os desfibriladores eh externos automáticos, na qual havia então uma uma uma

[21:19] preocupação dos cardiologistas de que ah, mas esse equipamento não consegue fazer análise de traçado para poder decidir se vai chocar ou não vai chocar o paciente. até que fizeram um estudo duplo cego e mostraram que, na verdade, os Deas acertavam mais diagnósticos do que os cardiologistas. Então, eh, esse é um estudo que vem desmontar uma narrativa e talvez desmontar uma uma um consenso que a gente tinha de que, eh, esses rags clínicos eles traziam uma menor uma menor possibilidade de de alucinação e uma e uma correção maior,

[21:55] né? Eh, agora, né, olha só a taxonomia dos erros qualitativos, né, o nome que eles deram pros erros qualitativos. A op a open evidence, que é nessa última tabela aqui, ó, deixa eu mostrar para vocês aqui. Aqui, ó, tá vendo? Tem aqui, ó, clinical correctness, completeness, safety and harm avoidance, clarity for clinicians. Então, ó, quando a gente olha ali, a Open Evidence acumulou C 52 falhas reportadas pelos avaliadores, liderando

[22:29] em omissões críticas de segurança com 12 falhas e desorganização dos textos eh entregues pelos clínicos em com 13 falhas. O up to date apresentou uma taxa bruta de 19% de recusa nas respostas. Ou seja, você faz uma uma pergunta e o cara não responde aquilo que você perguntou. Ah, e isso que eu responde quase uma a cada cinco perguntas clínicas reais, né? Ele se negou a responder, tá? E aí a gente chega ao ponto crucial, né? Eh, uma coisa que o Sandeco sempre fala, né?

[23:03] A Iá não é uma caixa mágica, né? A I ela é uma ferramenta, né? E eu como engenheiro de controle automação, né, e médico também, que vivo essas questões na prática, eh, eu preciso tentar aqui com vocês eh achar uma explicação do porquê desse comportamento. Obviamente que olhando a o o estudo, mas trazendo um pouco da minha interpretação, por que que as ferramentas clínicas falharam perante os modelos generalistas, os modelos não

[23:36] específicos. Acho que tem dois fatores aqui que a gente poderia discutir. O primeiro é o que a gente chama de escala de raciocínio, tá? E o segundo é a distração do R. Então o que que acontece? Os modelos generalistas de fronteira, eles recebem volumes massivos de treinamento com raciocínio cruzado, lógica e alinhamento. Já os sistemas com ra que podem ser mal calibrados porque não tem inclusive nem tanto poder computacional, nem uma base de treinamento tão grande quanto esses modelos de fronteira, eles sofrem no fenômeno que a gente chama de garbage

[24:10] in, garbage out. Ou seja, se o sistema ele recupera trechos irrelevantes dos artigos ou diretrizes que ele é alimentado e injeta isso no prompt, o modelo ele acaba se distraindo. Ele perde o fio da meada e entrega respostas prolixas, incompletas ou até confusas. Esse é um problema de contexto. Aí quando você pega uma base eh de dados científicas eh muito extensa, às vezes você quer uma pergunta que tá ali e para ele poder fazer aquela pergunta, geralmente ele não faz o skiming do texto, seleciona um pedaço e manda isso

[24:43] pro prompt. Ele vai pegar aquele artigo, ele vê que aquele artigo tem a ver com o que você pediu e manda o artigo todo. Isso pode, de uma certa forma contaminar uma ferramenta que talvez não tá bem calibrada para aquela para aquela base de dados de ra que ela tá recebendo. E por que que vem essa essa descalibração? Porque essa ferramenta para ela se manter atualizada, esse esse banco de rag ele tá ele tá mutando o tempo todo, né? Então vocês vão ver a dificuldade que disso, justamente lá no curso, né,

[25:13] do professor Sandeco agora do It’s Fine, que é sobre fine tuning, né? Inclusive, e aqui, ó, eu tenho o livro do Rag, tá? Lá no grupo, o pessoal falou de Rag. Ah, como que é Rag? Então, professor Sandec, ele tem um livro do Rag. Quando você acessar essa essa plataforma, você vai ter acesso ao livro do RG e você também vai ter lá o catálogo dos outros livros. Inclusive tá começando nessa semana ou na semana que vem. Voz a consciência pode me ajudar. Nessa semana, na semana

[25:44] que vem vai começar eh as mentorias do livro do de fine tuning, né, que é o Fine. Eh, então assim, o professor Sandeco tem um um ecossistema de amanhã. Aqui a voz do consciência falou que amanhã, tá? Então lá aqui na plataforma você vai ter tanto o livro do Rag que o voz da consciência, o cupom de desconto do Rag ainda tá valendo, você sabe? Se tiver valendo você me fala e e aí você passa. Eu eu vou eu vou eu vou passar pro pessoal aqui. Ah, tinha um um cupom

[26:18] de desconto. Ah, sim. Eh, e aí, pessoal, que que acontece? Esse Rag, se esse esse fine tuning, por exemplo, ele é difícil de fazer se você tem um modelo que tá se movimentando tempo todo, né? Então essa é uma é uma dificuldade, né? E aqui reside talvez o recado mais importante, né? Precisa ver, na verdade não talvez modelos mais eh especializados. Ah, eu vou pagar então. E agora? Eu vou pagar o

[26:50] up to date e eu tenho certeza, agora fico tranquilo. Vou entregar isso pros meus médicos, né? Uma instituição pode pensar isso, vou entregar isso pros meus médicos e aí eu vou ficar sossegado. Não é bem assim não, tá? Eh, e esse estudo mostrou que cada vez mais a governança institucional vai ser importante, né? Hoje, muitos diretores clínicos e gestores de TI compram essas soluções porque levam o selo especializado para medicina ou logotipo de editoras

[27:21] biomédicas consagradas, VID a Open Evidence, né? Ele supõe que o rótulo garante imunidade a erros. E aí talvez que seja o problema, né? Porque você tá comprando uma uma ferramenta, você acha que você pode usar sem fazer a a curadoria desse dessas respostas, né? O próprio CFM que a gente já discutiu anteriormente mostra pra gente que não. Então, eh, esse estudo provou empiricamente que o rótulo comercial não é sinônimo de superioridade técnica nem

[27:51] de segurança. A governança em na inteligência artificial, então, eh, não é terceirizar responsabilidade para um para um para um fornecedor fechado. vai exigir validação independente e contínua, testar as ferramentas com dados de fluxo do trabalho local antes de de aprovar orçamentos milionários. Então, às vezes você vai lá e compra, vou comprar um uma assinatura lá pro meu corpo clínico inteiro, vai saber quanto que você vai gastar num negócio desse e

[28:21] se você e ainda assim você não vai eh poder usar como de forma irrestrita e irresponsável, né? Então, às vezes seja melhor você ter uma governança bem feita e usar uma ferramenta eh apropriada paraa tua realidade, né? Então, você vai precisar também fazer a supervisão de omissões críticas, né? A gente vai falar de uma forma bem bem bem não é trágica, né? Mas uma forma bem bem direta assim,

[28:54] né? A iar na saúde, ela não mata apenas pelo que ela inventa. Então, muita gente fica só preocupada com a alucinação, mas ela mata também pelo que ela omite. E isso é uma coisa que a gente é mais difícil da gente medir, né? Eh, o que que será que ela deixa de listar um sinal de alerta cirúrgico? ela deixa de listar uma interação medicamentosa. Como é que a gente vai fazer o o o rastreamento dessa dessa dessa alucinação que não aconteceu, né?

[29:27] Na verdade é um tipo de alucinação, mas ela alucinou por não apresentar uma coisa que ela deveria apresentar. Então é um tipo de de alucinação também. Então aí vem a esteira dos guard rails, né? Que inclusive o professor Sandec também tem, esse homem é uma máquina, né? Ele tem um livro de Guard Ross também. Lá, ó, o livro de Rag, que é esse livro aqui, tá? junto com os os outros livros, não, mas esse livro em particular está com uma promoção. Eh, e você usando esse

[29:59] cupom aqui, que eu vou colocar aqui no captions, deixa eu colocar aqui, ó, com o cupom reg, você ganha 25% de desconto no livro de reg, tá? Esse é pro rag específico, vale só até hoje, né, voz consciência. Então não perca tempo. Eh, você vai conseguir entender esse assunto aqui muito de uma forma muito mais aprofundada. Eh, e

[30:31] também tem o livro do Guard Rails, né, que não tenho dúvidas que vai ser fundamental cada vez mais, porque você em vez de depender de um rag proprietário de caixa preta, os hospitais e redes eles precisam estruturar modelos robustos de fronteira operando com arquiteturas de orquestração válida, integração contextual com o prontuário, verificação eh rigorosa eh no circuito. Então existem várias maneiras da gente criar esses guard rails. O professor Sandec tem inclusive um livro sobre Guardi

[31:02] Rails. E eu vou levar para para Portugal. Eh, e depois que eu apresentar em Portugal eu vou trazer para vocês aqui também a minha linha de pesquisa, que é uma linha de de guard raio também, tá? Eh, pessoal, sem governança, baseado em evidência, os os hospitais eles correm o risco de pagar caro paraos sistemas medicres que recusam 19% dos casos eh requisitados e omitem condutas essenciais. Então, imagina, né, você tá pagando um absurdo, carregando um selo, achando que tá abafando e o cara lá que

[31:37] tá usando chat GPT tá melhor do que você. Então, é uma coisa que a gente precisa ficar, eu coloco de uma forma mais caricata assim, pessoal, mas é uma é um ponto muito importante aí, né, pra gente pra gente discutir, tá? Eh, vamos dar uma olhada aqui nos comentários. Então, o Fabrício falou: “Começa amanhã”. Isso, né? O do It’s Fine, né? que são os o novo livro do professor

[32:07] Sandeco aí no Fine Tune. Eh, o Léo Fox colocou esse Link 3.0, Link 3.0 S. Parece interessante. Especializado em reason medicina. Ô, uma boa, ô Léo. Não, não tava sabendo não. Vou procurar me informar, tá? Inclusive tem essa questão do reasoning na medicina. Eh, a gente tem um estudo que a gente apresentou no ano passado na Itália mostrando que o reasoning ele é importante, né, mas ele não é

[32:39] suficiente. Então, a gente tem que o o reasoning, ele ele traz uma uma camada mais de verificação, principalmente, tá? Eh, de de permitir esse esse esse rastreio, vamos dizer assim, esse trackback, né, de como que aquela conclusão foi foi obtida. Mas ele sozinho não é suficiente. Então, por exemplo, pra gente ter uma, porque a metodologia, né, no artigo a gente mostra isso, a metodologia de raciocínio do raciocínio clínico e do raciocínio do

[33:11] modelo são diferentes, tá? apesar de eventualmente eles chegarem numa mesma resposta, são caminhos diferentes. Então, eh um ponto interessante é que talvez, né, isso é um é uma hipótese que a gente levantou, a gente não chegou a explorar ainda mais isso. Eh, ah, que ele falou, ele tá no Open Router. Eh, ah, a gente não chegou a explorar isso, ô Léo. Talvez se nós alinharmos uma um reasoning eh robusto que mimetize um

[33:47] pouco mais o processo de tomada de decisão clínica com eh uma grande acurácia factual, talvez a gente tenha um modelo que mais poderoso, né? Então acho que o que o grande ganho que a gente tem com esses modelos de fronteira tá justamente nisso, numa capacidade de reasoning bastante interessante e numa uma capacidade agora grande de fazer um skiming das informações que estão na rede, de trazer essas

[34:18] informações de uma maneira mais adequada para dentro do prompt, né, que seria essa informação factual mais mais adequada, né? Então essa é uma é uma é uma hipótese, tá bom? Ah, bom. Então, né, o que que a gente tem, né, o futuro da inteligência artificial médica, ela não tá em interfaces fechadas com dados ingessados, né? Ela caminha aí paraa uma união, tá? das capacidades monumentais

[34:52] de raciocínio desses modelos de fronteira com a governança estrita das instituições. Então, se eu não tenho uma capacidade de gerência em cima do modelo, porque ele é um modelo proprietário, um modelo fechado e um modelo altamente dinâmico, como é que eu posso ter alguma governança em cima dessas decisões, né, dessas respostas que esses modelos vão me dar? Tá? Então essa é a pergunta que fica e que eu vou discutir numa próxima oportunidade com

[35:24] vocês depois da do congresso lá em Portugal que eu vou participar daqui duas semanas. Então já adiantando que daqui daqui o nosso o nosso próximo encontro vai ser daqui um mês, tá? Porque daqui 15 dias eu vou estar em Portugal, tá bom? Mas eu queria ouvir de vocês. Se alguém ainda estiver aí, quiser dar a sua opinião, né, coloque aí no chat as dúvidas, quais são aí as suas inquietações.

[35:55] Eh, vocês que estão aí construindo pipelines em Python, orquestrando agentes, né, agora tá usando harness, né, montando essas bases de conhecimento. Muitos, provavelmente aqui depois do Itfine vão treinar, vão fazer o fing tuning das suas próprias, dos seus próprios modelos de peso aberto. Então vocês já pensaram em medir o impacto da poluição no contexto do rag de vocês, né? Então essa é uma pergunta que

[36:29] inclusive a gente pode trazer lá pro professor Sandeco, para quem tiver no na mentoria do do livro sobre Fine Tuning, né? Link do ebook com desconto. Voz da consciência. Você consegue me ajudar aí? Deixa eu ver se eu acho esse link aqui para vocês. Pera lá. É o Físia. Físia.

[37:00] Vamos ver se eu acho aqui. fisia.com.br livros reghei aqui. Tá aqui o link, meus amigos. Vou colocar aqui no comentário, vê se aparece para vocês aí. Vou tentar colocar aqui no Qcode também. Aí lá tem, você consegue baixar

[37:31] inclusive o primeiro arquivo, o primeiro capítulo gratuito. E deixa eu ver se eu consigo livro. Ah, tava aqui o Qcode. Tá aqui o Qcode. Liv aqui, ó. Pronto. Certo. Então, aí você faz aqui o download, o leitura do QR Code. Você usa aqui o cupom que é o cupom cupom cupom cupom R 25. Cupom R 25. Certo?

[38:08] Isso. Beleza, meus amigos. É isso. Então, artigo interessante, né? Artigo interessante, tem bastante espaço paraa discussão. Eu não vou dizer para vocês que eu deixaria aqui. Pera aí, tem uma pergunta. Qual hoje, qual é o desafio para á da saúde com uso da IA? Eu acho, ô Fabrício, que chama-se letramento, né? Os médicos são

[38:38] extremamente pouco letrados. Não só os médicos, mas os profissionais da saúde em geral t uma dificuldade de letramento muito grande, né? Eh, poucos usam, a gente não pode ignorar isso. A gente vive numa bolha, tá? Eu não me esqueço e sempre recordo dessa situação que eu fui fui convidado para fazer a conferência de fechamento no ano passado do simpósio do grupo brasileiro de câncer de cabeça e pescoço lá em São Paulo, uma sala com os maiores oncologistas do Brasil. Eu perguntei quantos usavam inteligência artificial no seu dia a dia. Eh, dois ou

[39:12] três levantaram a mão isso ano passado. Então, a gente tá às vezes numa bolha achando que tá todo mundo usando, que todo mundo domina, que todo mundo sabe o que tá fazendo. Não é verdade, Fabrício, sabe? Eh, e aí que que acontece? A hora que o cara começa a primeiro tem uma repulsa inicial, né? Ah, isso não é para mim, isso aí não não presta. E às vezes ele começa a usar por algum outro motivo, sei lá, para fazer uma fotinha diferente do filho do neto dele, fazer uma brincadeirinha parará. Aí ele começa a explorar um pouco mais, começa a ver que o negócio começa a responder. Dali um pouco ele tá jogando caso clínico

[39:44] dentro do da IA, tá? E aí e essa falta de letramento em cima de como é que o modelo funciona, do que que eu posso, do que que eu não posso colocar no modelo, quais são os riscos que isso pode ter, legislação que agora a gente tem a resolução do CFM. Então eu penso que o maior desafio é o letramento, não só do ponto de vista restritivo, seja daquilo que eu eu não devo fazer, mas das das potencialidades também, né? Pô, o que que eu poderia fazer? Por exemplo, eu cheguei para uma enfermeira num numa palestra que eu fui dar, falei: “Olha,

[40:17] sabia que você sabe que que é a sua maior dor?” “Ah, é fazer escala de plantão.” Pô, falei: “Você sabia que você pegar um modelo bom aí, ele faz o o a escala de plantão para você?” Inclusive, ah, essa restrição, aquelas famosas restrições para quem já mexeu com cara de plantão, não é? Fulano não tem que tirar férias nesse dia. Cicrano tem que pegar eh tem férias para tirar, o outro quer juntar aqui, o outro tem. Cara, vira uma bagunça. Você põe isso aí, você põe as regras de restrição, joga escala lá num modelo, sei lá, num

[40:48] num sol aí da vida, num 5.6 só da Openai, cara, vai sair prontinho para você. Então eles não t eles não têm nem ideia de como que a ferramenta eh a ferramenta eh artificial pode ajudar na na rotina, principalmente na parte administrativa, que é onde eu acho que tem o maior impacto, ah, e onde é mais subutilizado, né? Então, para mim, Fabrício, essa é a minha opinião, tá? Eu acho que é eh letramento, letramento e tudo que isso acaba trazendo trazendo

[41:22] como consequência, né? Aqui o dog trabalha em um CAPS e lá ninguém pensa em utilizar inteligência artificial. Existe uma repulsa. É, né? Os logos, né? O como que era aquela aquela piada, né? Malditas pessoas da cidade, suas máquinas voadoras, né? Quando alguém traz eletricidade, todo mundo acha que é uma coisa demoníaca. Então, é natural a gente ter medo e ter e e ter uma certa

[41:53] uma certa resistência a tudo aquilo que é novo e principalmente o Doug, quando aquelas pessoas acreditam que os seus próprios empregos estão ameaçados para aquela tecnologia. E apesar da gente que já tá trabalhando nessa área saber que não é bem assim, ã, muitas pessoas têm medo de de que a inteligência artificial, se ela for a colocada no emprego, que ela vá colocar o emprego dessa pessoa em cheque. Às vezes não Dog, o emprego dela em si, mas

[42:27] a forma como ela trabalha, né? Ó, uma um cara que antes, sei lá, demorava 10 dias para conferir nota fiscal manualmente. Agora a hora que ele jogar no Maiá, ele vai gastar um dia e meio e aí os outros 8 dias e meio que ele ficava trabalhando naquilo, agora ele vai ter que produzir alguma outra coisa, você entende? Então, não é só uma questão da inteligência artificial, ah, tirar o emprego da pessoa, mas mudar radicalmente a forma como essa pessoa vai vai trabalhar e as entregas que ela vai ter que fazer, né? Então, eu não

[43:02] tenho dúvidas que parte dessa resistência nasce dessa dessa dessa percepção, né, Fabrício? Uou! Hum. Ou acho que eh aqui o marketing, o marketing do medo do uso da IA e como ela vai substituir o ser humano. É, né? E aí a gente tem o o vídeo do Sandec falando, né, da questão do que se o aá vai destruir o mundo ou não, né? A gente

[43:35] que tá junto ali com acompanhando e tal, a gente tem que ter um pensamento, a gente tem que ter um pensamento mais crítico em cima dessas dessas narrativas, né? sempre tem alguém que tá, então, por exemplo, né, eu eu até postei o repostei o vídeo do Sandeco no meu no meu Instagram. Meu Instagram é esse aqui para quem quiser me acompanhar lá. Eh, esse aqui, ó, tá? @d.gerson. Eu coloquei, fala assim, eh, pessoal da Antropic falou que é a favor

[44:11] de uma pausa no desenvolvimento da IA. É, desde que todo mundo pause também. Porque se ninguém pausar, eu também não vou pausar, né? Então é hipócrita, né? É um medo que pode existir, mas é um medo apresentado de uma forma bastante hipócrita, né? Dog faz sentido. Acho que no sentido do no que eu falei da do medo de mudança da forma de trabalhar, né? Na forma de trabalhar irá precisar mostrar serviço mesmo e nem todos querem. Claro, é o status qu, né, meu amigo, né? Para

[44:42] que mexer aqui? Tô quietinho, funcionário público, tô lá, né? O cara vem mexer com esse negócio agora, agora, né? Vou ter que trabalhar. Então, claro que eu tô, né? Tô exagerando. Nem todo, nem todo funcionário público ele é assim, mas existe um um uma certo clichê e o clichê não existe à toa, né? Então, mas eu acho que sim. Eu acho que tem uma uma uma Ah, sim. que é a o que o Fabrício foi por conta da palestra. Sim, Fabrício,

[45:15] também me me e assim foram eh eh é um grupo extremamente seleto, eram os maiores maiores oncologistas do do Brasil, né? Então assim, isso mostra dois pontos que primeiro você não precisa Iá para usar IA para ser um cara de excelência. Isso tá bastante claro. E e não é porque o cara não useia que eu acho que ele é um cara menos competente, são caras extremamente competentes, mas por outro lado traz essa essa realidade de que a gente vive em uma bolha extremamente autocircunscrita, né? Então a gente acha

[45:50] que o mundo que inteiro tá usando e eu moro aqui em Itajubá, atendo no SUS e a realidade dos pacientes do SUS é que muitos não tem nem celular, tá? Então a gente tem uma uma visão às vezes deturpada da realidade, né? E aqui esse cardantrópico foi difícil de engolir. É, Estados Unidos vest, né? A China vem falar de regulação, né? e tal. Então tem muita, tem o Ricardo Marcilho é um cara que fala, né, na geopolítica a primeira

[46:22] coisa que morre é a inocência, né? Então é a o campo da da hipocrisia, né? Então a gente tem que ter muito cuidado. Eu acho que eh eu concordo muito com a fala do professor Sandeco, né? A gente tem que ter pensamento crítico, aprender realmente as coisas, não é só sair fazendo e, ah, eu tô fazendo, eu sou especialista, porque não, você é um usuário avançado e olhe lá, né? E eu me incluo nisso. Então, se você quer realmente saber o

[46:55] que você tá fazendo e tal, então, eh, a gente precisa a gente precisa ter essa reflexão, né? Um último comentário aqui do Léo, né? Os Safeguards não são limitador muito grande da medicina? Eu não sei se foi uma pergunta, Léo. É assim, e são limitadores. Eu acho que são, não tenho dúvidas, mas são necessários. São necessários, né? Se a gente for pegar na história da medicina, a medicina ela sempre foi muito mais atrasada, vamos

[47:26] dizer assim, do ponto de vista de incorporação de tecnologias do que outras áreas do conhecimento, como engenharia, biologia e outras coisas. Por quê? Porque realmente você precisa de um certo tempo de maturação, né? Na medicina a gente tem um um ditado que é assim: nunca seja o primeiro eh nunca seja o último a abandonar o barco, mas também não seja o primeiro a entrar. Então, quando a gente tem uma essas ferramentas, a gente precisa eh de um certo tempo de maturidade da tecnologia para saber se ela é segura, onde é que ela é segura e tal. Então, o problema é

[47:59] que antigamente esses tempos de maturação eram muito longos. Pega o exemplo da vacina da COVID, né? Durante quanto tempo a gente julgava que o tempo mínimo ideal para poder fazer uma validação no uso de uma vacina era de era de 10 anos e a da COVID forçou a a dois, né? Eh, e a gente ainda não tá 100% seguro, né? Eu não sou antivacino de nenhuma forma, mas a gente precisa ter a consciência como pesquisador de que a gente ainda não tem todas as respostas porque algumas respostas demandam tempo, né? Então, a medicina ela é ela é uma uma

[48:34] área que sempre foi que sempre presou ou deveria prezar pela segurança e pela maturidade das das tecnologias que ela incorpora, né? Eh, e por mesmo porque isso também eleva o custo, né, dessas tecnologias, uma série de exigências regulament eh regulamentadoras e tal que faz que acaba encarecendo, né, esse processo como um todo. Então, os safeguardes, eles são limitadores na

[49:05] medicina, são, mas são necessários. Acho que é é o tipo da coisa que é o o a gente precisa colocar a a mordaça no pitbull. né? Porque na medicina, eh, se algo der errado, não vai ser um, uma mão que vai sair com seis dedos, né? Pode ser um impacto muito maior na vida dos pacientes. Tá bom, pessoal? Conversa muito bacana. Eu gostei bastante, bastante interação, assim que eu gosto,

[49:39] um tema quente, um tema que é importante a gente discutir e como eu sempre falo, esse canal é justamente isso, uma oportunidade que a gente tem de discutir as coisas. Foi um prazer enorme estar aqui com vocês. Fiquem todos com Deus. Até a próxima. Lembrando que então na daqui 15 dias a gente não tem a nossa reunião, o nosso encontro. Eh, vou estar em Portugal e retornando eu vou fazer a live com apresentando o trabalho que eu vou

[50:11] que eu vou levar lá para Portugal, tá bom? Um abraço, fiquem com Deus e até