Moderna, Google DeepMind e Biocon sobre IA na ciência

Autoria: Bloomberg Television · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Moderna, Google DeepMind, Biocon on AI in Science · Canal: Bloomberg Television · 30:20 · Assistir no YouTube

Tópicos: Governança e regulação de IA, Saúde e ciência

Resumo

Líderes da Moderna, do Google DeepMind e da Biocon discutem como a IA pode transformar a descoberta científica e o desenvolvimento de medicamentos. O painel aborda aplicações em biologia, agricultura, ensaios clínicos e medicina personalizada, destacando tanto o potencial de acelerar pesquisas quanto os limites atuais para simular a fisiologia humana. Os participantes também discutem confiança na ciência, participação das comunidades e a necessidade de comunicar melhor os resultados científicos. Ao final, debatem a regulamentação de agents e a responsabilidade de quem os comercializa.

Pontos-chave

A IA pode mudar fundamentalmente a maneira como a ciência é feita, ampliando a capacidade de conectar dados e formular perguntas.
Combinar IA com biologia pode ajudar a compreender sistemas complexos e desenvolver medicamentos que atuem em redes, em vez de alvos isolados.
Acelerar a descoberta de medicamentos não basta: reduzir o tempo e o custo dos ensaios clínicos também é essencial para ampliar o acesso.
A IA pode apoiar a seleção de participantes de ensaios clínicos e a triagem de falsos positivos, mas simular ensaios clínicos completos ainda está longe.
Modelos e ferramentas de IA podem apoiar aplicações locais, como pesquisa de variedades de sorgo e recomendações agrícolas para agricultores.
A confiança depende não só dos resultados, mas também do método científico, da possibilidade de contestar hipóteses e da participação de especialistas e comunidades.
Os participantes defendem humildade ao comunicar promessas, especialmente diante de afirmações de que a IA resolverá rapidamente doenças complexas.
O painel considera que agents comercializados podem exigir regulamentação e certificação de segurança, com responsabilidade atribuída a quem os desenvolve.

Capítulos

Início	Capítulo	Resumo
00:02	Como a IA pode transformar a descoberta científica	Os participantes refletem sobre o que a IA poderá revelar e sobre a relação entre inteligência de máquina, inteligência humana e inteligência da natureza.
04:58	AlphaFold e aplicações em saúde	O painel cita previsões de estruturas de proteínas e exemplos de aplicação de conhecimentos científicos a doenças e medicamentos.
06:00	Medicamentos, ensaios clínicos e acesso	Os participantes discutem como a IA pode acelerar a inovação e reduzir custos, mas ressaltam a complexidade de encurtar ensaios clínicos.
11:57	IA na agricultura e apoio a agricultores	A conversa aborda pesquisa sobre sorgo na Índia e uma plataforma de IA que oferece informações a agricultores.
15:15	Medicina personalizada e novos tratamentos	Os participantes discutem como combinar dados biológicos e IA para compreender doenças e buscar tratamentos mais personalizados.
17:25	Confiança na ciência e participação pública	O painel trata da confiança no método científico, da comunicação com a sociedade e da inclusão de médicos, agricultores e comunidades.
24:20	Inovação em biotecnologia e regulamentação	Os participantes discutem oportunidades para a Biocon e a possível regulamentação de agents e de usos da IA em ciência.
29:14	Segurança e impacto para os pacientes	A conversa termina com referências à segurança da IA e à importância de aplicá-la para melhorar o trabalho científico e beneficiar pacientes.

Citações

Acho que a resposta é tudo. — 00:36

Acho que a coisa mais difícil será simular ensaios clínicos e evitá-los por completo. — 08:13

Como humanos, precisamos ser bastante humildes na maneira como fazemos isso. — 11:24

O que você está colocando em jogo é não apenas confiar nos resultados, mas no método científico. — 18:30

Para mim, LLMs são capacidade. Agents são intencionalidade. — 26:59

Conceitos e entidades

AI (conceito): Tecnologia discutida como meio de acelerar pesquisas científicas, conectar dados e apoiar o desenvolvimento de medicamentos.
AlphaFold (modelo): Sistema de IA mencionado por sua capacidade de prever estruturas tridimensionais de proteínas e disponibilizar essas previsões a pesquisadores.
clinical trials (conceito): Ensaios clínicos, apresentados como uma etapa cara do desenvolvimento de medicamentos que a IA pode ajudar a otimizar.
personalized medicine (conceito): Abordagem que busca adequar tratamentos às características biológicas de cada pessoa.
AI-powered platform (ferramenta): Plataforma mencionada como apoio a agricultores na Índia, com informações adaptadas às características de suas terras.
agents (conceito): Sistemas que, segundo o painel, podem agir com intencionalidade e capacidade de adaptação, levantando questões de segurança e regulamentação.
Moderna (empresa): Empresa citada no título do painel sobre IA na ciência.
Google DeepMind (empresa): Organização cujas pesquisas em IA e biologia, incluindo o AlphaFold, são discutidas no painel.
Biocon (empresa): Empresa de biotecnologia cujo desenvolvimento de medicamentos e uso de IA são abordados no painel.
Nubar (pessoa): Participante que discute inteligência de máquina, biologia, confiança na ciência e regulamentação de agents.
Laya (pessoa): Participante que aborda pesquisas do Google DeepMind, agricultura e a importância de envolver comunidades no desenvolvimento de IA.
Kieran (pessoa): Participante que discute o uso de IA em biotecnologia, medicamentos e ensaios clínicos.

Tradução completa (pt-BR)

00:02 É uma música muito boa. Olá a todos. Tenho o melhor trabalho do mundo, porque tenho três líderes maravilhosos para tentar entender o que eles acreditam que vai mudar, o que ainda está nos impedindo e quem vai se beneficiar desta próxima, próxima era de descobertas. Reúne três perspectivas. Newar, sobre criar novas empresas e plataformas científicas. Laya, sobre desenvolver capacidades de IA para a ciência, e Kieran, sobre desenvolvimento de medicamentos em biotecnologia e levar inovação aos pacientes. Então, agradeço a todos por participarem. Noar, quero começar com você. O que você acha, nos seus sonhos mais ousados, que a IA vai nos ajudar a descobrir e que ainda não conseguimos

00:36 nem sequer imaginar? Não conseguimos imaginar, mas você consegue. >> É uma pergunta difícil, porque acho que a resposta é tudo. Em outras palavras, acho que a forma como descobriremos tudo no futuro será fundamentalmente diferente e não será limitada pela imaginação humana. Na natureza, nada é descoberto pela imaginação humana. Simplesmente existe. E agora vamos conseguir fazer isso em múltiplos do que os seres humanos foram capazes de fazer. É uma perspectiva empolgante, mas também assustadora. >> LA, você acha que a IA está acelerando a ciência ou, na verdade, está fundamentalmente

01:09 mudando-a? >> Acho que ela está nos ajudando a entender o mundo de um jeito que nunca imaginamos. Como disse Nubar, é como um microscópio, que permite observar algo de muito perto e em profundidade, ou um telescópio, que permite olhar para longe e de forma ampla. E acho que talvez a limitação seja nossa capacidade de fazer perguntas criativas, de sermos ousados o bastante e termos coragem para perguntar. Qual você acha que será o próximo avanço da IA? >> Bem, com certeza será muito diferente do que fazemos hoje, porque, no momento, a biologia é

01:41 uma ciência muito empírica, e acho que a IA vai nos permitir fazer isso de uma maneira muito diferente. Ela vai nos permitir conectar pontos que não têm relação aparente. Estou pensando em desenvolver e inovar com novos medicamentos que não se concentrem em alvos isolados. Não são aqueles medicamentos que atuam em um único alvo. Acredito mesmo que, combinando a compreensão da biologia com o uso da IA, vamos conseguir, basicamente, olhar de forma holística para

02:12 redes, vias de sinalização e circuitos neurais. E acho que é assim que vamos desenvolver novos medicamentos: medicamentos multiespecíficos e multifacetados. >> Mas, Nubar, existe algo que continue sendo, de fato, intrinsecamente humano na descoberta científica? >> Bem, talvez eu reformule a questão desta maneira. Sei que estamos numa era em que tentamos recolocar o ser humano no centro da vida e da existência, porque isso está sendo desafiado por essa outra forma de vida que criamos — pelo menos, uma forma de pensamento. Acho que a maneira

02:46 de ser humano vai mudar nos campos científicos da seguinte forma. Hoje, estamos obcecados com a inteligência das máquinas. Podemos chamá-la de superinteligência, IA, ou como quisermos. Mas eu simplesmente a chamo de inteligência de máquina, porque é uma forma de inteligência de máquina, tal como é. Depois, temos a inteligência humana. Mas acho que não percebemos que existe outra forma de inteligência ao nosso redor: as formas de inteligência da natureza. Cada célula viva, cada célula que processa informações, também é uma forma de inteligência. Acho que, quando percebermos isso, vamos entender que aquilo que a biologia tem sido — seres humanos tentando compreender

03:19 a inteligência da natureza — agora está sendo complementado por seres humanos tentando compreender a inteligência das máquinas. E, na minha opinião, não seremos bons em nenhuma das duas coisas. Vamos ter que descobrir como usar a inteligência das máquinas para compreender melhor a inteligência da natureza, seja a do sistema imunológico, seja a dos vírus. As pessoas costumam debater comigo como posso dizer que um vírus é inteligente. Bem, um vírus que consegue derrubar a maior parte do sistema imunológico do planeta por meio de uma pandemia. Se isso não é inteligência, então nossos corpos devem ser bem frágeis. O fato é que ele é muito mais inteligente do que os vírus em computadores que hoje nos deixam

03:52 admirados. Então, acho que os seres humanos vão ter que abrir espaço para compreender, mas também aproveitar a inteligência das máquinas para entender melhor a inteligência da natureza — e por que não, potencialmente, o contrário também? Mas isso significa que pode haver uma descoberta que, em algum momento, não consigamos explicar? >> Já existem inúmeras descobertas que não conseguimos explicar. Isso se chama indústria farmacêutica moderna. Provavelmente, não entendemos de fato como funcionam mais da metade dos medicamentos. Podemos apresentar uma explicação de como talvez funcionem. Mas, para a maioria dos medicamentos, não temos uma compreensão mecanística

04:25 de como funcionam. Mas, por meio de testes rigorosos e experimentos controlados, podemos demonstrar que são mais eficazes do que prejudiciais. Por isso, são regulamentados e aprovados. Então, não acho que a compreensão humana… Aliás, não entendo como meu iPhone faz a maioria das coisas que faz, mas isso não me impede de usá-lo. Só não acho que essa presunção humana de que devemos temer tudo o que não entendemos seja algo razoável. Isso é um fenômeno novo. Há muito tempo convivemos com coisas que não entendemos. >> Laya, como você vê isso? E, na verdade, se olharmos para a DeepMind, muito desse trabalho foi iniciado por você e Demis. Sim, e, na verdade,

04:58 enquanto o Nibbar falava, pensei no AlphaFold como exemplo de um grande desafio que levou 50 anos. Nosso sistema avançado de IA, o Alphafold, agora está disponível para milhões de pesquisadores em todo o mundo, tão fácil de usar quanto uma busca em um mapa, para consultar e entender a previsão da estrutura tridimensional de uma proteína. Isso é notável, porque nos mostra o bloco básico que constitui a vida e, se ele

05:29 se dobra incorretamente, o que isso pode significar. Conseguimos trabalhar com pesquisadores, por exemplo, na Espanha, para pegar um medicamento e aplicá-lo à doença de Chagas. É um medicamento aprovado pela FDA, e a doença afeta 8 milhões de pessoas no mundo todo. É algo em que nós, seres humanos, não tínhamos pensado. Mas, ao fazermos as perguntas certas, conseguimos estabelecer essa correlação entre vacinas. Então, acho que a oportunidade aqui não está apenas na descoberta de coisas novas, mas também em como podemos aplicar outras que já existem. Na verdade, há 180.000 pesquisadores aqui mesmo na Índia

06:00 trabalhando em problemas que a Índia enfrenta e promovendo outros tipos de trabalho para entender doenças e os medicamentos associados a elas. >> O que você está vendo, Kuran? O que isso significa para a Bioon? Você espera que… Como isso vai mudar sua empresa nos próximos cinco anos? Sim. Claro, acho que a inovação em medicamentos vai acelerar, mas também espero que a acessibilidade, ou seja, o acesso a preços acessíveis,

06:30 também avance, porque os prazos entre o laboratório e o mercado estão sendo encurtados. Dito isso, embora todos estejamos nos concentrando agora no processo de descoberta, que certamente vai acelerar e ficar mais curto, o próximo desafio é: como encurtar a parte mais cara da inovação em medicamentos, que são os ensaios clínicos? E é aí que, mais uma vez, acho que a IA pode ter um papel importante, ajudando-nos a pensar no que queremos extrair e coletar dos dados clínicos para nos permitir prever

07:07 que o medicamento é seguro e eficaz. Acho que esse tipo de coisa pode realmente reduzir os prazos e levar esses pacientes mais rápido — quer dizer, levar os medicamentos mais rápido aos pacientes. Para mim, essa é a empolgação com a IA, e é isso que estamos analisando como empresa: como usar a IA não apenas para reduzir os prazos, mas também para tornar os medicamentos mais acessíveis em países como a Índia. >> E quero voltar à velocidade disso, mas, na verdade, quanto à acessibilidade, você acha que a IA vai tornar

07:39 os medicamentos simplesmente mais baratos? >> Não. Como mencionei, é uma questão de que tempo é dinheiro. E, se você consegue reduzir esse tempo, é claro que haverá um custo associado ao uso da IA em si, mas, com sorte, o benefício geral será conseguir levar medicamentos aos pacientes de forma mais barata e rápida. Essa é a minha… >> Sim, não, quero dizer, nesse ponto, você pode ter uma descoberta, uma descoberta de medicamento mais rápida, mas quando, mais uma vez, o tratamento do paciente também fica mais rápido?

08:13 >> Sim. Quer dizer, acho que há muitos componentes nisso em que a IA está ajudando e ainda vai ajudar muito. Acho que o mais difícil será fazer o que se especula atualmente: simular ensaios clínicos e, assim, dispensá-los por completo. Acho que isso exige uma compreensão da biologia e da fisiologia humanas que, temo, ainda está bem fora do nosso alcance. Embora, sabe, certamente tenhamos modelado digitalmente muitos sistemas complexos, acho que a maioria das pessoas que não trabalha com

08:44 biologia e medicina não entende o quanto esses sistemas são complexos. Imagino que nossos colegas da DeepMind que trabalharam com problemas de física e biologia tenham aprendido o que Schrödinger aprendeu há 80 anos: biologia não é apenas física e, à medida que aumenta a escala, a complexidade do problema cresce exponencialmente. Na verdade, o problema do dobramento de proteínas provavelmente está entre as partes mais determinísticas da biologia; todo o resto fica muito complexo por causa dos efeitos de interação. Então, em resumo, acho que haverá

09:14 resultados de curto prazo, por exemplo, na escolha de quais pacientes incluir em um ensaio. É possível analisar os prontuários médicos eletrônicos e encontrar um grupo que responda melhor, não apenas com base nos diagnósticos, mas também nos perfis moleculares, no caso do câncer? Vou dar outro exemplo. Há muito interesse em fazer exames de rastreamento para detectar o câncer precocemente. O problema é que esses exames geram dez vezes mais falsos positivos do que verdadeiros positivos. O que vamos fazer com essas pessoas? Se elas entrarem no sistema de diagnóstico, os custos vão disparar. Será que

09:47 é possível usar IA para fazer uma triagem melhor e reduzir drasticamente o número de falsos positivos? Acho que, à medida que começarmos a resolver essas questões, isso começará a impactar os cuidados clínicos e, com o tempo, poderemos imaginar ensaios mais curtos e desfechos mais claros. São coisas em que estamos trabalhando. Mas não acho que devamos esperar para tão cedo esse conceito de um gêmeo digital de um ser humano que usaríamos para fazer testes. Mas, sobre o que você está falando, que prazo estamos considerando? Quatro ou cinco anos, até que os

10:20 gargalos comecem a desaparecer? >> Acho que os impactos já estão sendo sentidos. É difícil dizer em que ordem, mas o que eu estava mencionando é essa grande transformação que reduziria drasticamente a duração dos ensaios clínicos. Gostaria que isso acontecesse. Trabalho nessa área há 39 anos. Nada reduziria tanto o custo de novos medicamentos quanto a complexidade regulatória e o tempo dos ensaios clínicos. Mas acho que talvez seja um passo grande demais para apresentar à sociedade e depois decepcionar as pessoas. Quer dizer, já existe

10:52 decepção e medo suficientes em torno da IA. Acho que sair por aí dizendo que vamos curar o câncer, como algumas pessoas dos laboratórios de ponta estão dizendo, como se fosse uma meta próxima, é muito difícil. E depois perceber que, daqui a cinco anos, ainda estaremos curando… Quer dizer, estamos curando o câncer há 70 anos. A piada na indústria de biotecnologia é que, se os camundongos tivessem um problema com câncer, já o teríamos resolvido completamente, porque curamos todos os tipos de câncer em camundongos. Acontece que a fisiologia dos seres humanos é muito diferente da dos camundongos. Então, precisamos

11:24 ser mais humildes. Deixe-me dizer mais uma coisa. Eu diria que o que a IA nos ensinou nos últimos anos, com as novas versões da IA, a IA generativa, é que agora sabemos que há mais coisas que não sabemos do que pensávamos. Em outras palavras, como fração de tudo o que há para saber, agora regredimos, porque sabemos que isso está ao nosso alcance, se ao menos pudéssemos fazer as medições. Se ao menos pudéssemos… Então, acho que a disputa entre o desconhecido e o conhecido continuará interessante por um tempo. Isso significa que, como seres humanos, precisamos ser bastante humildes na maneira como agimos.

11:57 >> Como você vê isso? Sim, merece aplausos. Por que não? [aplausos] >> Vou voltar ao que disse no início. Acho que isso nos leva a simplesmente fazer perguntas melhores, perguntas às quais talvez não tivéssemos acesso antes. Como Kieran mencionou, agora podemos adotar uma abordagem interdisciplinar. Antes, talvez nos aprofundássemos muito e conseguíssemos observar padrões que eram inacessíveis. Uma das coisas que, na verdade, tenho aprendido — passei a última semana na Índia — e uma das áreas que muito me anima

12:31 é conhecer melhor a colaboração que estamos desenvolvendo aqui localmente. Parte da inovação local está na área da agricultura. Então, se me permitem mudar por um momento do lado humano: estamos trabalhando com uma organização chamada ICRISAT, que fica em Hyderabad, e um dos maiores desafios é que o sorgo, que serve de alimento ou ração para 500 milhões de pessoas, só foi realmente estudado no Ocidente, em variedades ocidentais, não nas variedades indígenas daqui. Então, um dos desafios

13:06 enfrentados na Índia é como acelerar de fato a compreensão da genética dessa cultura e de como melhorá-la por meio do cruzamento. Agora estamos trabalhando com melhoristas de plantas para estudar o sorgo, ou jowar — aprendi essa palavra esta semana —, para mapear todos os genes e disponibilizar essas informações gratuitamente, possibilitando que a inovação aconteça no próprio local. Como meus colegas mencionaram, ainda há muito trabalho a fazer depois disso. Mas, se conseguirmos esse avanço e obtivermos as contribuições dos melhoristas de plantas, as

13:39 contribuições dos agricultores desde o início, e acelerarmos o processo, condensando em pouco tempo o trabalho que levaria uma década… Imaginem o que isso poderia significar para uma cultura mais resistente à seca, capaz de lidar melhor com doenças. E isso é algo bastante pessoal para mim, porque minha mãe pesquisou o sorgo na África há mais de 20 anos, e eles receberam o World Food Prize por um dos primeiros avanços no desenvolvimento de sorgo resistente à seca. Mas a África e a Índia ainda enfrentam tantos desafios, e é

14:11 realmente incrível ver agora o que pode ser possível com algumas das oportunidades de aplicar IA em áreas que tradicionalmente têm sido pouco representadas e pouco estudadas. E imagino que a velocidade de adoção nesse campo será anos-luz mais rápida do que qualquer coisa em… >> Sim, quer dizer, estamos esperançosos e, na verdade, o que estamos fazendo é só do lado das sementes. Já estamos trabalhando com agricultores em uma plataforma com IA chamada Anthrochi, com 600 mil agricultores bem aqui na Índia,

14:44 oferecendo insights baseados em IA aos agricultores, relevantes para o terreno que possuem. E o mais impressionante é que, com esses 600 mil agricultores, trabalhamos de forma bastante colaborativa, inclusive com governos estaduais, para tentar aumentar a precisão e o desempenho da plataforma, que é aberta, e já a levamos a quase uma dúzia de países da Ásia, incluindo o Japão e o Vietnã. >> Kieran, a IA poderia realmente tornar a medicina personalizada acessível a

15:15 todos? >> Poderia. Quer dizer, se você olhar para a oportunidade básica que temos de combinar o que chamo de inteligência biológica com IA, ou inteligência artificial, é algo muito empolgante. Sabe, a IA, ou o aprendizado de máquina, se baseia em lógica, raciocínio e reconhecimento de padrões em dados existentes ou conhecidos. O que se torna muito empolgante, como apontou Nubar, é: como fazer a IA

15:47 fazer algo além disso? Ela pode criar novos conhecimentos? Pode criar novos medicamentos? E acho que, nesse sentido, compreender a biologia terá um papel muito importante. Sabe, construir modelos fundacionais de biologia, como o que Nubar está fazendo na Laya Science, em que tentam combinar aprendizado de máquina com biologia, dados biológicos e experimentação — é isso que a biologia faz. A biologia aprende, se adapta e então

16:18 inferências. Acho que fazer inferências vai ser muito importante em comparação com apenas raciocínio e lógica: é a experimentação contínua, em tempo real, necessária para aprender com esses modelos de biologia. E acho que isso vai contribuir muito para descobrir novos medicamentos, encontrar novas soluções para alguns problemas antigos, como doenças neurodegenerativas. Não avançamos fundamentalmente no tratamento de Alzheimer e Parkinson porque

16:51 estamos tentando encontrar um único ponto na via, na via de sinalização, ou um único ponto no circuito neural ou em uma rede imunológica, e isso não está funcionando. Então, será que podemos usar esses novos sistemas para integrar informações e encontrar terapias totalmente novas que possam começar a fazer uma grande diferença? Para mim, há muito a ser feito, mas, como todos disseram, ainda não sabemos o suficiente; estamos apenas começando, certo? E acho que essa é a empolgação que

17:25 vejo na combinação de todas essas tecnologias. Há uma grande questão sobre confiança? Como confiamos nas descobertas e, especialmente, como garantimos que a comunidade científica confie nas novas descobertas feitas por uma…? Acho que a confiança depende do resultado. Se você vai fazer diferença na saúde, se vai curar — ou pelo menos chegar perto de curar doenças —, talvez “curar” não seja a palavra certa, mas, se causar um grande impacto nas doenças e em seus desfechos, as pessoas vão passar a confiar. E estamos falando de medicina personalizada.

17:58 Com certeza. Acho que toda essa abordagem baseada em bancos de dados, que busca compreender o genoma de cada indivíduo e depois personalizar a medicina — para retomar o ponto de Nubar, sobre como garantir que você está escolhendo os pacientes certos, aqueles que responderão ao novo medicamento —, é o que vai tornar possível a medicina personalizada, que, acredito, será facilmente viabilizada pela IA. Sim. Talvez… Acho que você está levantando uma questão provocadora, porque existe confiança na IA, mas também existe

18:30 confiança na ciência. E, pelo menos nos EUA, vivemos numa época em que a desconfiança na ciência está se tornando uma indústria em expansão. Na ciência, aquilo em que você confia não são apenas os resultados, mas também o método científico. Em outras palavras, a maneira de chegar ao resultado envolve formular hipóteses e refutá-las. Se você não consegue refutar algo, isso é considerado verdade. E, depois, se outra pessoa aparece e realiza um experimento que refuta sua hipótese, você deveria comemorar, porque isso significa que aprendemos algo novo. Essa metodologia é o que nos deu a vasta maioria dos

19:02 fatos que entendemos hoje. Atualmente, estamos num ambiente em que retrocedemos várias centenas de anos, em que basicamente debatemos fatos com opiniões. As pessoas podem dizer: “Não acredito muito nisso”, e então você tem que debater com elas, sem que precisem apresentar nenhum fato. Isso corrói muito rapidamente a confiança no método científico. E isso sem falar no que acontece quando a IA entra e contribui para esse problema: agora é uma máquina afirmando um fato, obtido da mesma maneira, por meio de experimentos de refutação, em vez de outro ser humano. Então, não

19:34 sei. Vamos ver se os humanos vão confiar mais nas máquinas do que em outros humanos. Mas posso dizer que estamos vivendo numa época em que, de certa forma, após a COVID, nos últimos anos, houve esse afastamento realmente preocupante da confiança nos fatos. Tenho muitos amigos médicos. Tenho muitos colegas executivos da indústria farmacêutica que ficam felizes, por exemplo, por não trabalharem com vacinas, porque acham que esse problema se limita a elas. Isso não vai parar nas vacinas. Vamos desconfiar dos medicamentos. Vamos desconfiar dos alimentos. Vamos desconfiar dos algoritmos. Tudo o que temos para nos guiar é uma metodologia que, como

20:07 comunidade, nós, seres humanos, podemos defender. É como confiar na polícia porque vivemos numa sociedade em que fizemos um acordo; algumas pessoas talvez não confiem, mas, se ninguém confiar, não há sociedade. Acho que é algo tão fundamental quanto isso. Então, acho que a confiança quase se tornou um conceito político. E, quando se aplica à ciência, a ciência política não deveria ser política entrando na ciência. Como cientista, isso me preocupa muito. Como resolvemos isso? Porque nem todo mundo… Recebi alguns artigos científicos para pesquisar e não consigo lê-los. Então, muitas

20:40 pessoas não conseguem saber por conta própria se algo é verdadeiro ou não. Bem, em geral, acho que contamos com especialistas e profissionais cuja visão coletiva — que agora será mais fácil de reunir com a IA, porque é possível fazer muito mais integração — representa o melhor que podemos fazer. Quando você vai ao médico e ele diz: “Com base em tudo o que sei, acho que você deveria fazer isto”, e você pensa: “Não confio muito em você”, para onde vai em seguida? A outro médico. Mas, no fim das contas, você precisa escolher em que vai confiar. Então, não sei se há muito que possamos fazer. Eu

21:11 acho que há uma coisa — e já dei muitas sugestões aos meus colegas cientistas. Acho que, em geral, os cientistas não entram na discussão para explicar essas coisas. Além disso, os cientistas têm a característica de questionar a ciência de todos os outros. Em conferências científicas, questionamos abertamente tudo o que as pessoas dizem. Quando alguém observa isso, pensa: “Espere aí, se isso pode ser questionado, por que eu deveria confiar?” Não entende que isso faz parte do processo de elaboração que resulta em fatos científicos. É uma área complexa, mas acho que vamos

21:42 precisar, como sociedade, revisitar a questão de onde vem a confiança, sem falar em liberar a IA — o Move 37 e tudo mais. Tudo isso vai acontecer. E, se nós, seres humanos, simplesmente desconfiarmos de tudo isso, não sei onde vamos encontrar novos medicamentos, novos produtos ou qualquer outra coisa. E acho que precisamos simplificar a ciência. A forma de comunicar a ciência precisa ser simplificada para a sociedade em geral. Na verdade, é isso que estamos tentando fazer numa cidade como Bangalore, onde criamos a science gallery para, basicamente, conectar a sociedade à ciência de uma maneira muito

22:16 significativa e simples, que as pessoas possam entender. Porque, como disse Nubar, acho que é aí que tudo começa: as pessoas estão confusas. Mas também fico pensando que as pessoas confiam nas comunidades de que fazem parte. E muito disso tem a ver com como podemos começar a criar pontes entre as pessoas reais e os problemas reais, e ajudá-las a se conectar com isso. Uma das nossas abordagens é que não dá para desenvolver uma plataforma para os agricultores sem que as vozes e as necessidades deles estejam incorporadas

22:48 desde o início. Isso não pode ser algo pensado depois. Assim como no trabalho de triagem, não dá para pensar em como vamos fazer a triagem sem ouvir os médicos desde o começo, e não quando estivermos prestes a lançar isso. Acho que há algo aqui que realmente precisamos considerar. Essa é parte da razão pela qual assumi este cargo de diretor de prontidão para IA, depois de anos desenvolvendo IA e tecnologia e de décadas trabalhando com tecnologia como engenheiro: sinto que a IA ainda está num estágio inicial o suficiente para que possamos moldar

23:18 o futuro. Ela já avançou o suficiente para que possamos ver parte do impacto real. Mas precisamos trabalhar juntos se quisermos imaginar, criar e moldar em conjunto para onde queremos levar isso, em que queremos que seja confiável, em que queremos confiar na IA e onde queremos realmente nos concentrar nas nossas habilidades humanas. Sempre peço a todos que, ao usar IA — seja como ferramenta científica ou usando IA generativa na vida doméstica —, deem um passo atrás e pensem

23:49 como você está usando isso, mas também onde você está trazendo sua engenhosidade humana, sua criatividade humana, sua curiosidade e sua capacidade de resolver problemas, porque acho que essas são as habilidades que realmente precisamos incentivar. E não se trata apenas do que está acontecendo hoje: como estamos preparando os cientistas de amanhã para fazer as perguntas difíceis, aquelas que talvez tenhamos limitações para fazer porque trazemos muitos vieses da nossa própria experiência de vida — tanto a sabedoria que ela nos dá quanto, às vezes, suas limitações. >> Kieran, conversamos um pouco…

24:20 sobre, sabe, a indústria de biotecnologia na Índia. O que mais empolga você na sua empresa? Bem, certamente estou muito empolgado para aproveitar o que a IA tem a oferecer. IA para biologia, IA para ciência, é uma área em que queremos investir ainda mais, porque é uma área nova. Quer dizer, acho que estamos apenas começando a explorar a superfície, mas isso deve nos dar percepções mais profundas e a capacidade de conectar pontos que hoje não conseguimos conectar. Então, estou empolgado com…

24:50 isso. Também estou empolgado com o fato de termos um conjunto de talentos bastante interessante em uma cidade como Bangalore, que conta com muitos talentos em IA e biologia quântica, e fico pensando se podemos realmente combinar essas áreas e fazer algo mais significativo. Para mim, a próxima oportunidade para uma empresa como a Bioon é inovar de verdade em medicamentos, dando um salto à frente com essas novas tecnologias. Nubar, uma pergunta para você: primeiro, você regulamentaria a IA na ciência e, em caso afirmativo, como? E a segunda pergunta é…

25:24 basicamente: se a descoberta científica ficar mais rápida e barata, como se constrói uma empresa de biotecnologia bem-sucedida? >> Uau. Duas perguntas distintas… >> Duas perguntas grandes, com 20 segundos para cada uma. Deixe-me abordar, de forma preliminar, a questão da regulamentação da IA em geral, porque isso está claramente em pauta. Temos uma exposição específica a isso, que é única: vivemos no mundo natural, no mundo dos seres vivos, em vez de no mundo digital e inanimado. E observamos o que está acontecendo nesse mundo…

25:56 do ponto de vista da compreensão dos ecossistemas e da biologia. Posso dizer que, até 2026, eu não estava preocupado com quase nada disso. Mas, no início de 2026, com as primeiras coisas que OpenClaw e mult books mostraram — algumas dessas pessoas logo descartaram aquilo como insignificante —, apenas seis meses depois, apesar dos muitos alertas que alguns de nós fizemos de que isso começaria a se parecer com a natureza e essencialmente começaria a disseminar agentes que criariam comunidades capazes de fazer coisas imprevisíveis, foi exatamente isso que aconteceu. Então, acho que agora passamos para…

26:28 não apenas os LLMs, mas também os agentes que um LLM pode permitir que você gere com intencionalidade e, depois, com a capacidade de se adaptar, de modo que agora possam ser usados indevidamente por conta própria, sem serem direcionados por um ser humano em todos os aspectos. Isso começa a se parecer com um organismo vivo, com capacidade de adaptação, de formação de enxames e de construção de ecossistemas. E, para as pessoas na sala que ainda não estavam preocupadas até agora: não sou um catastrofista, depois de 40 ou 50 anos de carreira. Não é isso que fazemos. Somos otimistas…

26:59 em relação à tecnologia, mas acho que estamos cruzando um limiar. Portanto, acredito que devemos pensar cuidadosamente em regulamentar os agentes que estão sendo comercializados e transmitidos para fora dos limites do que alguém talvez queira fazer internamente. E já vimos, com o exemplo do Hugging Face, que essas coisas também podem escapar. Mas, além disso, acho que, se você vai comercializar agentes, a responsabilidade deve caber a quem desenvolve os agentes, não os LLMs. Para mim, os LLMs são capacidade. Os agentes são intencionalidade.

27:31 >> Se não regulamentarmos a intencionalidade, não entendo por que deveríamos nos surpreender se essa intenção se voltar contra nós. E acho que isso pode ser feito. Essa ideia de que não é possível regulamentar ou de que, se os Estados Unidos fizerem isso, o resto do mundo… Para mim, tudo isso se aplica às drogas da mesma forma que se aplica aos agentes de IA. Ou seja, as pessoas não regulamentaram bem as drogas até a talidomida. Com a talidomida, as pessoas disseram: “Meu Deus!”. E, de repente, diante dos defeitos congênitos, começaram a regulamentar em excesso e disseram: “Sabe de uma coisa? Quem quiser ganhar dinheiro com isso precisa nos explicar por que devemos considerá-la segura”. Se eu estivesse…

28:04 no setor de IA, em que atuamos de várias maneiras, começaria a pensar em como regulamentar e promover a regulamentação — desculpe, em como fazer a autocertificação de segurança se você quiser comercializar algo. Pode ser mais difícil regulamentar se alguém estiver usando isso por conta própria, mas, se você pretende ganhar dinheiro com isso, acho que precisamos pensar no assunto. >> E também há consequências não intencionais, sabe, que exigem regulamentação, porque surgirão novos biomateriais. A biologia sintética é outra área que realmente precisamos observar com muito cuidado. Então, acho que se trata tanto dos usos intencionais quanto dos usos nocivos da IA…

28:42 e, depois, dos não intencionais. >> LA, vai ser interessante ouvir, obviamente você está numa posição um pouco diferente, mas seria interessante ouvir sua opinião sobre os agentes e talvez sobre a regulamentação deles. >> Bem, sabe, uma das coisas que defendemos há muito tempo é que a IA é importante demais para não ser regulamentada — e para não ser bem regulamentada. Então, precisamos pensar: se esta é uma das tecnologias mais transformadoras do nosso tempo, como podemos trabalhar para garantir que ela seja segura para a humanidade? E, sabe, tomamos várias…

29:14 medidas ao longo da década e tanto de trabalho que a DeepMind vem realizando em torno da IA, além de trabalhar com formuladores de políticas para ajudá-los a entender a própria tecnologia. Fizemos bastante trabalho especificamente com fluxos de trabalho agênticos, bem como pesquisas de ética, tentando oferecer à comunidade uma oportunidade de conversar em conjunto sobre os riscos e as oportunidades. Então, quando demonstramos a tecnologia pela primeira vez, também publicamos nosso artigo de pesquisa sobre a ética da assistência avançada por IA…

29:47 e acho que Demis publicou algo no início deste ano, em junho, sobre como poderíamos pensar em regulamentar essa tecnologia. E, K, só mais uma pergunta, bem rapidamente, porque estamos sem tempo: como podemos garantir hoje que algumas dessas descobertas impulsionadas por IA se traduzam em medicamentos acessíveis para os pacientes? Há alguma medida que você precisa tomar hoje? >> Não, não acho. Quer dizer, é cedo demais para… Sabe, sim, é possível pensar em como projetar isso, >> mas acho que o principal foco hoje…

30:20 é realmente como usar a IA da melhor forma para fazer a diferença no que estamos fazendo hoje. >> Muito obrigado por um ótimo painel, Nubar, Laya e Kieran. Obrigado. Obrigado. [aplausos] Obrigado. [música]

Transcrição original

[00:02] It’s very good music. Hi everyone. I have the best job in the world because I have three wonderful leaders to try and understand what they believe will change what is still holding us back and who will benefit from this next next era of discovery. Brings together three perspectives. Newar on creating new companies and scientific platforms. Laya and building AI capabilities for science and Kieran on biotechnology drug development and bringing innovation to patients. So, thank you all for joining us. Noar, let me start off with you. What do you think in your wildest dreams AI will help us discover that we can’t

[00:36] even imagine yet? We can’t imagine, but you can. >> It’s a tricky question because I think the answer is everything. So, in other words, I think how we discover everything in the future will be fundamentally different and it will not be limited by human imagination. Um, in nature, nothing is discovered through human imagination. It just exists. And now we’re going to be able to do that in in multiples of what humans have been able to do. And it’s an exciting but also scary prospect. >> LA, do you think AI is accelerating science or actually just fundamentally

[01:09] changing it? >> I think it’s helping us understand the world in a way that we never imagined. As Nubar said, much like a microscope of being able to go very narrow and deep or a telescope to go out wide. And I do think that maybe the limitation is our ability to ask creative questions to be bold enough and have the courage to ask. What do you think is is the next AI breakthrough? >> Well, it’s definitely going to be very different to what we’re doing today because right now, you know, biology is

[01:41] a very empirical science and I think AI will enable us to do it very differently. It’ll allow us to collect connect very unrelated dots. So I’m looking at developing and innovating new medicines that are not about targeting single targets. You know, it’s not those single targeting drugs, but I really believe that you’re going to be able to with a combination of understanding biology and leveraging AI, you’re going to be able to basically holistically

[02:12] look at networks, signaling channels, and neural circuits. And I think that’s the way you’re going to develop new drugs, you know, multi-specific, multi- faceted drugs. >> But Nubar, is there something that actually remains, you know, intrinsically human in scientific discovery? >> Um, well, maybe maybe I’ll reframe it in this way. So I I know that we’re at an era where we’re trying to put the human back into life and existence because it’s being it’s being challenged by this other life form that we’ve created, at least thinking form. I do think that how

[02:46] it is to be human is going to change in the scientific fields in the following way. I think we’re today obsessing over machine intelligence. We can call it super intelligence, AI, whatever. But I just call it machine intelligence because it’s a machine form of intelligence uh such as it is. Then we have human intelligence. But I think what we have failed to realize is that there’s another form of intelligence surrounding us which is nature’s forms of intelligence. Every living cell, every cell that processes information is also a form of intelligence. I think once we realize that, we’re going to realize that what biology has been, which is humans trying to understand

[03:19] nature’s intelligence, is now being supplemented by humans trying to understand machine intelligence. And we’re not going to be good at either one in my view. And we’re going to have to figure out how to use machine intelligence to better understand nature’s intelligence, whether that’s the immune system, whether that’s viruses. I mean, people often debate with me what how I could say that a virus is intelligent. Well, a virus that could take down most of the immune system on the planet through a pandemic. If that’s not intelligent than then our bodies must be pretty weak. The fact is it’s much more intelligent than viruses on computers that today we’re in awe of

[03:52] of all the one. So, I do think that humans are going to have to make room for understanding but also harnessing machine intelligence to better understand nature’s intelligence and why not potentially vice versa. But does it mean that there could be a discovery that we we can’t explain at some point? >> There already are tons of discoveries that we can’t explain. It’s called the modern pharmaceutical industry. Probably more than half the half the drugs we don’t actually understand how they work. We can give one version of how they might work. But most of the drugs we don’t actually have any mechanistic

[04:25] understanding of. But through rigorous testing, through controlled experiments, we could show that it’s more efficacious than it’s harmful. And so that’s regulated and it’s approved. So I I don’t think human understand by the way I don’t understand how my iPhone does most of the things it does doesn’t stop me from using it. I just don’t think this human conceit that anything we don’t understand we should be afraid of. That’s a new phenomenon. We’ve been coexisting with things we don’t understand for a very long time. >> Laya how do you see this? And actually if you look at deep mind I mean this is a lot of the work that you know you and Demis had started. Uh yes and actually

[04:58] as as Nibbar was speaking I was thinking about AlphaFold as an example of a 50-year grand challenge and our advanced AI system uh Alphafold now we have it available to millions of researchers worldwide as simple as a map search to be able to look up and understand uh how the prediction of a protein a 3D uh structure which is remarkable because it tells us the has a basing build a basic building block of life and if it

[05:29] misfolds what that might mean and we’ve been able to work with researchers like in Spain and taking one medication uh and applying it to the shagas disease an FDA approved medication uh impacts 8 million people worldwide something that as a human we hadn’t thought of but to ask the questions that helped us make that correlation between vaccines so I think the opportunity here is not only in the discovery of new things but also how we can apply other ones in fact there’s 180,000 researchers right here in India

[06:00] working on problems that India is facing and advancing uh other types of work in understanding diseases and the medications that go alongside them. >> What are you seeing Kuran? I mean your what does it mean for Bioon? So are you expecting to how how does it change your company in the next five years? Yeah. So, of course, um I think drug innovation is going to accelerate, but I also hope that affordability or delivering affordable

[06:30] access will also accelerate because you are shortening uh the timelines of uh you know lab to market. Having said that, I think whilst we are all focusing right now on the discovery process which is certainly going to accelerate and get abbreviated, the next challenge is how do you abbreviate the more expensive part of drug innovation which is clinical trials. And that’s where I again think that AI can play a big role in helping us think through what do we want to glean and gather from clinical data that allows us to you know predict

[07:07] that it is safe and efficacious and I think those are the kind of things that can really compress timelines and deliver these patients faster to I mean um medicines faster to patients. So to me that’s the excitement of AI and that’s what we are looking at as a company saying how do we look at you know AI to really not just abbreviate but to also look at the affordability part for countries like India >> and I do want to come back to to the speed of it but actually to the the affordability do you think AI will make

[07:39] the medicine just cheaper >> no as I mentioned I think it’s a it’s it’s a question of time is money and if If you can compress that time, there is of course going to be a cost element to a the use of AI itself, but hopefully the overall benefit will be that you can get medicines to patients cheaper and faster. That’s that’s my >> Yeah, no, I mean to that point, you know, you can have a discovery that a drug discovery that’s faster, but when do again, you know, the treatment of the patient gets faster?

[08:13] >> Yeah. I mean I think there’s a lot of components to that that AI is helping and will help a lot. I think the the hardest thing will be to do what uh is out there this these days in terms of speculation which is simulating clinical trials and avoiding them altogether. I think that requires an understanding of human biology and physiology that I’m afraid we’re we’re quite far from. um albeit you know I think that we’ve certainly unders we’ve certainly modeled digitally lots of complex systems but I think most people who don’t work in

[08:44] biology and medicine don’t understand just how complex these systems are. I assume our colleagues at DeepMind who worked on physics problems and biology problems learned what Schroinger learned 80 years ago which is that biology is not just physics and as you go up in scale the complexity of the problem goes exponentially high and in fact the folding problem is probably among the most kind of deterministic parts of biology everything else through interaction effects gets very complex so long way of saying I think there’s going

[09:14] to be shorter term mto so for example which patient do you want to include in a trial? Can you train through their electronic medical records and find a subset that are going to be more responsive not just based on diagnostics but just based on their molecular profiles uh in cancer. I’ll give you another example. There’s a lot of interest in screening to find early cancer. The problem is those tests create 10 times more false positives than they do true positives. What are you going to do with those people? If you put them into the diagnostic system, it’ll drive cost through the roof. Can

[09:47] you use AI to better triage and massively reduce the number of false positives? Those are things that I think as we start taking care of, it’ll start impacting clinical care and over time we could imagine more shortened trials, clearer endpoints. These are all things we’re working on. But I don’t think this notion of a digital twin of a human that we use for testing is something that that we should be looking for too soon. But what you’re talking about, what kind of timeline are we talking about? Like four, five years that the the

[10:20] bottlenecks kind of unwind. >> I think the impacts being felt now. Uh and and it’s kind of hard to say in what sequence, but what I was talking about is this massive disruption in dramatically shortening clinical trials. I wish I’ve been doing this for 39 years. There’s nothing that would address the cost of new medicines as much as the clinical regulatory complexity and time. But I think that may that may be kind of a a step too far to represent to society and then disappoint people on. I mean, there’s

[10:52] already enough with AI that’s causing disappointment and fear that I think going out and saying we’re going to cure cancer as some of the frontier lab people are saying as though it’s a proximal goal. I it’s really difficult to put that out there and then realize that five years from now you’re still curing. I mean, we’ve been curing cancer for 70 years. The joke in the biotech industry is that if mice had a cancer problem, we would have solved it completely because we’ve cured every which type of mouse cancer. Humans turn out to be dramatically different than than mice in their physiology. So we

[11:24] have to be more humble. Let me say one other thing. I would say what AI has taught us in the last few years, the new versions of AI, generative AI, is that we now know there’s more we don’t know than we thought there was. In other words, as a fraction of what there is to be known, we now have gone backwards because we now know that it’s accessible. If only we could make measurements. if only we so I think that the fight between the unknown and the known is going to stay interesting for a while and that means I think as humans we have to be pretty humble in the way we go about doing it

[11:57] >> how do you look at this yes it deserves some applause why not [applause] >> I’ll go back to what I said at the beginning I think it gets back to us just asking better questions asking questions that maybe we didn’t have access um to before as Kieran mentioned like we can take now an interdisciplinary approach like in the past where maybe we went really deep of being able to like look at patterns that may have been inaccessible. Um one of the things I’ve actually uh you know I’ve been in India for the past week and one of the areas I’m been really excited

[12:31] to learn about um how we’re we’ve been collaborating here locally and some of the local innovation is around the area of agriculture. Uh so if I can shift maybe from the human side uh uh for a moment we’re working with um an organization called Icraat that’s based in Hyderrobad and one of the biggest challenges that we have is that sorghum which 500 million people rely on as a food source or to feed livestock uh has only really been studied in the west the western varietals not the indigenous ones here. So one of the challenges that

[13:06] being faced in India is like how do we actually accelerate the understanding around the crop genetics and how to breed it. So we’re now working with crop breeders to look at sorghum or javar which I have learned my my uh word this week um to accel to to be able to map all the genes and make that freely available so the innovation can happen on site of that. Now, as mentioned by my colleagues, there’s a lot of work that needs to happen that follows that. But if we can have the breakthrough and get the inputs from the crop breeders, the

[13:39] inputs from the farmers up front and accelerate, take a decade’s worth worth of time and start to crunch that together. Like imagine what this could mean for a more droughtresistant crop, something that can handle better diseases. And this is actually quite personal to me because uh my mom actually did sorghum research uh in Africa over 20 years ago and they got the world food prize for one of the first breakthroughs in droughtresistant uh sorghum but Africa and India are still facing so many challenges and it’s

[14:11] really amazing to see now this what might be possible with some of the opportunities of applying AI into areas that have traditionally been uh underrepresented and underststudied. And I imagine the speed at the speed of adoption in that space is going to be lightning years faster than anything in >> Yeah, I mean we’re we’re hopeful and and in fact what we’re doing is that’s just on the seed side. We’re already working with farmers in a platform an AI powered platform called anthrochi uh with 600,000 farmers right here in India

[14:44] about providing AI in based insights into the farmers that are relevant for the plot of land that they have. And what’s been amazing about that is through the 600,000 together we’ve worked in a very collaborative way including with state governments on trying to increase the accuracy and performance of this and uh in an open platform and have already exported it to nearly a dozen countries across Asia including Japan and Vietnam. >> Um Kieran could AI actually make personalized medicine accessible to

[15:15] everyone? >> Well, it can. I mean if you look at uh the basic opportunity that we have of combining what I call biological intelligence and AI or artificial intelligence is very exciting. You know if you look at AI or machine learning it’s really based on uh you know logic and reasoning and pattern recognition on existing data or known data. Now what becomes very exciting is to Nubar’s point how do you get AI to actually do

[15:47] something beyond that can it create new knowledge can it create new medicines and there I think understanding biology is going to play very important a very important role you know building bio biology foundation foundation models like what actually Nubar is doing at at Laya Science where you know they’re trying to combine uh machine learning with biology, biological data experimentation and that’s what biology does. Biology learns, adapts and then

[16:18] inferences. I think inferencing is going to be very important comp compared to just reasoning and logic that is the continual realtime experimentation that you need to do learning these biology models and that I think will do a lot in terms of discovering new medicines [snorts] finding new you know sort of uh solutions to some of the age-old problems like neuro neurodeenerative diseases we haven’t fundamentally moved the needle when it comes through Alzheimer’s and and Parkinson’s because

[16:51] we are trying to find a single point in the pathway the signaling pathway or a single point in in in the sort of the neural circuit or an immune kind of a network and that’s not working. So can we actually use these new systems to integrate and find very new therapeutics >> that can actually start making a big difference. So to me there’s a lot to be done but to everyone’s point we don’t know enough we’re just starting right and I think that’s the excitement that I

[17:25] see in terms of combining all these various technologies >> is there a big question over trust so how do we trust the discoveries and especially how does the how do we make sure that the scientific community trusts the new discoveries by a >> I think trust is about the outcome you know if if you’re going to make a difference to healthare if you’re going to cure at least come towards kind curing diseases on maybe the word curing is not right but to make a big impact on diseases and disease outcomes then people will build up the trust and you’re talking about personalized

[17:58] medicine for sure I think this whole database approach of getting the the genomic understanding of every individual and then personalizing the medicine to Nubar’s point of saying how do you make sure that you’re picking the right patients who will respond to that new medicine that is going to be your personalized uh medicine which I think is going to be very easily enabled by AI. >> Yeah. Maybe I mean I think it’s you’re raising a a provocative point because there’s trust in AI but there’s also

[18:30] trust in science and at least in the US we’re living at a time where mistrust in science is a burgeoning industry and in science that what you’re trusting actually is is not just the results but the scientific method. Yeah. In other words, the way you get the result is hypothesis generation, falsification, and if you fail to disprove something, it’s considered the den truth. And then over time, if somebody else comes along and actually does an experiment that falsifies your hypothesis, you should celebrate because that means we learn something yet new. That methodology is what’s gotten us the vast majority of

[19:02] what we understand to be today facts. Today we’re in an environment where we’ve gone backwards several hundred years where we’re basically debating facts with opinion. So people could say I don’t really believe in this and then they have you have to debate and they don’t have to present any facts. >> That erodess trust very very quickly in the scientific method. Let alone when AI comes in and adds to that where now it’s a machine that’s asserting a fact done the same way by falsifying experiments as opposed to another human. So I don’t

[19:34] know. We’ll see if humans are going to trust machines more than they’re going to trust humans. But I can tell you we’re living at a time when somewhat postcoid in this last few years there’s been this real worrisome withdrawal from trusting facts. I I have a lot of doctor friends. I have a lot of pharmaceutical executive colleagues that are just happy for example they don’t work on vaccines because they think this is a problem limited to vaccines. This is not going to stop with vaccines. We will mistrust medicines. We will mistrust foods. we will mistrust algorithms. All we have to go on is is a methodology that as a

[20:07] community humans can put forward like we trust the police because we’re living in a society where we’ve made a deal and some people might not but if everybody doesn’t you don’t have a society. I think it’s about as fundamental as that. So I think trust is almost now become a political concept and when it applies to science polit you know political science should not be the science kind of politics entering science and and as a scientist I’m very worried about that. >> How do you fix that because not everyone I mean I’ve you know some papers on science paper research has come through my desk I can’t read them. So a lot of

[20:40] people can’t themselves know if it’s true or not. Well, generally I think that we have had people who are uh specialists and experts the collective view of which which will be easier to collect now with AI because there’s a lot more integration you could do represents the best you’re going to do when you go see your doctor and your doctor says based on everything I’ve know here’s what I think you should do and you go I don’t really trust you then where do you go next you go to another doctor but eventually you have to make a choice as to what what it is you trust so I don’t know there’s much we can do I

[21:11] do think one thing and I’ve given given lots of suggestions to my scientist colleagues. I think scientists generally don’t enter the fray of actually explaining these things and actually scientists also have the characteristic that they doubt everybody else’s science. So we openly go to scientific conferences and challenge whatever people are saying. When somebody observes that they go wait a minute if this is challengeable then why should I trust it? They don’t understand that that’s part of the cooking process that results in scientific fact. So, it’s a complex area, but I do think we’re going

[21:42] to have to as a society revisit where does trust come from, let alone unleashing AI, you know, move 37, all that stuff’s going to happen. And as humans, if we just distrust all of that, I don’t know where we go for our new medicines or our new a products or any of this. >> And we need to, I think, simplify science. You know, the articulation of science needs to be simplified to society in in general. And in fact that’s what we’re trying to do in a city like Bangalore where we’ve created the science gallery to basically do this connect society with science in a very

[22:16] meaningful simple way that they can understand because to Nubar’s point I think that’s where it starts from people are confused >> but I also wonder like people trust the communities that they’re a part of and so much of this is about how do we start bridging between the real people and real problems and help them connect back into it. I mean, one of our approaches is very much of like you can’t develop the uh a platform for the farmers unless the farmer’s voices and needs are like built

[22:48] in from the start. It can’t be an afterthought. Much like uh the work in the screening, you can’t think about how we’re going to do screening unless you have the doctor’s inputs in the beginning, not when we’re about ready to launch this. I think there’s something here which we really, you know, this is part of the reason why I moved into this role as uh chief AI readiness officer after years of building AI and the technology of and decades of working in technology as an engineer because I feel like AI is nent enough for us to shape

[23:18] the future. It’s it’s made enough progress that we can actually see some of the real impact. But we have to work together if we’re going to co-imagine and co-create and shape where we want this to go, where we want it to be trustworthy, where we want to rely on AI, and where we actually want to focus on our human skills. I always ask everyone when you’re using AI, regardless of your whether you’re using it as a scientific tool or you’re using the generative AI in your home life, to really take a step back and think about

[23:49] how you’re using it, but also where you and your bringing in your human ingenuity, your human creativity, your curiosity, your problem solving into that because I think those are the skills that we really need to be fostering. And it’s not just about what’s happening today like how are we preparing the scientists of tomorrow to ask the tough questions the ones that we might be limited in asking because we bring so much bias from our own lived experience both the wisdom of our lived experience but also maybe sometimes the limitations. >> Kieran I mean we talked a little bit

[24:20] about you know the I guess the biotech industry in India. What are you most excited for your company? Well, I’m certainly very excited to leverage uh what AI has to offer and AI for biology, AI for science is something that we want to double down on because that’s a new area. I mean, I think we are just scratching at the surface, but it should give you deeper insights and you know the ability to connect dots which you can’t do today. So, I’m excited about

[24:50] that. I’ve also I am excited about the fact that we have a pretty interesting talent pool in in a city like Bangalore which has a lot of AI talent and quantum biology talent and I’m just thinking whether we can actually combine that and do something more meaningful. To me the next opportunity for a company like Bioon is true drug innovation but leaprogging using these new technologies. Nubar, a question for you on first of all, would you regulate AI in science and if so, how? And then the second is

[25:24] basically if scientific discovery becomes faster and cheaper, how do you build a successful biotech company? >> Wow. Two two separate >> two big questions in 20 seconds each. Um let let me let me address the just preliminarily the question about regulating AI in general because this is obviously out there and we have a particular exposure to it which is unique in that we live in the natural kind of living world as opposed to the digital inanimate world. And so we observe what’s happening in that world

[25:56] from the point of view of understanding ecosystems and biology. And I could tell you that up until 2026 I was not worried about much of any of this. But in the beginning of 2026 with the early things that open claw mult books and some of these people showed which people quickly dismissed as insignificant only six months later despite a lot of warnings that some of us made that this is going to start looking like nature and it’s going to essentially start spreading agents that would create communities that would do unpredictable things. That’s precisely what’s happened. So I think that we’ve now crossed over into

[26:28] not just large language models but with agents that that a large language model can allow you to generate with intentionality and then the ability to adapt so that it can now be misapplied itself not directed by a human in every which way that starts looking like a living organism that has adapting capability, swarming capability, ecosystem building capability. And people in the room, if they haven’t been worried so far, and I’m not a doomsayer for 50 40 years into this career, that’s not what we do. We’re optimists

[26:59] technologically, but I think this is crossing a threshold. Therefore, I believe what we should do is to think carefully about regulating agents that are being commercialized and that are being transmitted outside the boundaries of what somebody may want to do in house. And we saw already with the hugging face example that these things can escape as well. But beyond that, beyond that, I think that if you’re going to do commerce of the agents, it should be incumbent on the people who are developing the agents, not the LLMs. To me, LLM’s are capability. Agents are intentionality.

[27:31] >> If we don’t regulate intentionality, I don’t understand why we should be surprised if that intention of applies to us. And I think this can be done. this notion that you can’t regulate it or that if you do in the US the rest of the world to me all of that applies the same way to drugs as it does to AI agents meaning people didn’t regulate drugs very well until theide and in theomide people said holy cow and they all of a sudden with birth defects said they started overregulating and they said you know what the people who want to make money on this have to tell us why we should deem it safe if I was in

[28:04] the AI space which we are in many ways I would start thinking about how to regulate and advance the reg sorry how to self-certify safety if you want to do commerce if somebody does it for their own use that may be harder to regulate but if you’re going to make money on it I think we have to think about it >> and there are also unintended consequences you know which require regulation because you will come up with new biioaterials synthetic biology is another area which we really need to look at very carefully so I think it’s both intended uh you know uses of bad uses of uh AI

[28:42] and then the unintended >> LA it’ll be interesting to hear obviously you’re a bit in in a different position but it’ be interesting to hear your view on agents maybe and regulation of agents >> well you know one of the we’ve been long proponents of uh AI is too important not to regulate and and not to regulate well so we have to think if this is one of the most transformational technologies of our time how do we work uh to make sure that it is safe for humanity. Um, and you know, we’ve taken a number of

[29:14] steps throughout the uh the decade plus of work that DeepMind has been doing around AI and working with policy makers to understand the technology itself. We’ve done a lot of work um specifically with around agentics uh agentic work workflows as well with in terms of ethics research trying to provide the community an opportunity to talk about the risks and the opportunities together. Uh so when we first demonstrated the technology alongside that we published our ethics research paper on the um ethics of advanced AI

[29:47] assistance and I think Demis published something earlier this year in June about how we might go about thinking about how to regulate such technology and K just very finely because we’re out of time but you know how do we ensure today that some of these AIdriven breakthroughs translate into affordable drugs for patients is there is there a step that you need to take today? >> No, I don’t think so. I mean, it’s too early to, you know, I mean, yes, you can actually think about how to design it, >> but I think the main emphasis today is

[30:20] really about how best to use AI to make a difference to what we’re doing today. >> Well, thank you so much for a great panel, Nubar, Laya, and Kieran. Thank you. Thank you. [applause] Thank you. [music]