IA dá às empresas de tecnologia novo poder sobre a segurança nacional

Autoria: Bloomberg Television · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: AI Gives Tech Firms New National Security Power · Canal: Bloomberg Television · 10:53 · Assistir no YouTube

Tópicos: Governança e regulação de IA, Robótica e sistemas autônomos

Resumo

A jornalista Sharon Weinberger explica como empresas do Vale do Silício passaram a ocupar um papel crescente na defesa e na segurança nacional dos Estados Unidos. Entre os fatores estão o fechamento do mercado chinês para empresas americanas, a perspectiva de contratos governamentais estáveis e a mudança na postura de investidores. A entrevista destaca o desafio de regular tecnologias de IA que pertencem a empresas privadas, enquanto o governo enfrenta falta de especialistas e a chamada porta giratória entre o setor público e as empresas. Weinberger defende a criação de salvaguardas e de capacidade técnica dentro do governo, e afirma que usa IA como ferramenta, mas não como substituta de escritores.

Pontos-chave

Empresas do Vale do Silício, como Palantir, Amazon Web Services e Google, passaram a aparecer com mais frequência no setor de defesa, antes dominado pelas grandes contratadas tradicionais.
A entrada de empresas de tecnologia na defesa foi impulsionada, em parte, pela dificuldade de acessar o mercado chinês e pela busca do governo por fornecedores.
Investidores e fundos de venture capital mudaram sua postura em relação a empresas de armas e defesa; a abertura de capital da Palantir também mostrou o potencial de retorno financeiro.
O governo dos Estados Unidos tem dificuldade para regular a IA, em parte pela falta de especialistas e pela concorrência salarial das empresas privadas.
A propriedade privada da tecnologia de IA dá às empresas influência sobre como seus modelos são usados, criando tensões com o Pentágono.
Weinberger considera pouco convincente o argumento de que regulamentar a IA faria os Estados Unidos perderem para a China e afirma que inovação e salvaguardas podem coexistir.
A entrevistada defende atrair especialistas para o governo e considera possível limitar a porta giratória entre o setor público e as empresas.
Weinberger usa IA para tarefas cotidianas e para sugerir alternativas a frases, mas não para escrever textos em seu lugar.

Capítulos

Início	Capítulo	Resumo
00:00	A aproximação entre o Vale do Silício e o Pentágono	Weinberger relata como uma história sobre Steve Jobs e a DARPA a levou a investigar a relação entre empresas de tecnologia e defesa.
02:06	Por que empresas de tecnologia entraram na defesa	A entrevista aborda a entrada de empresas do Vale do Silício no setor, impulsionada por oportunidades de mercado e mudanças entre investidores.
05:27	Os desafios de regular a IA	Weinberger discute a falta de especialistas no governo, a porta giratória e o controle privado sobre tecnologias usadas pelo Pentágono.
08:11	Salvaguardas, opinião pública e uso pessoal de IA	A conversa trata da relação entre regulamentação e competição com a China, da dificuldade de explicar riscos de IA e do uso da tecnologia pela entrevistada.

Citações

Se não dá para ganhar dinheiro fazendo negócios na China, talvez dê para ganhar fornecendo armas para dissuadir ou combater a China. — 03:14

A tecnologia subjacente pertence às empresas. Elas têm um alto grau de controle sobre ela. — 07:04

Podemos investir em ciência e tecnologia, desenvolver rapidamente e também ter supervisão, salvaguardas e regulamentações. — 08:43

A IA precisa ser uma ferramenta para escritores. Não acho que será uma boa substituta para escritores. — 10:21

Conceitos e entidades

Sharon Weinberger (pessoa): Jornalista e autora entrevistada, que pesquisa a interseção entre segurança nacional, ciência e tecnologia.
DARPA (empresa): Agência do Pentágono cuja história foi tema de um livro anterior de Sharon Weinberger.
Palantir (empresa): Empresa fundada no Vale do Silício que foi uma das primeiras da região a atuar no setor de defesa.
Amazon Web Services (empresa): Empresa de tecnologia cujos banners começaram a aparecer em conferências de defesa, segundo Weinberger.
Google (empresa): Empresa de tecnologia citada como uma presença crescente no setor de defesa.
Anthropic (empresa): Empresa de IA envolvida em um conflito com o Pentágono sobre o uso de seus modelos.
OpenAI (empresa): Concorrente da Anthropic mencionada como possível fornecedora de modelos ao governo.
Silicon Valley (conceito): Região e ecossistema de tecnologia cujas empresas ampliaram sua participação em contratos de defesa.
revolving door (conceito): Movimento de profissionais entre o governo e empresas privadas, que pode afetar a regulação e a supervisão.

Tradução completa (pt-BR)

00:00 Em seu novo livro, Valley of Death, Sharon Weinberger explora como esses titãs da tecnologia estão se tornando rapidamente algumas das figuras mais poderosas no campo da segurança nacional. Sharon, sei que, como jornalistas, lidamos com assuntos pouco alegres, mas você foi direto ao ponto. Valley of Death. Você não está pegando leve. — Sim. Exatamente. Por que você quis escrever sobre isso e como tudo começou? — Escrevo há quase toda a minha carreira, nos últimos 25 anos, sobre a interseção entre segurança nacional, ciência e tecnologia. E, há cerca de dez anos, eu estava terminando

00:30 meu último livro, que era uma história da DARPA, a agência do Pentágono por trás da Internet, das aeronaves stealth, do agente laranja e de muitas coisas interessantes. Um dos ex-diretores da agência passou pelo meu escritório e falou um pouco sobre o Silicon Valley. E ele disse: “Sabe, eu salvei Steve Jobs. Salvei a Apple.” E eu fiquei: “O quê?” Então ele começou a me contar uma história incrível sobre como ele era diretor da DARPA e a National Security Agency havia comprado um monte de estações de trabalho NeXT. Essa era a empresa de computadores que

01:02 Steve Jobs fundou quando foi expulso da Apple pela primeira vez. Certo. E era uma história incrível sobre o Silicon Valley e o Pentágono. Isso realmente me fez pensar: qual é a relação entre essas duas entidades e o que está acontecendo agora? Foi isso que me levou a começar a investigar o assunto. Então, o que está acontecendo agora? Quer dizer, também cobri Washington por muito tempo e não me lembro de ouvir Silicon Valley e contratos de defesa na mesma frase com a frequência de agora. E era algo que, quando

01:32 você conversava com startups de tecnologia, elas não queriam falar sobre isso se não estivessem envolvidas. Não era algo que quisessem assumir publicamente. E agora parece que estão entrando nisso com tudo. Penso na Palantir. Sabe, penso em todas essas empresas de IA. Como isso ganhou tanta força? É um mundo completamente diferente. Quando comecei a investigar isso, há cerca de dez anos, comecei a notar que, nas conferências de defesa a que eu ia, nas feiras de armamentos, você via faixas da Lockheed Martin, da Northrop, da General Dynamics. Mas, de repente, comecei a ver faixas da Amazon Web Services, do Google e dessa empresa relativamente nova, a

02:06 Palantir, que havia sido fundada no Silicon Valley e foi uma das primeiras empresas de lá a entrar na área de defesa. Pensei: “Tem alguma coisa estranha acontecendo aqui”, porque, por muito tempo, a defesa foi dominada pelo que chamam de cinco grandes contratantes principais, as principais empresas de defesa. E, de repente, você começou a ver sinais do Silicon Valley. Ao mesmo tempo, acho que a maioria das pessoas no Silicon Valley ainda considerava a guerra algo abominável e achava que trabalhar com defesa era inaceitável. Simplesmente não fazia parte da cultura delas. Então, por que isso mudou? E a segurança nacional fica comprometida quando tanto disso parece estar fora do alcance de muitas das pessoas que tomam decisões,

02:41 e também fora da compreensão delas? Perguntamos a vários parlamentares, nas últimas semanas, se achavam que os congressistas entendiam o suficiente de IA para regulamentá-la, e todos disseram que não. Então, as duas coisas estão relacionadas. Primeiro: por que isso mudou? Não houve um único fator, mas alguns fatores importantes. Voltando a 2016 e 2017, houve, de certa forma, o fechamento do mercado comercial chinês. Foi quando empresas como Facebook, Airbnb e outras ainda tinham esperança de conseguir avançar — sabe, um bilhão de pessoas

03:14 na China, um mercado enorme —, mas as coisas simplesmente não estavam dando certo para elas. Ao mesmo tempo, o Pentágono e a Casa Branca falavam da China como uma ameaça estratégica. E, de repente, o Silicon Valley pensou: “Bem, se não dá para ganhar dinheiro fazendo negócios na China, talvez dê para ganhar dinheiro fornecendo armas para dissuadir a China ou lutar contra ela.” Esse foi um dos fatores. Houve outros também. O outro fator importante é que o governo estava se tornando um mercado potencial enorme, um mercado de defesa à prova de recessão. E isso foi, aos poucos, começando a abrir as portas em 2016.

03:48 Parece mesmo que isso acontece quando as pessoas estavam perdendo a confiança em outros setores do mercado e procurando algo mais estável. Mas também há o aspecto dos acionistas. E sinto que eles também passaram a apoiar essa ideia. De algo que era uma possível responsabilidade perante os investidores, passou a ser um possível atrativo. — Sim. Há alguns aspectos nisso. Ainda em 2016 e 2017, a maioria dos grandes fundos de venture capital tinha cláusulas de exclusão por vícios. Você não pode investir nisso, não pode investir naquilo. E a maioria deles, inclusive o fundo Founders de Peter Thiel,

04:20 por volta de 2016, estabelecia limites para investir em empresas de armas e de defesa. Isso também começou a mudar. Algumas empresas começaram a remover essas restrições de suas cláusulas de exclusão por vícios quando entraram na área de defesa. E, sabe, quando algumas empresas de venture capital fazem isso, outras também fazem. O outro aspecto interessante, no mercado de ações, veio um pouco depois: quando a Palantir abriu capital, mostrou aos investidores institucionais e, especialmente, aos investidores individuais de varejo que aquilo podia render muito dinheiro. — Interessante.

04:55 Quero perguntar sobre isso. Claro, esta semana está acontecendo a semana da ONU, e a IA tem sido um tema muito importante por aqui. Quero mostrar um trecho do presidente Trump falando sobre se acha ou não que regulamentar a IA é uma boa ideia. “Não vou sufocar o crescimento de algo que será maior do que a Revolução Industrial, mas só vamos incentivar a superinteligência. Vamos incentivá-la, não contê-la. Vamos monitorá-la de perto por meio do Departamento de Justiça.”

05:27 Então, quem vai regulamentar isso? Vimos as grandes empresas de IA dizerem que concordam com uma desaceleração. Querem reavaliar a situação. Vão convidar os órgãos reguladores. Mas quem são essas pessoas? Quem seriam? E qual seria o nível de supervisão delas? Porque, voltando ao que você disse antes, elas não vão simplesmente trabalhar depois para uma dessas empresas? Ou dá para confiar que elas sabem o que estão fazendo? — Acho que o governo dos Estados Unidos está realmente tendo dificuldades com isso, e não acho que seja um problema exclusivo do governo Trump. Qualquer governo que assumir em seguida

05:58 vai enfrentar o mesmo problema. Há dois aspectos diferentes nisso. Um deles é a regulamentação. É claro que as empresas adorariam se autorregular. Gostariam de definir as regras. O argumento delas é: “Bem, nós entendemos o que está acontecendo”, e elas não estão erradas. Há uma falta real de conhecimento especializado dentro do governo, uma falta de pessoas que entendam os modelos e saibam como regulamentá-los. Isso está implícito? Isso acontece porque essa tecnologia está meio que numa incubadora, isolada em si mesma, ou é porque o governo não paga o suficiente para atrair as pessoas que realmente entendem do assunto? — Acho que as empresas pagam salários enormes. Estão contratando a todo vapor, e isso

06:31 vai além das empresas de IA. Isso também se aplica às startups de tecnologia de defesa. É que, sabe, o que antes era a porta giratória de que as pessoas falavam na área de defesa agora é a porta giratória do Silicon Valley. Isso é um problema real. E qualquer pessoa dentro do governo que talvez tenha o conhecimento especializado e esteja envolvida na regulamentação vai pensar nisso. Tipo: “Bem, onde vou trabalhar depois?” — Certo. As empresas são uma parte importante disso. A segunda parte, que acho realmente difícil, é onde o Pentágono está tentando lidar com algo novo. Durante a Guerra Fria, sim, havia a indústria de defesa. A indústria de defesa ainda existe. Mas ninguém

07:04 ligar para o CEO da Lockheed Martin e dizer: “Tudo bem se usarmos seu F-22 no conflito atual?” O governo não é dono da tecnologia subjacente. O que o governo está enfrentando agora são as empresas de IA. Sim, o governo pode regulá-las, mas a tecnologia subjacente pertence às empresas. Elas têm um alto grau de controle sobre ela. E vimos isso no conflito entre a Anthropic e o Pentagon, quando o Pentagon disse: “Bem, como vocês ousam nos dizer como usar os modelos de vocês?” E não necessariamente concordo com a decisão do Pentagon de classificar a Anthropic como um risco para a cadeia de suprimentos, mas entendo a situação do governo, que está enfrentando dificuldades.

07:39 Tipo, essas empresas têm tanto poder. Como fazemos isso? A regulação e a supervisão provavelmente serão o caminho, mas há todos esses problemas para tentar fazer isso. O conflito entre a Anthropic e o Pentagon e, sabe, o governo dizer: “Bem, tudo bem. Vamos trocar tudo isso pela OpenAI, sua concorrente”, acaba se assemelhando, na minha opinião, ao argumento sobre a China agora, certo? Se não fizermos isso, outra pessoa vai fazer. Certo? Você tem uma empresa que tentou estabelecer limites para o uso da tecnologia dela e, então, correu o risco de perder o contrato. Sinto que esse é o

08:11 mesmo argumento que a indústria está fazendo, ou que alguns defensores da indústria estão fazendo, sobre regular ou não regular quando se trata da China. Se não deixarmos isso se desenvolver nesse ritmo, a China vai nos superar e vai vencer. Esse argumento encerra todas essas discussões sobre regulação? Vai ser o argumento definitivo? Acho que talvez seja esse o caminho que algumas empresas gostariam de seguir, ou, pelo menos, o argumento a favor da autorregulação. Quando defendem desacelerar, é uma desaceleração que favorece as grandes empresas. Não acho o argumento da China particularmente convincente. Já provamos, como país, que podemos investir em ciência e tecnologia. Podemos avançar rapidamente,

08:43 mas também ter supervisão, salvaguardas e regulamentações. Fizemos isso com armas nucleares. Fizemos isso em outras áreas da tecnologia. As duas coisas não são incompatíveis. Com armas nucleares, acho que a maioria das pessoas, eu inclusive, não entendia como funcionavam no nível atômico, mas entendia como funcionavam. Você lança a coisa e ela explode. Esta parece uma tecnologia muito mais insidiosa, porque está presente em nossas vidas de certas maneiras, mas não é aí que está o limiar de risco. O limiar de risco está em outras partes dessa tecnologia e em como ela vai se desenvolver. Como fazer as pessoas apoiarem a regulação de algo

09:16 que, mais uma vez, elas realmente não entendem? E qual é a opinião pública sobre regular isso? Bem, acho que é algo difícil, e não ajuda quando empresas ou funcionários de empresas aparecem e dizem que há 10% de risco de extinção da humanidade. Há 50… Quer dizer, é como… sabe, posso explicar qual é o cenário em que uma arma nuclear ou uma guerra nuclear acaba com a civilização. Acho que, se tentarmos fazer isso com IA, entramos no terreno da fantasia e da ficção científica. É possível chegar lá, mas não é um argumento científico muito convincente. Então essa precisa ser a base. De algum modo, temos que

09:49 levar pessoas para o governo. Quer dizer, acho que é possível. Dá para, sabe, impor restrições à porta giratória, mas é preciso levar para o governo pessoas capazes de entender e regular essa tecnologia. Já fizemos isso antes com outras coisas. Vai exigir esforço do governo. Não sei que outra opção existe. Você usa IA no seu dia a dia? Usa na sua escrita? Usa o ChatGPT para receitas, exercícios, alguma coisa sobre… Isso é muito… Eu uso… Uso IA o tempo todo para tarefas, para consertar minha impressora, para receitas. Uso para analisar documentos jurídicos. Uso para

10:21 entender, sabe, resultados médicos. Uso para todo tipo de coisa. Vou usá-la de forma limitada para perguntar: “O que você acha desta frase? Não gosto dela. Pode sugerir alternativas?” Não a uso para escrever. Acho que a IA precisa ser uma ferramenta para escritores. Não acho que será uma boa substituta para escritores. Vai produzir muita escrita ruim. Acho que esse também é o caso. Certo. Bem, isto não é escrita ruim. É uma ótima escrita. Sharon Weinberger, é “Valley of Death”. Talvez não seja o título mais alegre, mas certamente vale a pena ler e é algo com que todos estamos lidando agora. Muito obrigado

10:53 por participar. Obrigada pelo convite.

Transcrição original

[00:00] In her new book, the Valley of Death, Sharon Weinberger explores how these tech titans are rapidly becoming some of the most powerful figures in the realm of national security. Sharon, I know as journalists, we deal with not cheerful topics, but you really just came right out there. Valley of death. You’re not really pulling any of these punches. Yeah. Exactly. Why did you wanna write about this, and how did this start? So I’ve been writing for most of my career, the past twenty five years, on the intersection of national security, science, and technology. And about ten years ago, I was finishing up

[00:30] my last book, which was a history of DARPA, the Pentagon agency behind the Internet, stealth aircraft, agent orange, a lot of fun stuff. And one of the former directors of the agency stopped by my office and was talking a little bit about Silicon Valley. And he’s like, you know, I saved Steve Jobs. I saved Apple. And I’m like, what? And he starts telling me this wild story about he is the director of DARPA, and the National Security Agency had bought a bunch of NeXT workstations. These were the the computer company that

[01:02] Steve Jobs founded when he first got exiled from Apple. Okay. And it was just this wild story about Silicon Valley and the Pentagon. And that kind of really got me thinking, like, what is the relationship between the these two entities and what’s going on right now? And that kinda got me started on it. So what is going on right now? I mean, because I’ve covered Washington for a long time as well, and I don’t remember hearing Silicon Valley and defense contracting in the same sentence quite to the extent that we are now. And it it was something that when

[01:32] you talk to tech startups, whether they were not involved in it, they didn’t wanna talk about it. It was not something public facing that they wanted to embrace. And now it seems like they are going full force into this. I think about Palantir. You know, I think about all these of the AI companies. How has that gotten so revved up? It’s a whole different world. So when I first started on this about ten years ago, what I started to notice was at the defense conferences I was going to, arm shows, you know, you would see the banners for Lockheed Martin, Northrop, General Dynamics. But I suddenly started seeing banners for Amazon Web Services, for Google, and for this, you know, somewhat new

[02:06] company Palantir, which had been founded in Silicon Valley and had one been one of the first Silicon Valley companies to get into defense. It’s like, something is going on here that that’s weird because for so long, defense had been dominated by what are called the big five primes, the prime defense companies. And suddenly, you know, you were seeing hints of Silicon Valley. And yet at the same time, I think most people in Silicon Valley still thought war it was anathema to work on defense. It just wasn’t part of their culture. So why has that changed, and does it compromise some national security when so much of

[02:41] this, it seems, is not only out of the hands of a lot of the people making decisions, but it’s out of their comprehension. We’ve asked several lawmakers over the last couple weeks if they think congress legislators understand AI enough to regulate it, and they have all said no. So the the two are linked. The first part, why did it change? It’s not one factor, but there were a few big ones. So going back to 2016, 2017 was sort of the closing of the China commercial market. This is when you had companies like Facebook, Airbnb, and others. They were still they’ve been hopeful of making breakthroughs, you know, billion people

[03:14] in China, huge market, and it just wasn’t working out for them. At the same time, you had the Pentagon and the White House talking about China as a strategic threat. And so suddenly Silicon Valley is like, well, if you can’t make money out of doing business in China, maybe you can make money off of supplying weapons to deter or fight China. That was one factor. There were others as well. The other big one is the government was becoming a huge potential market, a recession proof market in defense. And that sort of sort of slowly, slowly in 2016 started to open the door.

[03:48] It does seem to me this happens as people were losing confidence in other sectors of the market and looking for something more stable for but there’s also the shareholder aspect of this. And I feel like shareholders really came around on this idea as well. It went from something that was a potential liability with investors to something that was a potential attraction. Yeah. I mean, there’s a couple aspects to that. So still in 2016, 2017, most of the big venture capital funds have you know, they they have vice clauses. You can’t invest in this. You can’t invest in that. And most of them, to include Peter Thiel’s founder’s

[04:20] fund around 2016, had red lines for investing in weapons companies and defense companies, and that also started to change. Some of the companies began to to take those out of their vice clauses as they moved into defense. And, you know, once a couple venture capital companies do it, then others did. The other interesting aspect on the in the stock market, and this came a little bit later, is once Palantir went public, it also showed for, you know, both institutional and particularly retail individual investors that this could be a big moneymaker. Interesting.

[04:55] I wanna ask you of course, it’s it’s UN Week has been here, and AI has been a very big topic here. I wanna play you some sound president Trump talking about whether he does or does not think regulating AI is a good idea. I’m not going to stifle growth of something that will be bigger than the industrial revolution, but we will only encourage superintelligence. We’re gonna encourage it, not rein it in. We’re gonna watch it closely through the Department of Justice.

[05:27] So who is going to regulate this? We’ve seen the big AI companies came out come out and say, we agree to a slowdown. We wanna reevaluate this. We’re gonna invite regulators in. But who are these people? Who would they be? And and what is their level of oversight? Because to your earlier point, aren’t they just gonna go work for one of these companies later or after, or can you even trust them to know what they’re doing? I think the US government is really struggling with this, and I don’t think this is gonna be unique to the Trump administration. Whatever administration is going to come in next is

[05:58] gonna have the same problem. So there’s two different aspects of this. There’s the regulation. So, of course, the companies would love to self regulate. They would like to set the guardrails. And their argument is like, well, we understand what’s going on, and they’re not wrong. We have a real lack of expertise inside government, a lack of people who understand the models, understand how to regulate them. There’s implicit is that? Is that because these this technology is is kind of in this incubator and it just it’s within itself, or is it just the government doesn’t pay well enough to get the people who really understand it? I think the companies are paying huge salaries. They’re they’re hiring up, and this goes

[06:31] beyond the AI companies. This also goes to the defense tech startups as well. There are just you know, you what was once the revolving door that people talked about with defense is now the revolving door for Silicon Valley. That is a real problem. And anyone inside government who might have the expertise and might be involved in regulation, it’s be gonna in the back of their mind. Like, well, where do I go work after? Right. The companies are a big thing. The second part of it that I think is really hard, and this is where the Pentagon is trying to grapple with something new. During the Cold War, yeah, you had defense industry. You still have defense industry. But no one is

[07:04] calling the CEO of Lockheed Martin saying, are you alright if we use your f 22 in the current conflict? Government under owns the underlying technology. What government is struggling with now is the AI AI companies, yes, government can regulate them, but the underlying technology belongs to the companies. They have a high degree of control over that. And you saw that in the blowout between Anthropic and the Pentagon where the Pentagon was like, well, how dare you tell us Right. How to use their models? And I don’t necessarily agree with direction the Pentagon went of designating anthropic supply chain risk, but I’m sympathetic to government where they’re struggling.

[07:39] Like, these these companies have so much power. How do we do it? Regulation and oversight is probably gonna be the way, but all of the, the problems in trying to do that. The anthropic blowout with the Pentagon and, you know, having the government say, well, fine. We’re gonna switch all these to OpenAI, your competitor, does kind of parallel in my mind the argument with China right now, right, where if we don’t do it, someone else is going to do it. Right? You have a company who tried to set guardrails how their technology was used, then they were at risk of losing the contract. I feel like that’s the

[08:11] same argument the industry is making or some industry advocates are making about regulation versus not regulation when it comes to China. If we don’t let this develop at this pace, China will beat us, and they will win out. Is that ending every one of these regulatory arguments? Is that gonna be the be all end all argument? I I think that might be the way some of the companies would like to go or at least to argue for self regulation or when they argue for slowdowns, it’s slowdowns that help the big companies. I I don’t find the China argument particularly compelling. We have proved as a country that we can invest in science and technology. We can develop quickly,

[08:43] but also have oversight and safeguards and regulations. We did this with nuclear weapons. We’ve done this in other areas of technology. The two are not incompatible. With nuclear weapons, I think most people, myself included, didn’t understand how it worked on an atomic level, but we understood how it works. You drop the thing and it blows up. This seems like such a more insidious technology because it’s in our lives in some ways, but that’s not where the risk threshold is. The risk threshold is in other parts of this technology and how it’s gonna grow. How do you get people onboard to regulate something

[09:16] that, again, they don’t really understand? And what is the public opinion on regulating this? Well, I I think it’s a difficult thing, and I think it’s not helped when you have companies or employees of companies coming out and saying there’s a 10% risk of human extinction. There’s a 50 I mean, it’s like, what like, you know, I can tell you what the scenario is for a nuclear weapon or nuclear war ending civilization. I think if you try to do that with AI, you get into the realm of sort of, like, the, the fantasy facts and science fiction. You can get there, but it’s not a very convincing scientific argument. So that has to be the basis of it. We somehow have to

[09:49] get people into government. I mean, I I think it’s doable. You can have, you know, you can have restrictions on the revolving door, but you have to get people in government who are able to understand and regulate this technology. We’ve done it before for other things. It’s gonna take effort from government. I I don’t know what other option there is. Do you use AI in your life? Do use it in your writing? Do you use ChatGPT for recipes, workouts, anything about That’s very I use I I use AI all the time for tasks, for fixing my printer recipes. I I I use it for looking at legal documents. I use it for

[10:21] understanding, you know, medical results. I use it for all sorts of things. I will use it in a limited capacity for, you know, how is this sentence? I don’t like it. Can you suggest alternatives? I do not use it for writing. I think that AI has to be a tool for writers. I don’t think it’s going to be a good replacement for writers. It’s going to produce a lot of bad writing. I think that is also the case. Alright. Well, this is not bad writing. This is great writing. Sharon Weinberger, it is valley of death. Maybe not the most cheerful title, but certainly worth your time and something we’re all grappling with right now. Thank you so much

[10:53] for coming on. Thanks for having me.