Por que filósofos estão preocupados com a IA

Ver no idioma original →

Autoria: Bloomberg Television · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Why Philosophers Are Worried About AI · Canal: Bloomberg Television · 12:10 · Assistir no YouTube

Tópicos: Aplicações empresariais de IA, Governança e regulação de IA, Open source e ecossistemas de software

Resumo

O vídeo examina riscos da IA que vão além da possibilidade de as máquinas saírem do controle: a tecnologia pode mudar o que significa ser humano e afetar nossas relações, nossa capacidade de pensar e nosso senso de comunidade. Filósofos e líderes universitários defendem que a educação combine fluência tecnológica com reflexão crítica e humanística. A pressão econômica pode dificultar a consideração ética e a segurança, embora usuários e forças de mercado também possam influenciar as decisões das empresas. A responsabilidade por como a IA é usada não cabe apenas a executivos e reguladores: indivíduos e comunidades também têm poder de escolha.

Pontos-chave

• Uma questão central sobre a IA é como ela pode transformar a experiência de ser humano, não apenas se poderá destruir a humanidade.
• A mediação virtual pode afastar as pessoas da presença, da autenticidade, da comunidade e de amizades genuínas.
• Universidades devem ajudar estudantes a usar tecnologia com responsabilidade e a desenvolver pensamento próprio.
• A educação deve integrar fluência tecnológica às humanidades e à reflexão sobre o significado da vida.
• Tecnologias anteriores, como a escrita e a imprensa, também provocaram mudanças profundas na maneira como as pessoas pensam e compreendem o mundo.
• A pressão de investidores e do mercado pode reduzir o tempo disponível para discernimento ético e segurança no desenvolvimento de IA.
• Usuários atentos e forças de mercado podem pressionar empresas a tomar decisões mais responsáveis.
• As pessoas têm agência para decidir que usos de IA aceitam em seus locais de trabalho, famílias, relações sociais e escolas.
• A meta não é escolher entre tecnologia e habilidades humanas, mas desenvolver ambas e compreender as limitações da tecnologia.

Capítulos

Início	Capítulo	Resumo
00:00	A IA e o que significa ser humano	Michael Sandel argumenta que, além do risco de perder o controle, a IA pode alterar as relações humanas, a presença e a autenticidade.
02:40	Educação, tecnologia e pensamento próprio	Daniel Diermeier defende que universidades ensinem os estudantes a usar tecnologia com responsabilidade sem deixar de desenvolver o pensamento independente.
05:16	O que as tecnologias anteriores podem nos ensinar	Sandel questiona se preocupações antigas com a escrita e a imprensa eram infundadas e destaca como tecnologias transformam a compreensão humana.
07:57	Pressões econômicas e ética na IA	Meghan Sullivan discute como os investimentos e a competição podem dificultar a segurança, mas também como usuários e mercados podem pressionar empresas.
10:04	Responsabilidade e agência dos usuários	Sullivan afirma que indivíduos e comunidades também podem decidir como a IA entra em suas vidas, enquanto Diermeier defende desenvolver tecnologia e pensamento crítico em conjunto.
11:38	Desenvolver tecnologia e capacidades humanas	Diermeier defende que estudantes aprendam a usar tecnologias e a avaliar criticamente suas limitações, pois as ferramentas também nos transformam.

Citações

A verdadeira questão não é se a IA destruirá a humanidade, mas se mudará o que significa ser humano. — 01:04

Engajar-se em amizades verdadeiras, não em amizades geradas por bots. — 02:07

Integrar o progresso tecnológico ao florescimento humano. — 05:16

A ideia de que você só precisa aceitar qualquer decisão que tomem é a mentalidade errada. — 11:07

A tecnologia não é apenas uma ferramenta. É uma ferramenta que inventamos e que acaba nos remodelando. — 12:10

Conceitos e entidades

• Artificial intelligence (conceito): Tecnologia que pode transformar não apenas atividades humanas, mas também o pensamento, as relações e a compreensão que as pessoas têm de si mesmas.
• AI ethics (conceito): Reflexão sobre as responsabilidades e escolhas envolvidas no desenvolvimento e no uso da IA.
• human flourishing (conceito): Desenvolvimento do bem-estar e das capacidades humanas, apresentado como objetivo a considerar junto com o progresso tecnológico.
• Michael Sandel (pessoa): Professor de filosofia de Harvard que alerta para os efeitos da IA sobre a humanidade, as relações e a autenticidade.
• Daniel Diermeier (pessoa): Chanceler da Vanderbilt que defende combinar fluência tecnológica com pensamento independente na educação.
• Meghan Sullivan (pessoa): Professora de filosofia da Notre Dame que discute as pressões econômicas, a ética e a responsabilidade pública em torno da IA.
• Chrystia Freeland (pessoa): Correspondente especial que apresenta a reportagem sobre as preocupações filosóficas com a IA.

Tradução completa (pt-BR)

00:00 Westin: Esta é uma história sobre ferramentas. Há mais de 3 milhões de anos, os seres humanos criam e usam ferramentas para mudar o mundo ao seu redor, construindo coisas, movendo coisas, cultivando coisas. Mas agora talvez seja a ferramenta da IA que nos transforme: a forma como pensamos, como interagimos uns com os outros, tudo isso com consequências potenciais que talvez não consigamos prever. Nossa correspondente especial, Chrystia Freeland, traz uma reportagem da linha de frente daqueles que tentam compreender o maior risco da IA sobre o qual ninguém está falando.

00:33 -Até agora, as preocupações crescentes com os riscos da inteligência artificial têm se concentrado nas próprias máquinas. -Primeiro, podemos perder o controle do futuro para a IA. -Esta é uma superarma. Você deveria precisar de uma licença para possuir uma arma para usá-la. -Mas o professor de filosofia de Harvard Michael Sandel diz que a questão mais importante talvez esteja oculta sob a superfície. -Temos muitos bons motivos para nos preocupar, mas a verdadeira questão não é se a IA vai destruir a humanidade,

01:04 mas se vai mudar o que significa ser humano, se vai mudar a forma como vivemos juntos, nos relacionamos uns com os outros e entendemos a nós mesmos. -O que você quer dizer com isso? -Esquecer e perder o contato com a conexão e a comunidade humanas reais, com a presença. Autenticidade. Estar presente, em vez de estar “Em Todo Lugar ao Mesmo Tempo”. O título, o título brilhante daquele filme,

01:36 expressava essa aspiração utópica de que o poder do virtual nos permitiria transcender o lugar, a presença e a conexão humana autêntica, e nos permitiria estar em todos os lugares ao mesmo tempo. Considero isso uma visão sombria, não uma utopia esperançosa, porque nos afasta de cultivar

02:07 as condições para as relações humanas que nos situam no mundo: estar presentes uns para os outros, explorar e desafiar nossa autenticidade, cultivar amizades verdadeiras, não amizades geradas por bots. Acho que é assim que a IA vai questionar o que significa ser humano. E, embora ainda não tenhamos tido um amplo debate público sobre isso, acho que as pessoas percebem que é isso que está em jogo.

02:40 -Talvez não haja lugar mais adequado para esse debate do que os campi universitários, onde a próxima geração aprende a pensar, encontra suas comunidades e forma sua visão de mundo, justamente quando a IA está se tornando parte da maneira como aprende e se comunica. É uma dinâmica sobre a qual o reitor da Vanderbilt, Daniel Diermeier, pensa com frequência. -O objetivo aqui é sempre que os estudantes entendam a tecnologia e sejam capazes de usá-la com responsabilidade, conforme apropriado para cada disciplina. Mas nosso objetivo é ajudá-los a

03:11 desenvolver a própria mente, seus hábitos mentais, sua capacidade de pensar por conta própria. E isso está em primeiro plano. A tecnologia precisa fazer parte disso, mas esse é sempre o propósito de uma educação transformadora. -Para Diermeier, preservar essa capacidade de pensar por conta própria está atraindo nova atenção para algumas das disciplinas mais antigas. Há muitas pessoas dizendo agora que, na verdade, as disciplinas das humanidades, tão desprezadas e desrespeitadas — seja história, filosofia ou literatura —, talvez ganhem uma nova relevância

03:44 na era da IA. Você concorda? -Para mim, o mais importante é que precisamos abraçar as duas coisas. Quando educamos os estudantes, quando eles se formam na Vanderbilt, precisam ser fluentes em tecnologia e capazes de refletir sobre tecnologia e sobre o sentido da vida, de maneira mais ampla, profunda e significativa. É isso que significa ser uma pessoa instruída no mundo de hoje. -Parece que você está abraçando a IA, em vez de temer que ela vá apodrecer o cérebro dos seus estudantes.

04:15 -Bem, acho que a história da humanidade testemunhou uma sequência inteira de tecnologias revolucionárias, e elas tiveram um impacto profundo em nossas vidas e em nossa mente, desde o surgimento da agricultura até o livro, a internet e assim por diante. Temos de abraçar isso, mas precisamos fazê-lo com reflexão e intencionalidade. -Então, Sócrates não estava um pouco preocupado que a palavra escrita prejudicasse nossa capacidade de pensar e nossa memória? -Sim, claro, exatamente.

04:46 E esse é o exemplo perfeito. Acho que, quando vemos qualquer tipo de tecnologia transformadora surgindo, como a criação dos livros por Gutenberg e assim por diante, a Bíblia teve um impacto transformador na sociedade. Não foi a primeira vez: a Revolução Industrial também teve um impacto transformador na sociedade. E os seres humanos não vão parar de inovar e criar coisas novas, e essas coisas terão um impacto transformador. Nosso papel como educadores, líderes universitários e líderes da sociedade em sentido mais amplo

05:16 é refletir sobre isso e agir com intencionalidade, combinando ou integrando o progresso tecnológico com o florescimento humano. -Esse florescimento humano precisa ser o objetivo final do desenvolvimento dessa nova e poderosa ferramenta chamada IA. Mas, quando falamos em mudar a forma como pensamos, alguns de nós ficam nervosos. E Sandel, embora reconheça que mudanças como a adoção da palavra escrita acabaram dando certo, alerta para não tratarmos essa mudança com leviandade.

05:48 Você não é o primeiro filósofo a se preocupar com a possibilidade de uma nova tecnologia mudar a forma como pensamos e quem somos como seres humanos. É notório que os filósofos temiam que a passagem da argumentação oral para uma cultura escrita prejudicasse nossa memória e nossa capacidade de debater. Existe o risco de que esta seja apenas uma transição como tantas outras que já vivemos? E, sabe,

06:19 no fim das contas, acho que escrever hoje é provavelmente algo bom. Será que é assim que veremos a IA daqui a 50 anos? -Bem, eu reformularia a pergunta. Acho que aquelas preocupações iniciais não eram mera superstição, nem preocupações atávicas obviamente falsas. Sócrates, que deu início à filosofia na tradição ocidental, se tivesse vivido numa época de publicar ou perecer, teria perecido, como de fato pereceu, por corromper a juventude de Atenas. Ou considere a invenção da imprensa.

06:50 As pessoas achavam que imprimir a Bíblia e torná-la amplamente acessível teria consequências teológicas. A hierarquia da Igreja já não seria capaz de interpretar o significado dos textos sagrados. Agora dizemos: bem, é bom que todos possam ler por conta própria os textos sagrados e as Escrituras. E isso é bom. Mas será que estavam completamente erradas? Ou houve uma transformação teológica decorrente

07:23 do acesso direto das pessoas aos textos, sem a mediação de diferentes autoridades teológicas e religiosas? Então, acho que subestimamos a percepção daqueles filósofos anteriores que se preocupavam com o impacto da tecnologia sobre nossa humanidade. Se nos esquecermos de que essas tecnologias transformaram a maneira como entendemos a nós mesmos,

07:57 o sentido, o propósito e até as questões de teologia. -E, se uma tecnologia pode alterar até mesmo nossas formas mais básicas de pensar, será que aqueles que constroem essas novas e poderosas ferramentas consideram essas possibilidades enquanto criam algo que nunca vimos antes? É uma conversa que Meghan Sullivan, professora de filosofia da Notre Dame, tem tido com algumas dessas mesmas pessoas. -O capitalismo e a ética sempre tiveram uma relação complicada, para dizer o mínimo.

08:31 Do lado assustador, essas empresas e a economia dos EUA fizeram apostas enormes na inteligência artificial. Alguns relatos dizem que 2% do PIB do nosso país está agora sendo investido na construção de centros de dados e no treinamento de IAs poderosas. É uma aposta econômica muito maior em uma única tecnologia do que qualquer outra que já fizemos na história do nosso país. E, por isso, precisamos garantir — temos a sensação de que precisamos garantir

09:03 — que essa aposta dê certo, o que significa que é melhor encontrarmos uma maneira de desenvolver essa tecnologia e disseminá-la o mais amplamente possível na economia. E isso pode significar que os engenheiros e as empresas estejam sob tanta pressão para atender ao mercado e aos investidores que não tenham tempo para fazer uma avaliação ética adequada e cuidar da segurança. Esse é o cenário assustador. Já o cenário mais otimista é que temos várias empresas numa disputa incrivelmente acirrada

09:34 entre si para chegar ao topo no fim dessa transformação econômica. Isso significa que elas precisam atender a um mercado global de usuários que agora desconfiam bastante das intenções das empresas de tecnologia e são bastante criteriosos. Então, tenho alguma esperança de que as forças do mercado e a consciência dos usuários em massa consigam pressionar as empresas de tecnologia a tomar decisões, de preferência a tempo suficiente

10:04 para evitar um incidente de segurança realmente grave ou uma interrupção muito séria que prejudique a vida das pessoas. —Mas não basta que apenas as pessoas que desenvolvem IA considerem as implicações. Sullivan diz que todos nós precisamos estar cientes dos riscos e assumir a responsabilidade pela forma como essa nova ferramenta é usada. —Há um sentimento generalizado de que, neste momento, apenas um número muito pequeno de pessoas tem responsabilidade ética pela inteligência artificial. Ou são os poucos executivos corporativos

10:36 das grandes empresas de tecnologia que estão desenvolvendo esses produtos, ou talvez alguns poucos reguladores em Washington, D.C., que poderiam decidir aprovar leis para restringi-los. Acho que essa é uma abordagem estreita demais para a ética da IA. Na verdade, muitos de nós temos poder de escolha e tomamos decisões sobre que tipos de IA vamos permitir em nossos locais de trabalho, em nossas famílias e vidas sociais, e em nossas escolas. E perceber que você tem muito a dizer

11:07 neste momento sobre como a IA afeta seu dia a dia será uma percepção muito importante para tentarmos exercer parte da nossa autonomia ética sobre que tipo de mundo vamos construir com essa tecnologia. É do interesse dos poderes políticos e corporativos fazer você sentir que está apenas indo junto com a corrente. Que você simplesmente precisa aceitar qualquer decisão que eles tomem. Essa é a mentalidade errada. —Para Diermeier, a resposta não é escolher entre a tecnologia e as habilidades humanas que vieram

11:38 antes dela, mas desenvolver ambas. —Nossos alunos, quando se formarem, precisam ser bilíngues. Essa é a tarefa. Eles precisam ter familiaridade com as tecnologias que estão remodelando nossas vidas. E precisam ser capazes de pensar por conta própria, de acolher essas tecnologias, mas também compreender suas limitações, ter uma visão crítica, mas não dogmática, da tecnologia e, de fato, das grandes questões que confrontam nossas vidas. —E isso torna ainda mais importante prestar atenção às compensações

12:10 envolvidas. —A tecnologia não é apenas uma ferramenta. Não é uma ferramenta inocente. É uma ferramenta que inventamos e que acaba se voltando contra nós. Tecnologia é quando inventamos ferramentas que nos remodelam.

Transcrição original

[00:00] Westin: This is a story about tools. For over 3 million years, humans have created and used tools to change the world around them, building things, moving things, growing things. But now it may be the tool of AI that changes us, how we think, how we interact with one another, all with the potential consequences we may not see. Our special correspondent, Chrystia Freeland, brings us a report from the front lines of those trying to come to terms with the biggest AI risk no one is talking about.

[00:33] -The growing concerns about the risks from artificial intelligence so far have focused on the machines themselves. -First, we could lose control of the future to AI. -This is a super weapon. You should have to own a gun license to use it. -But Harvard philosophy professor Michael Sandel says the bigger question may be lurking under the surface. -We have lots of good reasons to be worried, but the real question is not whether AI will destroy humanity,

[01:04] but whether it will change what it means to be human, whether it will change the way we live together, relate to one another, understand ourselves. -What do you mean by that? -Forgetting and losing contact with actual human connection and community, presence. Authenticity. Being there, not being “Everywhere All at Once.” The title, the brilliant title of that movie,

[01:36] spoke to this utopian aspiration that the power of the virtual will enable us to transcend place and presence and authentic human connection and will enable us to be everywhere all at once. I find that a dark vision, not a hopeful utopia, because it leads us away from cultivating

[02:07] the conditions for the human relations that situate us in the world, being present to one another, exploring and challenging our authenticity, engaging in true friendships, not ones generated by bots. This, I think, is how AI will call into question what it means to be human. And even though we haven’t had a broad public debate about this, I think people sense that this is what’s at stake.

[02:40] -There may be no place better suited for this debate than our college campuses, where the next generation is learning how to think, finding their communities and forming their view of the world, just as AI is becoming part of how they learn and communicate. It’s a dynamic that Vanderbilt Chancellor Daniel Diermeier considers often. -The goal here is always that the students understand and are able to use technology responsibly as appropriate for the specific class. But our goal is to help them

[03:11] develop their own mind, their habits of mind, their ability to think for themselves. And that’s front and center. The technology needs to be part of that, but that is always the purpose of a transformative education. -For Diermeier, preserving that ability to think for yourself is bringing new attention to some of the oldest disciplines. There are a lot of people now who are saying, actually, the poor, disrespected humanities disciplines, whether it’s history or philosophy or literature, are maybe going to have a new relevance

[03:44] in the age of AI. Do you buy that? -To me, the most important thing is that we need to embrace both. It’s that when we educate students, when they’re Vanderbilt graduates, they need to be able to be fluent in the technology and be able to think about technology and the meaning of life, more broadly speaking, in a deep and profound way. That’s what it means to be an educated person in today’s world. -Sounds like you’re embracing AI rather than being scared it’s going to rot the brains of your students.

[04:15] -Well, I think the history of humanity has seen a whole sequence of revolutionary technologies, and they have had a profound impact on our lives, you know, in our mind, from the origin of agriculture to the book to the internet and so forth. We have to embrace that, but we have to do it thoughtfully and intentionally. -So wasn’t Socrates a little bit worried that the written word would wreck our thinking skills and wreck our memory? -Yes, of course, exactly.

[04:46] And that’s the perfect example. I think when we see, you know, when we see any type of transformative technology happening out, like the creating of books, you know, through Gutenberg and so forth, and the Bible had a transformative impact on society. That’s not the first time, the Industrial Revolution, had transformative impact on society. And humans will not stop innovating and creating new things, and they will have a transformative impact. Our role as educators and university leaders and leaders in a broader aspect of society

[05:16] is to be thoughtful, intentional about that, and to combine or integrate technological progress with human flourishing. -That human flourishing must be the ultimate goal in developing this powerful new tool called AI. But when we’re talking about changing the way we think, some of us get nervous. And Sandel, while recognizing that changes like moving to the written word worked out okay, warns us not to take this change too lightly.

[05:48] You are not the first philosopher to worry that a new technology would change the way we think and who we are as humans. Famously, philosophers worried that moving from oral argument to a written culture would harm our memory, would harm our ability to debate. Is there any danger that this is just a transition like the many others we’ve had? And, you know, ultimately,

[06:19] I think it’s probably a good thing that we now write. Is that how we’re going to look back on AI in 50 years? -Well, I would turn the question around. I think those early worries were not mere superstition, atavistic concerns that were obviously false. Socrates, who began philosophy in the Western tradition, if he lived at a time of publish or perish, he would have perished as in fact he did for corrupting the youth of Athens. Or take the invention of the printing press.

[06:50] People felt that printing the Bible and making it widely accessible would have theological consequences. No longer would the hierarchy of the church be able to interpret the meaning of sacred texts. Now, we say, well, it’s a good thing. Everyone can read for themselves the sacred texts and Scripture. And that is a good thing. But were they entirely wrong? Or was there a theological transformation that resulted

[07:23] from direct person-to-person access with texts unmediated by various theological authorities and religious authorities? So I think we underestimate the insight that those earlier philosophers had who worried about the impact of technology on our humanity. If we forget that these technologies did transform the way we understand ourselves,

[07:57] meaning, purpose, even questions of theology. -And if a technology can alter even our most basic ways of thinking, are those building these powerful new tools considering those possibilities as they build something we’ve never seen before? It’s a conversation Notre Dame philosophy professor Meghan Sullivan has been having with some of those very people. -Capitalism and ethics have always had a complicated relationship, to put it mildly.

[08:31] On the scary side, these companies and our U.S. economy have made massive bets on artificial intelligence. Some reports say that 2% of our country’s GDP is now invested in building data centers and training powerful AIs. That is a much bigger economic bet on one single piece of technology than we have ever made in the history of our country. And so we have to make sure, we have this feeling that we have to make sure

[09:03] that that bet pays off, which means we had better figure out a way to develop this technology and get it out there in the economy as broadly as possible. And that might mean that engineers and companies are under so much pressure to respond to the market and investors that they do not have the time to do appropriate ethical discernment and safety. So that’s the scary scenario. Now, the more optimistic scenario is we have a series of companies who are in this incredibly intense race

[09:34] with one another to be the top dog at the end of this economic transformation. And that means that they have to address a global market of users who are now pretty ethically skeptical of the intentions of tech companies and are pretty discerning. And so I have some hope that market forces and the consciences of users in mass are gonna be able to pressure the tech companies to make decisions, hopefully, in enough time

[10:04] to avoid a really major safety incident or a really bad disruption that hurts people’s lives. -But it’s not enough for just the people building AI to consider the implications. Sullivan says all of us need to be aware of the risks and take responsibility for how this new tool is used. -There is a widespread feeling that only a very small number of people have ethical responsibility for artificial intelligence right now. It’s either the handful of corporate executives

[10:36] at big tech companies who are building these products or maybe a handful of regulators in Washington D.C. who could decide to put laws constraining them. I think that this is far too narrow approach to AI ethics. In fact, a lot of us have agency and decision-making about what kinds of AI we’re gonna allow into our workplaces, into our families and social lives, into our schools. And realizing that you have a lot of say

[11:07] at the moment about how AI affects your day-to-day life is going to be a really important realization for trying to exercise some of our ethical agency about what kind of world we’re gonna build with this technology. It’s in the interests of political powers and corporate powers to make you feel like you’re just along for the ride. You just have to accept whatever decision they make. That is the wrong mindset. -For Diermeier, the answer is not to choose between technology and the human skills that came

[11:38] before it, but to develop both. -Our students, when they graduate, need to be bilingual. This is the task. They need to be able to have facility with the technologies that are reshaping our lives. And they need to be able to think on their own, to be able to embrace these things, but also understand the limitations, have a critical, but not dogmatic, point of view on technology and really the great questions that are confronting our lives. -And that makes paying attention to the trade-offs

[12:10] all the more important. -Technology is not just a tool. It’s not an innocent tool. It’s a tool we invent that doubles back on us. Technology is when we invent tools that reshape us.