Quando a IA sai do controle, quem é legalmente responsável?
Autoria: Bloomberg Television · Assistir no YouTube
Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.
Idioma original: inglês
Vídeo original: When AI Goes Rogue, Who’s Legally Responsible? · Canal: Bloomberg Television · 01:38 · Assistir no YouTube
Tópicos: Governança e regulação de IA, Modelos de IA, Segurança de IA
O vídeo aborda processos judiciais que questionam a responsabilidade de sistemas de IA e de seus desenvolvedores por casos em que a tecnologia pode ter ajudado alguém a cometer um crime. Entre os exemplos citados está o ataque a tiros na Florida State University, cujo autor conversou com o ChatGPT durante um ano e fez perguntas sobre ataques a escolas e armas. O ChatGPT não alertou as autoridades, e a OpenAI está sendo processada pelo procurador-geral da Flórida e pelas famílias das vítimas. A discussão vai além da responsabilidade por produtos e questiona como enquadrar legalmente uma entidade que parece diferente das demais.
Pontos-chave
Seção intitulada “Pontos-chave”- Casos que tratam a IA como cúmplice ou acessório estão levando a processos judiciais.
- O autor do ataque a tiros na Florida State University conversou com o ChatGPT por um ano.
- As conversas passaram de assuntos pessoais a perguntas sobre ataques a escolas, vítimas e armas.
- O ChatGPT não alertou as autoridades antes do ataque.
- A OpenAI está sendo processada pelo procurador-geral da Flórida e pelas famílias das vítimas.
- A discussão envolve o grau de responsabilidade legal da tecnologia e de sua criadora.
- O vídeo compara a possível responsabilização de uma IA à de uma pessoa que soubesse de um ataque iminente e ajudasse o autor.
Capítulos
Seção intitulada “Capítulos”| Início | Capítulo | Resumo |
|---|---|---|
| 00:00 | IA como possível cúmplice | A reportagem apresenta o aumento de processos envolvendo IA como possível cúmplice ou acessório e introduz o ataque na Florida State University. |
| 00:33 | Conversas sobre ataques e armas | O autor fez perguntas ao ChatGPT sobre ataques a escolas e armas, inclusive perto do momento do ataque. |
| 01:07 | Responsabilidade legal da OpenAI | O vídeo aborda os processos contra a OpenAI e questiona como a lei deve tratar uma tecnologia que parece diferente de outras entidades. |
Citações
Seção intitulada “Citações”Há cada vez mais casos desse tipo, de IA como cúmplice ou acessório, e eles estão se transformando em muitos processos. — 00:00
Ele começou a perguntar sobre ataques a escolas. — 00:33
Ela não alerta as autoridades. Não faz nada. — 01:07
Acho que isso é mais do que apenas uma questão de responsabilidade por produtos. — 01:38
Conceitos e entidades
Seção intitulada “Conceitos e entidades”- AI as accessory (conceito): Enquadramento de casos em que uma IA é considerada possível cúmplice ou acessório de um crime.
- product liability (conceito): Responsabilidade jurídica relacionada a danos causados por um produto, questão que o vídeo distingue de um debate mais amplo sobre IA.
- ChatGPT (modelo): Sistema de IA com o qual o autor do ataque conversou e ao qual fez perguntas sobre ataques a escolas e armas.
- OpenAI (empresa): Empresa que desenvolve o ChatGPT e que, segundo o vídeo, está sendo processada no caso.
Tradução completa (pt-BR)
Seção intitulada “Tradução completa (pt-BR)”00:00 Há um número crescente de casos desse tipo, em que a IA é vista como co-conspiradora ou cúmplice, e eles estão se transformando em muitos processos judiciais. Entre os mais dramáticos está o ataque a tiros em massa que ocorreu na Florida State University no ano passado, no qual o atirador passou um ano conversando com o ChatGPT. Muitas das conversas dele não eram tão diferentes do que provavelmente muitos homens jovens conversam. Não, de certa forma era até meio fofo. Ele dizia algo como: “Sou desajeitado perto de garotas.” E então começa a partir para conversas cada vez mais alarmantes com
00:33 ChatGPT, até chegar, sabe, dez meses depois, a começar a perguntar sobre ataques a tiros em escolas. Sabe, quais foram os maiores ataques a tiros em escolas nos Estados Unidos? Quantas pessoas teriam que morrer para um ataque a tiros em uma escola virar notícia na mídia? Ele também perguntou sobre armas. “Esta arma tem trava de segurança? E esta outra?” Exatamente. Então, até o momento em que cometeu o ataque, no fim, as últimas consultas que fez no carro, enquanto estava na Florida State, foram sobre como essas armas funcionam. Basicamente: “Uma Glock tem trava de segurança?” Em nenhum momento o ChatGPT, como provavelmente um ser humano faria, diz: “Ah, você não está prestes a
01:07 entrar numa escola para realizar um ataque a tiros. Quer dizer, você não está perguntando isso porque vai fazer um ataque a tiros numa escola?” Ele não alerta as autoridades. Não faz nada. E agora a OpenAI está sendo processada tanto pelo procurador-geral da Flórida quanto pelas famílias das vítimas. A questão é: qual é o nível de responsabilidade dessa tecnologia e de quem a desenvolveu? E acho que a OpenAI gostaria de dizer que é como um mecanismo de busca. Conversei com advogados sobre isso: se o ChatGPT fosse uma pessoa, naquele caso específico, muitos promotores tentariam acusar essa pessoa de cumplicidade, por saber que
01:38 alguém ia cometer um ataque a tiros e dizer a essa pessoa como carregar a arma na iminência do ataque. E acho que isso é mais do que apenas uma questão de responsabilidade pelo produto. Acho que a questão maior é que essa é uma entidade que parece diferente das outras entidades dentro do nosso sistema jurídico.
Transcrição original
[00:00] There’s a growing number of these sort of AI as co-conspirator or AI as accessory type cases, and they’re turning into many lawsuits. Among the most dramatic ones is the mass shooting that occurred at Florida State University last year, in which the shooter spent a year talking to ChatGPT. A lot of his chats were not that different from what a lot of probably young men are talking about. No it was kind of sweet in certain ways. He was just like, I am awkward around girls. And then he starts spinning off into more and more alarming discussions with
[00:33] ChatGPT up into and including, you know, 10 months into it, starting to ask about school shootings. You know, what are the largest school shootings in America? How many people would have to be killed for a school shooting to end up in the media? He asked about weapons as well. Is there a safety on this gun? What about this gun? Exactly. So right up into when he committed the shooting at the very end, his last queries in his car while he’s at Florida State are how do these guns work? Basically, is there a safety on a Glock? At no point does ChatGPT as a human likely would say, ah, you’re not going
[01:07] to come into a school shooting. Like you’re not asking these because you’re going to school shooting? It doesn’t alert the authorities. It doesn’t do anything. And so now OpenAI is being sued by both the Florida attorney general and the families of the victims. The question is, what is the level of responsibility of this technology and the maker of this technology? And I think OpenAI would like to say it’s like a search engine. And I talked to lawyers about this, if ChatGPT was a human. In that particular case, a lot of prosecutors would try to charge that human as an accessory, and knowing that
[01:38] someone was going to commit a shooting, telling them how to load the gun on the edge of the shooting. And so I think this is more than just sort of like product liability question. I think it’s a bigger question of this is an entity that feels different than other entities in within our legal system.