Prisão ligada à OpenAI reacende preocupações com espionagem de IA

Autoria: Bloomberg Television · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: OpenAI Arrest Raises AI Espionage Concerns · Canal: Bloomberg Television · 06:55 · Assistir no YouTube

Tópicos: Dados, bancos de dados e embeddings, Mercados e economia, Modelos de IA, Segurança de IA

Resumo

A reportagem aborda a prisão de Abdulrahman Al-Fozan, funcionário da OpenAI acusado de instalar um dispositivo secreto de gravação em uma sala de conferências; ele não foi acusado de agir como agente estrangeiro. O caso ocorre em meio a preocupações no Vale do Silício com o roubo de segredos empresariais e com a segurança de empresas de IA. A conversa também examina as mudanças no trabalho de treinamento de modelos: além de tarefas generalistas, empresas recorrem cada vez mais a profissionais especializados. Embora especialistas ainda não estejam sendo substituídos em larga escala, há receio de que a expansão desse trabalho altere o mercado de trabalho e desvalorize profissões inteiras.

Pontos-chave

Abdulrahman Al-Fozan foi preso e acusado de instalar um dispositivo de gravação escondido em uma sala de conferências da OpenAI.
O dispositivo estava conectado à parte traseira de uma TV e coberto com papel higiênico; seu conteúdo era criptografado.
Registros de um chatbot associados a uma conta da esposa de Al-Fozan indicavam perguntas sobre como instalar e ocultar um dispositivo de gravação.
A OpenAI já orientava funcionários a proteger segredos da empresa, inclusive apagando quadros brancos e reconhecendo possíveis armadilhas.
Casos anteriores envolvendo funcionários de Google e X mostram que a espionagem industrial antecede a atual corrida por IA.
Empresas de dados estão recorrendo a profissionais especializados, como radiologistas, para ajudar a treinar modelos de IA.
O trabalho de dados também continua envolvendo trabalhadores generalistas, embora as tarefas estejam se tornando mais exigentes.
Há preocupação de que a IA absorva conhecimento especializado e desvalorize profissões, mas a reportagem diz que esse efeito ainda não foi observado em larga escala.

Capítulos

Início	Capítulo	Resumo
00:00	Prisão e dispositivo de gravação na OpenAI	A conversa apresenta a prisão de um funcionário da OpenAI e os detalhes do dispositivo de gravação encontrado em uma sala de conferências.
01:05	Segurança e espionagem no setor de IA	Os participantes discutem a escassez de especialistas, as precauções da OpenAI e casos anteriores de roubo de segredos empresariais.
03:43	A transformação do trabalho de dados	A reportagem descreve a passagem de tarefas simples para trabalhos que também envolvem profissionais especializados, como radiologistas.
05:19	IA, especialistas e mercado de trabalho	A conversa aborda o receio de que modelos de IA absorvam conhecimento humano e de que as mudanças no trabalho de dados desvalorizem profissões.

Citações

O dispositivo de gravação foi encontrado em uma das salas de conferência. — 00:31

A OpenAI vinha aconselhando seus funcionários a ficar atentos a pessoas tentando roubar segredos da empresa. — 02:08

Estamos vendo a entrada de trabalhadores de colarinho branco nesse setor de trabalho de dados. — 04:48

Um pequeno grupo de trabalhadores pode acabar desvalorizando uma profissão inteira. — 06:55

Conceitos e entidades

OpenAI (empresa): Empresa de IA onde Abdulrahman Al-Fozan trabalhava na equipe de produto.
Abdulrahman Al-Fozan (pessoa): Funcionário da OpenAI preso e acusado de instalar um dispositivo secreto de gravação.
Morgan Meeker (pessoa): Jornalista sênior de fim de semana da Bloomberg que participou da conversa.
Katrina Mogul (pessoa): Integrante sênior da equipe de segurança nacional da OpenAI, citada na conversa.
Amazon Mechanical Turk (ferramenta): Plataforma mencionada como exemplo de trabalho de dados baseado em tarefas simples e remuneradas por tarefa.
Annie Brixey (pessoa): Radiologista que trabalha em tempo integral em um hospital e treina modelos de IA nas horas vagas.
Brooke Hanson (pessoa): Trabalhadora de dados cuja experiência ilustra como tarefas antes simples passaram a exigir mais foco.
espionagem industrial (conceito): Roubo de segredos empresariais, tema discutido em relação a empresas de tecnologia e IA.
trabalho de dados (conceito): Atividades realizadas por trabalhadores generalistas ou especialistas para apoiar o treinamento de modelos de IA.
modelos de IA (modelo): Sistemas cujo treinamento pode envolver trabalhadores de dados e profissionais especializados.

Tradução completa (pt-BR)

00:00 Kristine e eu conversamos com Morgan Meeker, redatora sênior da Bloomberg Weekend, sobre o possível caso de espionagem eletrônica e como ele foi descoberto. >> Esta semana, veio à tona que, de acordo com os detalhes divulgados pelo Departamento de Justiça, Abdulrahman Al-Fozan havia sido preso na semana passada. Ele foi preso enquanto era funcionário da equipe de produto na sede da OpenAI, em San Francisco. E o que veio à tona é que ele também foi acusado de instalar um dispositivo secreto de gravação.

00:31 E então, o que se soube pelos detalhes divulgados pelo Departamento de Justiça foi que esse dispositivo de gravação foi encontrado em uma das salas de conferência. Ele estava conectado na parte de trás da TV e quase disfarçado. Estava coberto com papel higiênico. E eles ainda não conseguiram descobrir o que o dispositivo de gravação pretendia fazer, porque o conteúdo estava criptografado. Mas acho interessante que o Departamento de Justiça tenha dito que os registros do chatbot associados a uma conta da esposa de Abdulrahman continham detalhes de alguém que havia perguntado ao

01:05 chatbot como instalar um dispositivo de gravação como esse e também como escondê-lo. >> Katrina Mogul, integrante sênior da equipe de segurança nacional da OpenAI, estimou que apenas metade dos 300 principais pesquisadores de IA do mundo são americanos. E isso representa um problema. Há esse equilíbrio entre querer manter essa tecnologia segura em uma corrida em que a maneira mais fácil de alcançar os outros é simplesmente roubá-la. Esse debate vai ficar cada vez mais difícil, já que faltam essas habilidades aqui nos EUA, mas

01:38 eles precisam ter cuidado com quem estão contratando? >> Sim, e isso é interessante porque essa pessoa que foi presa é saudita. Ela mora nos EUA desde 2020. E tem havido muita atenção à nacionalidade dele e também ao fato de ele próprio ter falado abertamente sobre aconselhar órgãos do governo saudita a respeito do uso de tecnologia. O advogado dele ressaltou que ele não foi acusado de atuar como agente estrangeiro. Ele só foi acusado de instalar esse

02:08 dispositivo de gravação. Mas, quero dizer, esse caso acontece em um momento no Vale do Silício em que as pessoas estão apreensivas. Mesmo antes desse incidente, a OpenAI vinha aconselhando seus funcionários a ficarem atentos a pessoas tentando roubar segredos da empresa. Então, eles realizavam sessões de treinamento, dizendo aos funcionários para apagarem os quadros brancos caso a equipe de limpeza tivesse sido comprometida. Também aconselhavam os funcionários sobre como ficar atentos a armadilhas de honeypot. E também >> Sim, adorei essa. Era como: se uma mulher der em cima de você, provavelmente não é por sua causa. Pense em

02:41 onde você trabalha. Foi um pouco abrupto, mas sim, basicamente era: ela acha você bonito ou é uma espiã? Me deu uma sensação de cartaz da Segunda Guerra Mundial, daqueles do V da Vitória. >> Sim, então, isso meio que revela essa tensão. Era algo esperado. As pessoas esperavam que outras tentassem roubar segredos da empresa. E isso acontece depois de, em janeiro, um ex-funcionário do Google ter sido acusado de roubar segredos do Google. E, nesse caso, ele foi de fato descoberto trabalhando secretamente para duas empresas chinesas, e acredita-se que tenha roubado as informações para beneficiar essas duas empresas. E, voltando ainda mais no tempo, em 2022, outro saudita foi acusado de roubar segredos da empresa onde trabalhava, que na época era o X. Então, a espionagem industrial não é novidade, mas acho que, quando ela se choca com esse espaço de IA hipercompetitivo, as pessoas ficam preocupadas. >> Sim, claro. E essas são grandes

03:13 empresas de tecnologia. Quero falar da sua nova matéria, que está para sair. É sobre quem está treinando os modelos de IA. Antes, era o equivalente digital dos trabalhadores braçais. É assim que se diz? Mas como isso está mudando? >> Sim, acho que temos essa impressão. As pessoas pensam no trabalho com dados como um tipo de trabalho mal remunerado. Estamos mais familiarizados com a ideia do Amazon Mechanical Turk, uma plataforma americana muito conhecida. Ela funciona há mais de 21 anos, e as pessoas eram contratadas por meio da plataforma. Faziam coisas como

03:43 clicar no gato da foto, clicar no carro da foto, e ganhavam alguns centavos por tarefa. E é por isso que o trabalho com dados ficou conhecido, mas há mudanças importantes acontecendo no setor. Isso é indicado pelo fato de que o Amazon Mechanical Turk foi encerrado no mês passado. E, em seu lugar, estamos vendo essas novas empresas de dados. Muitas delas estão se concentrando — ou dizem que estão se concentrando — em trabalho de colarinho branco. Ou seja, estão se concentrando nos chamados especialistas. Esses especialistas não são apenas trabalhadores de dados. Talvez façam esse tipo de trabalho além de seus outros empregos. Antes de

04:14 esta matéria, conversei com uma radiologista, Annie Brixey. Ela trabalha em tempo integral com radiologia, em um hospital. E, nas horas vagas, treina modelos de IA porque acredita que eles podem ajudar sua profissão a lidar com a demanda cada vez maior por exames. E é muito interessante ver esse influxo de trabalhadores de colarinho branco nesse setor de trabalho com dados, que antes associávamos a um perfil diferente de mão de obra. >> Mas o interessante aqui é que eles estão usando esses especialistas para ajudá-los, mas, em algum momento, isso vai

04:48 deixar de ser uma ajuda e começar a substituir os próprios especialistas que estão treinando esses modelos? Quero dizer, tenho uma amiga que costumava escrever bastante. Ela escrevia roteiros. Também escrevia comédia. E tem um desses empregos. Ela adora. É flexível. Ela acabou de ter um bebê. Trabalha de casa. Mas sempre digo a ela: você não está acabando com o próprio emprego no futuro? >> Sim, e acho que essa é uma preocupação muito grande. As pessoas sentem que essa mudança de tarefas mais generalistas para tarefas especializadas é um sinal de que os modelos de IA estão absorvendo quantidades cada vez maiores de

05:19 conhecimento humano. E temos visto muitas previsões de que os modelos de IA vão fazer com que muitos trabalhadores do conhecimento — pessoas cujo valor depende da experiência que têm — sejam expulsos do mercado de trabalho. Ainda não estamos vendo isso. Mas acho interessante que haja esses dois níveis. Há os trabalhadores especialistas, mas ainda há também trabalhadores de dados generalistas, que ganham salários muito menores. Eles não desapareceram. Continuam por aí. Mas o trabalho deles também está mudando. Conversei com uma pessoa, Brooke Hanson. Quando começou, há mais ou menos

05:52 uma década, fazendo esse trabalho, era muito fácil. Ela podia fazer enquanto cuidava dos bebês, como mãe que ficava em casa, e resolver as tarefas rapidamente. Mas agora isso mudou e exige muito mais concentração e trabalho aprofundado. Acho interessante que esses dois níveis estejam coexistindo. É como se o setor de trabalho com dados estivesse se ampliando e absorvendo mais gente. Ainda não sabemos quais serão as consequências disso para o mercado de trabalho. Mas as pessoas temem que isso distorça o mercado de trabalho de maneiras interessantes. Uma pessoa com quem conversei

06:24 comparou isso à terceirização. Mas, em vez da terceirização, em que se substitui um trabalhador por outro, aqui o trabalho com dados pode fazer com que um pequeno grupo de trabalhadores desvalorize uma profissão inteira. Então, as pessoas estão realmente preocupadas com isso. >> Nossa. Certo.

06:55 comparar isso à terceirização. Mas, em vez da terceirização, em que você coloca um trabalhador junto de outro, aqui, quero dizer, o trabalho com dados tem o potencial de um pequeno grupo de trabalhadores desvalorizar uma profissão inteira. Então, as pessoas estão realmente preocupadas com isso. >> Nossa. Certo.

Transcrição original

[00:00] Kristine and I spoke with Morgan Meeker, she is Bloomberg Weekend senior writer, about the possible case of electronic espionage and how he was caught. >> This week emerged that according to details released by the Justice Department, that Abdulrahman Al-Fozan, he had been arrested last week. He was arrested in he he was a employee in the product team in OpenAI’s headquarters in San Francisco. And what emerged is that he has also been charged on planting a secret recording device.

[00:31] And so what kind of emerged through details released by the Justice Department was this recording device was discovered in one of the conference rooms. And it was plugged into the back of the TV and almost disguised. It was covered in toilet paper. And so they haven’t been able to find out what the recording device was trying to do because its contents were encrypted. But I think what is interesting about this is the Justice Department said that chatbot logs associated with an account by Abdulrahman’s spouse had had details where someone had been asking the

[01:05] chatbot for advice on how to how to install a recording device like this and also how to obfuscate it. >> Katrina Mogul, who’s a senior member of OpenAI’s national security team, estimated that just half of the 300 top AI researchers in the world are American. And this presents a problem. There’s this balance between wanting to keep this technology secure in a race where the easiest way to catch up is to just steal it. Is this going to become a harder and harder debate because these skills are lacking here in the US, but

[01:38] they have to be careful with who they’re hiring? >> Yeah, and this is interesting because this person who’s been arrested, he he’s a Saudi national. He’s been a resident in the US since 2020. And there’s been a lot of attention paid to his nationality and also to the fact that he himself has talked openly about advising Saudi government agencies about their technology use. Um his lawyer has stressed that he has not been charged with acting as a foreign agent. Um he’s just been charged with planting this

[02:08] um recording device. But I mean, it kind of this case kind of comes in this moment in Silicon Valley where people are on edge. I mean, even before this incident OpenAI had been advising its employees um to look out for people trying to steal company secrets. So, they had been running training sessions, telling employees to wipe the whiteboards in case cleaning staff had been compromised. They’d been advising employees how to um look out for honeypot traps. Um in and also >> Yeah, I loved that one. It was like if a woman is hitting on you, it’s probably not because of you. Like think about

[02:41] where you work. It was a little abrupt, but yes, they were like basically is she does she think you’re cute or is she a spy? It gave me like World War II, you know, V for Victory poster vibes. >> Yeah, so I mean, it kind of this kind of reveals that tension. This was kind of expected. That people were expecting people to um be trying to take um company secrets. And this comes after in January a former Google employee was charged for um stealing Google secrets. And in and he was actually found in that

[03:13] case to be secretly working for two Chinese companies, which and he’s thought to have stolen the information to benefit these two companies. Um and then even going back a bit further, I mean, in 2022, um another Saudi national was charged um working for um who was employed by X at the time for for stealing company secrets then. So, I mean, industrial espionage is not new, but I think when it clashes with this hyper competitive AI space, I mean, people are worried. >> Yeah, of course. And these are top top

[03:43] tech companies. Um I want to get to your new piece that you have coming out. It’s about who is training the AI models. Okay, so it used to be digital equivalent of blue-collar workers. That’s kind of how do you say it? But but how is it changing? >> Yeah, so I think we have this impression. People think about data workers as as kind of low-wage work. We’re more familiar with this idea of Amazon Mechanical Turk, which is this very famous American platform. Um it has been running for over 21 years and people were employed through the platform. They did kind of things like

[04:14] click on the cat in the photo, click on the car in the photo, and they’d earn a couple of cents per task. And so this is what data work has been known for, but there’s really these shifts going on in the data industry. And that’s signified by the fact that Amazon Mechanical Turk actually shut down last month. And so um in its place, we’re kind of seeing these new data companies. Um a lot of them are focusing or say they’re focusing on white-collar work. So they’re focusing on so-called experts. These experts, they’re not purely data workers. They might be doing data work on the side of their um other jobs. So I spoke before

[04:48] this story a radiologist, Annie Brixey, and she does radiology full-time. And she works at a hospital. And then in her spare time, she is training AI models because she thinks that AI models can help her profession deal with an ever-increasing demand for scans. And so that’s really interesting that we’re seeing this influx of white-collar workers into this data work industry where we’ve really kind of had it associated with a different profile of labor before. >> What’s interesting here though is that they’re using these experts to try to help them, but at some point is it going

[05:19] to move past helping and start replacing the very experts who were training this? I mean, I have a friend who used to do a lot of writing. She did script writing. She did comedy writing. And she has one of these jobs. She loves it. It’s flexible. She just had a baby. She works from home. But I keep saying to her like aren’t you eventually putting yourself out of a job? >> Yeah, and I think that is a really big concern. And people feel like this shift from kind of these more generalist tasks to these specialist tasks. People are worried this signifies AI models essentially absorbing larger amounts of

[05:52] of human knowledge. And I mean, we’ve seen lots of predictions that AI models are going to make a lot of knowledge workers, people whose value rests on their expertise, they’re going to push them out of the labor market. And we’re not seeing that yet. But I think what’s interesting is you kind of have these kind of two levels. So you have the expert workers and then but you still have kind of generalist data workers earning much lower wages. They haven’t disappeared. They’re still there. But their work is also shifting. So I spoke to someone, Brooke Hanson. When she started, she started kind of

[06:24] decade ago doing this work. It was very easy. She could do it when she was looking after her her babies as a stay-at-home mom and just kind of quickly do it. But now it’s changed in a way where it demands a lot more deep and focused work. And I think that’s interesting that we have these kind of two levels running parallel to each other. And it’s kind of like the data work industry is is widening and absorbing. We don’t yet know what the consequences of that are going to be on the labor market. But people are worried that it’s going to warp the labor market in interesting ways. One person I spoke

[06:55] to compared it to outsourcing. But instead of outsourcing, where outsourcing you place one worker with another worker, here, I mean, data work has the possibility of a small group of workers essentially devaluing a whole profession. So people are really worried about that. >> Wow. All right.