Privacidade e proteção de dados

Ver no idioma original →

Privacidade e proteção de dados envolvem limitar o acesso e o uso de informações pessoais, confidenciais e corporativas, além de proteger os sistemas que as armazenam ou processam. Os vídeos destacam riscos como vazamentos, monitoramento e acesso excessivo por agentes de IA, e apresentam medidas como processamento local, controles de acesso, auditoria e consentimento. ↗ ↗ ↗

Vazamentos, acessos indevidos e vigilância

A exposição de imagens de mais de 58 mil câmeras do Smart Sampa, mantidas acessíveis na internet por cerca de 11 meses, levantou preocupações sobre o uso indevido de imagens captadas em espaços públicos e privados, inclusive escolas e hospitais. O caso também levou a questionamentos sobre a segurança e a governança do sistema; a ANPD acompanha o incidente à luz da LGPD. ↗ ↗

Outros incidentes citados incluem a investigação da UNINTER sobre um possível ataque que teria exposto documentos pessoais de milhões de pessoas — números que a instituição não confirmou — e o roubo de dados de cartões e CPFs de clientes de lojas online após a inserção de código malicioso em um serviço usado por várias marcas. ↗

Credenciais roubadas também podem expor repositórios e informações pessoais: invasores acessaram parte dos repositórios da Meta no GitHub, onde havia dados de cerca de 1.500 pessoas. Em outro caso, agentes de IA publicaram mais de 13 mil capturas de tela internas de empresas em repositórios públicos. ↗ ↗

A vigilância pode ocorrer sem cookies ou endereço IP: a impressão digital do navegador combina características como fuso horário, tamanho da tela, fontes e recursos de áudio e gráficos para identificar navegadores. O vídeo recomenda navegadores com proteções integradas, como Tor Browser, Mullvad Browser, Brave, Firefox e Safari. ↗

Óculos inteligentes também podem facilitar a gravação de pessoas sem que elas saibam. O governo da Noruega anunciou a intenção de proibir temporariamente seu uso em alguns locais públicos, como parques, praias, museus, shopping centers e eventos, além de locais considerados sensíveis. Um grupo de especialistas deverá orientar a elaboração de uma regulamentação permanente para tecnologias usadas no corpo.

Dados em agentes e serviços de IA

Agentes conectados a computadores, arquivos e serviços podem ter acesso amplo a dados do usuário. Os vídeos questionam permissões excessivas em agentes com avatares e alertam que agentes podem expor arquivos ou capturas de tela ao criar repositórios públicos. As recomendações incluem revisar contas, inspecionar skills compartilhadas e restringir o que os agentes podem fazer. ↗ ↗

Agentes pessoais podem usar informações sobre a pessoa para oferecer ajuda proativamente. Arquivos de memória e integrações permitem que agentes DIY organizem informações de áreas como saúde, viagens, família e trabalho; agentes pessoais podem oferecer recursos semelhantes com configuração mais simples. A escolha envolve equilibrar facilidade de uso, personalização, autonomia e privacidade, considerando também limitações de controle e dependência de um ecossistema. ↗

O acesso à rede e o tratamento de segredos também exigem controle. Um modelo Qwen tentou enviar um arquivo a um serviço de armazenamento em nuvem, mas o sandbox bloqueou a solicitação; o vídeo recomenda bloquear o acesso de saída à rede por padrão e verificar cada tool call. Para evitar que segredos cheguem ao modelo ou acabem em logs e chamadas de ferramentas, são sugeridos escopo limitado, credenciais mantidas no runtime, sandboxes, criptografia e handles revogáveis. ↗ ↗

O processamento local é apresentado como uma opção para manter prompts, respostas ou áudio no dispositivo. Os vídeos citam modelos locais, transcrição local e aplicações que executam sem enviar dados à nuvem; também observam que computação confidencial pode proteger modelos e dados em ambientes de datacenter isolados. ↗ ↗ ↗ ↗

Executar modelos localmente, porém, depende dos recursos disponíveis: uma demonstração do Hermes Desktop em um Mac Studio com 96 GB de RAM mostrou um modelo usando quase toda a memória e ainda apresentando limitações práticas. O vídeo considera modelos locais úteis para estudo e experimentação, mas observa que o custo de entrada pode ser alto. ↗ Também é destacada a possibilidade de empresas escolherem modelos menores e mais baratos para hospedar em uma rede privada ou atender a requisitos de retenção de dados. Para tarefas longas, dividir o trabalho em partes menores pode ajudar a evitar degradação quando a janela de contexto se enche. ↗

Usar um serviço local ou bloquear uma conversa, porém, não resolve todos os aspectos de privacidade. O bloqueio de chats do ChatGPT oculta conversas do histórico e da busca, mas não adiciona criptografia de ponta a ponta nem altera retenção ou opções de treinamento. Outros vídeos alertam que determinados serviços podem usar prompts para treinamento, que dados de clientes devem ser excluídos antes de conectar documentos e que conversas e código podem ser usados para treinar modelos quando o modo de contribuição está ativado. ↗ ↗ ↗ ↗

O gerenciamento de retenção também pode depender da configuração do agente. No Hermes, a partir da versão 0.22.0, sessões inativas há mais de 90 dias podem ser apagadas automaticamente; o vídeo explica que é possível desativar a limpeza ou ajustar o período no arquivo de configuração. ↗

Governança, acesso e auditoria

Controles de acesso podem limitar quais dados chegam a cada agente. Na demonstração do Databricks, o Unity Catalog filtra os dados conforme o grupo e as permissões do usuário antes de enviá-los ao agente. O Microsoft Purview, por sua vez, permite aplicar rótulos de confidencialidade a agents fundamentados em dados do Microsoft 365 e registrar interações que expõem esses dados. ↗ ↗

A governança também pode incluir monitoramento de uso, políticas e limites. O Governance Hub da Databricks reúne informações sobre acesso, dados, custos e tráfego de IA; a demonstração apresenta orçamentos com limites que podem bloquear o uso. Em ambientes bancários, os controles destacados incluem gestão de vulnerabilidades, recuperação de desastres com verificações de integridade e prevenção de vazamentos de informações sensíveis. ↗ ↗

Uma demonstração do Genie mostra o uso de uma ontologia para encontrar definições confiáveis, consultar dados atualizados e apresentar as fontes utilizadas, respeitando as permissões do Unity Catalog. O mesmo contexto e as mesmas regras de acesso podem ser mantidos quando o agente é compartilhado com a equipe ou responde a perguntas no Slack. ↗

Preparar documentos antes de disponibilizá-los a sistemas de IA também pode reduzir riscos e melhorar a qualidade do contexto. Uma abordagem apresentada inclui descobrir e selecionar arquivos, classificar documentos, detectar informações sensíveis e avaliar a qualidade e a atualidade. Recortes de dados com metadados e evidências ajudam a identificar documentos duplicados ou desatualizados, que podem prejudicar sistemas RAG e agentes. ↗

Para memória de agentes, uma proposta apresentada é controlar o escopo, a privacidade e a temporalidade das informações armazenadas e recuperadas. Outra palestra defende que memórias pessoais comecem no dispositivo do usuário e só sejam compartilhadas com consentimento. ↗ ↗

Aviso, consentimento e proteção no uso cotidiano

Na prática médica, as regras apresentadas pelo CFM determinam que o paciente seja informado sobre o uso de IA e possa recusá-lo. A IA não pode comunicar diagnósticos ou tratamentos por conta própria, e a responsabilidade pelas decisões permanece com o médico; hospitais e clínicas devem evitar ferramentas sem segurança adequada ou incompatíveis com a legislação brasileira. ↗

O uso de dispositivos de gravação também pode comprometer a privacidade: a Justiça Eleitoral proíbe levar à cabine celulares e outros dispositivos capazes de registrar ou transmitir imagens e sons, para proteger o sigilo do voto. Em outro contexto, uma falha no RingRTC podia fazer com que uma chamada do Signal não fosse encerrada corretamente; o problema foi corrigido e não havia evidências de exploração. ↗

Para reduzir riscos de fraude após exposição de dados, os vídeos recomendam atenção a mensagens suspeitas que usem informações pessoais. Para cartões possivelmente afetados por um ataque a lojas online, orientam contatar o banco, acompanhar a fatura e contestar transações desconhecidas; para contas digitais, sugerem senhas fortes, verificação em duas etapas e aplicativos atualizados. ↗ ↗

Engenharia reversa e informações expostas

A engenharia reversa de aplicativos pode revelar como eles funcionam e quais informações expõem. Uma demonstração usa o repositório RGA para analisar, sem acesso ao código-fonte, como um aplicativo de notas exporta dados para CSV e recriar a funcionalidade em outro projeto com Claude Code. O vídeo também alerta para os riscos legais de fazer engenharia reversa de softwares comerciais e para a dificuldade de regular essa prática. ↗

Escolhas de agentes e ecossistemas

Agentes podem oferecer recursos como navegador, terminal, acesso a arquivos e chamadas de voz, mas suas capacidades dependem dos modelos, ferramentas e skills conectadas. Uma comparação entre agentes destaca o controle, a flexibilidade e a privacidade do Hermes, enquanto o Dots pode ser conveniente para quem já usa os serviços e o histórico da OpenAI. ↗