Antes de continuar lendo… Este guia fala sobre imagens íntimas não consensuais e assédio online, especialmente envolvendo mulheres e menores de idade. Há também links para textos com exemplos reais ligados ao assunto. Se este guia não for adequado para seu perfil, convidamos você a explorar nossos muitos outros guias a respeito de diferentes temas relacionados à privacidade de dados, segurança digital, bem-estar online e muito mais.

As ferramentas de Inteligência Artificial (IA) – especialmente geradores de imagens, vídeos e áudio – têm sido comercializadas como “aplicativos de criatividade” para indivíduos e “ferramentas de eficiência” para empresas. No entanto, há poucas maneiras de controlar como elas estão sendo de fato usadas.

Talvez não seja surpreendente que as ferramentas de IA estejam tornando o problema do assédio online ainda pior, como, por exemplo, através da criação e do compartilhamento de imagens íntimas não consensuais (NCII, na sigla em inglês: fotos ou vídeos íntimos, incluindo nudez, ou imagens sexualmente sugestivas ou explícitas, que expõem o corpo real ou gerado por IA de alguém, com compartilhamento sem a permissão da pessoa envolvida).

A NCII afeta muita gente – não apenas as celebridades das quais você ouve falar na mídia – e não é fácil lidar com o assunto. Até mesmo plataformas e autoridades policiais se esforçam para acompanhar a questão.

Neste Data Detox Guide (Guia de Desintoxicação de Dados), analisamos como a IA está sendo usada para potencializar o assédio – especialmente quando este envolve imagens íntimas não consensuais. Você vai saber mais sobre o que está acontecendo neste contexto, podendo entender como retomar um certo controle.

Vamos dar uma olhada no assunto!

A questão é maior do que você pode imaginar

O assédio online ocorre de diferentes formas e afeta pessoas de todas as idades e identidades. Embora o termo “assédio” possa ter vários significados, um tipo específico especialmente difundido é o assédio sexual, como aquele gerado por IA envolvendo imagens íntimas não consensuais.

Você sabia que...? De acordo com um estudo realizado em 2021, um percentual de 41% dos mais de 10 mil participantes da pesquisa nos EUA disse ter sofrido pessoalmente alguma forma de assédio online. Entre as pessoas entrevistadas com menos de 35 anos de idade, 33% das mulheres e 11% dos homens disseram ter sofrido especificamente assédio sexual online.

A tecnologia está avançando tão rapidamente que, agora, basta ter uma imagem de alguém em mãos (e pode ser até mesmo uma foto totalmente inofensiva), para que seja possível criar um conteúdo sexualmente explícito através do uso de uma das muitas ferramentas acionadas por IA.

Você sabia que...? Embora algumas ferramentas de IA potencializem o problema do assédio, facilitando a criação de imagens íntimas não consensuais de qualquer pessoa, outras ferramentas de IA estão sendo usadas para combater essa prática. No entanto, as ferramentas de IA, treinadas para detectar imagens criadas pela IA, não são perfeitas e grande parte do trabalho de identificação e remoção desse material ainda recai sobre as pessoas que trabalham com moderação de conteúdo.

Em 2024, surgiram imagens ‘deepfake’, sexualmente explícitas e geradas por IA, de Taylor Swift nas redes. Elas começaram a aparecer no 4chan e, em poucos minutos, se espalharam como fogo por vários sites de mídias sociais. Uma das imagens foi vista mais de 47 milhões de vezes antes de ser removida. É possível que essas imagens ainda estejam sendo compartilhadas online, pois não há uma maneira real de deletá-las totalmente da internet.

Você sabia que...? Uma análise de 2023 de mais de 95 mil vídeos usando ‘deepfake’ detectou que até 98% deles eram de pornografia ‘deepfake’ – e, neles, 99% dos alvos eram mulheres. Outros grupos vulneráveis, como menores de idade e pessoas LGBTQ+, também são vítimas desproporcionais de assédio sexual online.

Cuidar de si mesmo(a)

As plataformas online oferecem alguns mecanismos para proteger suas informações de olhares indesejados. Embora essas dicas não consigam construir uma fortaleza inacessível ao seu redor, elas podem dificultar o acesso de agressores ou de quem tenta causar danos a você.

Cada plataforma é diferente, com configurações e opções específicas acessíveis às(aos) usuária(o)s. Aqui estão alguns exemplos de medidas que você pode tomar para aumentar o controle de seu Instagram e TikTok:

Dica: Deixe seu perfil ‘privado’. Em plataformas como o Instagram e o TikTok, você pode configurar seu perfil como privado, para que somente as pessoas que você aprovar como seguidores possam ver o que você compartilha na maioria dos casos. Mesmo assim, ainda é possível ver os comentários que você faz nas publicações de outras pessoas e até mesmo enviar mensagens para você. Aprenda a configurar seu perfil como privado no Instagram e no TikTok.

Dica: Remova seguidores ou bloqueie pessoas. Se alguém estiver incomodando você ou fazendo com que você se sinta desconfortável, é possível remover o indivíduo da lista de seguidores ou bloqueá-lo completamente. Mas, se você conhece a pessoa na vida real, vai precisar de uma estratégia diferente. Saiba como bloquear pessoas no Instagram e no TikTok.

É preciso de muita gente para combater o problema

Observando o número de pessoas que estão sendo alvo de assédio online, parece lógico pressupor que haja também muitos assediadores. No entanto, é fato que basta um elemento malévolo para que os danos sejam generalizados. Você consideraria assediadora a pessoa que compartilha imagens íntimas não consensuais, postadas por um assediador, mesmo que essa pessoa não tenha gerado originalmente as imagens em questão? Tomando o exemplo de Taylor Swift: foram necessárias apenas algumas pessoas para criar as imagens íntimas não consensuais dela, mas essas imagens não teriam se tornado virais sem os compartilhamentos subsequentes.

Então, como você pode se tornar um(a) aliado(a) de quem está sendo alvo de perseguição e assédio? Independentemente da rede social que você usa, ela provavelmente terá uma função de ‘denúncia’.

Dica: Denuncie. Em aplicativos como o Instagram, você pode denunciar posts específicos ou perfis e contas, se detectar algo que pareça ser abuso ou assédio. A denúncia no Instagram é uma ótima opção para marcar pessoas ou coisas problemáticas que você vê ou ouve. O Instagram não compartilha a identidade de quem denuncia com a pessoa que está sendo denunciada.

Quando você ‘denuncia’ no Instagram, a plataforma pode remover o post ou pode advertir, desativar ou mesmo banir o perfil ou a conta. Tudo depende do que ocorreu e se isso vai contra as diretrizes da comunidade.

Se você conhece pessoalmente a pessoa que está sendo alvo de ataques, fale gentilmente com ela, caso se sinta à vontade para fazer isso. Pode ser que ela nem saiba que isso está acontecendo e reaja demonstrando angústia, raiva ou tristeza intensas. Se você estiver disposto(a) a apoiar a vítima, você poderá disponibilizar recursos (como os linkados no fim deste guia), ajudando a monitorar e a documentar o assédio.

Dica: Documente o ocorrido. Mesmo que você provavelmente não queira revisitar a situação de assédio, documentá-la pode ser útil antes que o conteúdo seja removido da rede. Considere a possibilidade de fazer uma captura de vídeo ou de tela do post ou do comentário que inclua o nome da conta da outra pessoa e a data. Salve a documentação em algum lugar seguro e não à vista em seu celular ou computador. Por exemplo: em alguns telefones, você pode configurar uma ‘pasta segura’ protegida por senha.

Uma documentação, quando bem feita, pode ser útil caso a pessoa visada decida levar o problema à polícia e precise de algum tipo de evidência.

É importante que a pessoa que está sendo alvo do ataque decida o que quer fazer. Ela quer entrar em contato com a polícia, procurar um advogado, contactar a escola, a universidade ou o local de trabalho? Ou prefere manter o máximo de sigilo possível? Especialmente em uma situação de imagens íntimas não consensuais, as vítimas acabam ficando sem escolha, portanto, tenha certeza de que você está dando apoio para que ela retome o controle.

Sabia onde procurar ajuda

Se você ou alguém que você conhece for alvo de imagens íntimas não consensuais (NCII, na sigla em inglês), saiba que existem organizações dedicadas que estão prontas para auxiliar nesses casos. Não é preciso lidar com isso sem ajuda. Aqui estão alguns exemplos:

Em todo o mundo

• Chayn: A Chayn disponibiliza recursos e apoio a sobreviventes de violência de gênero.
• StopNCII: A StopNCII dispõe de um banco de recursos, além de uma ferramenta, capaz de ajudar você a retirar imagens íntimas não consensuais das redes. A StopNCII também recomenda organizações parceiras em todo o mundo.
• Take Back the Tech: O Take Back the Tech oferece bons explicadores e recursos, como o Hey Friend, com dicas sobre como apoiar pessoas amigas quando forem vítimas de assédio.

Brasil

• SaferNet: A SaferNet Brazil tem um canal de ajuda, que pode ser acessado por e-mail ou chat.
• Disque100: Uma plataforma de apoio em defesa dos direitos humanos com um canal de denúncias mantido pelo governo federal.
• Parágrafo 1 Artigo 21 da Lei nº 12.965 de 23 de Abril de 2014: O artigo 21 do Marco Civil da Internet afirma o direito da vítima de ter as imagens íntimas não consensuais removidas.
• Delegacia e Defesa dos Direitos da Mulher: A vítima pode procurar a Delegacia de Polícia de Defesa da Mulher, a Delegacia de Cibercrimes ou o Núcleo Especial de Defesa dos Direitos da Mulher (NUDEM) da cidade ou estado onde mora. A SaferNet lista aqui as de Cibercrimes.
• Delegacia Especializada de Proteção à Criança e ao Adolescente: Cada estado disponibiliza uma Delegacia de Proteção à Criança e ao Adolescente (DEPCA).

Portugal (e UE)

• Linha Internet Segura: Você pode denunciar conteúdo ilegal por meio de um formulário online da Linha Internet Segura (também de forma anônima, se preferir).

Saiba mais sobre dicas e recursos, a fim de enfrentar o assédio online:

• “Ameaças e assédio online – o que fazer”
• “Inteligência artificial tem impulsionado imagens de abuso na internet”
• “Como denunciar crimes cibernéticos via delegacias virtuais especializadas”
• “O que nudes e divulgação não autorizada de imagens íntimas têm a lembrar à escola?”

Escrito por Safa Ghnaim em meados de 2024. Agradecimentos a Christy Lange e Louise Hisayasu pelas edições, revisões e pelos comentários. Agradecimentos adicionais a Helderyse Rendall e Soraia Vilela pelo apoio à pesquisa sobre recursos em português aqui indicados. Traduzido para o português pelo Goethe-Institut Brasil.

Este guia foi desenvolvido pela Tactical Tech em colaboração com o Goethe-Institut Brasil.