Baixe o guia em PDF.

A ‘IA’ tornou-se uma palavra da moda, usada para descrever todos os tipos de ferramentas e aplicativos – desde assistentes virtuais até geradores de deepfake.

Há muita atenção voltada para os aspectos divertidos ou criativos dessas novas ferramentas ‘legais’..., mas você sabia que a IA também atua por trás de muitos sistemas essenciais, que afetam nossa vida cotidiana, incluindo emprego, assistência médica, educação, aplicação da lei e muito mais?

As ferramentas de IA estão tornando alguns sistemas muito mais rápidos e eficazes. Isso também significa, contudo, que elas estão aumentando a velocidade e a eficiência de outras coisas, inclusive de danos digitais, como desinformação, golpes e assédio que interferem na vida das pessoas... e até mesmo influenciando como elas votam.

Ao seguir este Data Detox, você vai ter uma visão mais detalhada da IA e vai ver que todo esse ‘hype’ pode ter um grande impacto.

Vamos lá!

1. Desmistificando a IA

Para entender a IA, não é preciso ter a sensação de estar lidando com alguma coisa dificílima de entender. Algumas pessoas falam sobre a IA como se fosse algo mágico, mas “inteligência artificial” diz respeito apenas a uma máquina.

Você sabia que...? A IA não é só uma coisa. Simplificando, as ferramentas de IA são programas de computador que foram alimentados com uma grande quantidade de dados para ajudá-los a fazer previsões. “IA” diz respeito a uma variedade de ferramentas projetadas para reconhecer padrões, resolver problemas e tomar decisões em uma velocidade e escala muito maiores do que aquelas que os seres humanos conseguem atingir.

Mas, como qualquer outra ferramenta, a IA é projetada e programada por humanos. As pessoas que criam essas máquinas dão a elas regras a serem seguidas: “Faça isso, mas não faça aquilo”. Saber que as ferramentas de IA são sistemas automatizados, com suas próprias limitações influenciadas por humanos, pode trazer a você mais confiança na hora de falar sobre os recursos e as desvantagens da IA.

Quando as pessoas falam sobre IA, elas podem estar falando sobre muitas coisas. Confira alguns exemplos de ferramentas de IA que são especialmente populares (clique ou toque nos cartões abaixo para obter mais informações):

Saiba mais sobre esses exemplos populares de IA: (1) “Aqui está uma lista de aprovações do ChatGPT e do GPT-4 em provas difíceis”, (2) “Pesquisadores de desinformação alertam sobre chatbots de IA”, (3) “Como a IA reduz o mundo a estereótipos”, (4) “O FBI diz que a inteligência artificial está sendo usada para ‘sextorção’ e assédio”, (5) “O feed “Para Você” do TikTok arrisca tornar conteúdos prejudiciais à saúde mental acessíveis para crianças e adolescentes”, (6) “Cathy O'Neil sobre o poder descontrolado dos algoritmos”.

⇢ Saiba mais sobre algumas das falhas da IA em A imagem espelhada: refletindo sobre o viés na tecnologia de IA.

2. Sinta o peso da IA

Embora as ferramentas de IA possam dar a impressão de serem “virtuais”, elas geram um impacto real no ambiente físico. Saber que a IA utiliza toneladas de recursos naturais, como água, energia e terra, elucida com mais clareza o que ela realmente é.

Você sabia que...? Embora as empresas comercializem a IA como leve e elegante, há muitos recursos naturais usados para alimentar essas ferramentas. Os edifícios que abrigam os servidores que alimentam a IA e a internet são chamados de ‘data centers’ (centros de dados). As temperaturas dentro deles ficam tão altas, que é preciso manter o ar-condicionado ligado 24 horas por dia. A combinação de servidores e tubos de resfriamento produz muito ruído e utiliza terra, água e energia em larga escala.

Quase tudo o que é digital no seu celular – inclusive o conteúdo gerado por IA – é armazenado em ‘data centers’, que necessitam de grandes quantidades de energia, água e terra. Em 2023, havia mais de 8 mil desses edifícios gigantes, semelhantes a armazéns, em todo o mundo.

Estudos constataram que uma pesquisa no Google, habilitada para IA, consome 10 vezes mais energia do que uma pesquisa comum no Google.

Depois de saber como a IA é criada e o que é necessário para fazê-la funcionar, você vai sentir o peso desses sistemas. E talvez você seja capaz de contestar o próximo anúncio que surgir na sua frente tentando comercializar essas ferramentas como “máquinas mágicas de eficiência”.

Saiba mais: (1) “A nuvem é material: sobre os impactos ambientais da computação e do armazenamento de dados”, (2) “Uso de água por 'data centers': um guia abrangente”, (3) “Níveis de ruído dos 'data centers'”.

Os ‘data centers’ são apenas uma manifestação física da IA. Para ter uma visão completa, você teria que analisar a mineração, a fabricação, a produção e o descarte de dispositivos, servidores, satélites, cabos submarinos de internet e outros componentes.

Você sabia? Cerca de 85% do impacto de um smartphone vem somente de sua produção. O lixo eletrônico produzido pela tecnologia também precisa ser considerado – e o volume desse lixo, segundo as estatísticas, continua crescendo a cada ano.

Até o momento, há poucos recursos acessíveis que expõem os impactos ambientais da IA. Mas, se você gosta de infográficos, confira Anatomia de um Sistema de IA para ver algumas das extrações e dos impactos das ferramentas.

⇢ Saiba como fazer com que seus dispositivos durem mais em Consertar é cuidar: mantenha seus dispositivos para reduzir o lixo eletrônico (e economizar dinheiro) (artigo em inglês).

3. Atenção à mídia sintética

Quando as pessoas falam sobre IA, elas geralmente se referem à IA generativa e seu resultado, a mídia sintética: ou seja, os textos, as imagens, os vídeos e os áudios gerados pelas ferramentas de IA. Esses resultados parecem ser reais, mas, na verdade, são gerados por programas de computador. A mídia sintética é criada por diferentes razões: as empresas podem, por exemplo, usá-la para anunciar seus produtos; revistas podem usá-la para produzir conteúdo; e candidatos a cargos políticos podem usá-la para melhorar sua imagem pública.

Dica: Procure exemplos de mídia sintética para entender melhor como as imagens, os vídeos e a clonagem de voz gerados por IA podem parecer realistas. Você pode fazer um teste através de um quiz como Berkley’s AI or Not ou AI-Generated or Not. Os resultados podem ser surpreendentes!

Há também muitos sites com nomes como “Esta pessoa não existe”, que mostram imagens realistas de pessoas que foram geradas por IA. Você pode encontrar um desses sites aqui. Atualize a página para ver mais imagens. Se você visse uma dessas imagens usada como foto de perfil em um dia qualquer, acharia que se trata de uma pessoa real?

Cair na cilada da mídia sintética pode levar rapidamente a conteúdo inseguro, então tenha cuidado com o que você gera e com o que você pesquisa. Além disso, é comum que as empresas por trás das ferramentas de IA não expliquem claramente quais dos seus dados estão coletando nem para que fins, ou seja, tenha sempre cuidado.

Experimente: Insira palavras-chave que possam gerar imagens de IA usando uma ferramenta gratuita como a Perchance para ver o que acontece. Aí você pode digitar uma descrição do que deseja ver, como por exemplo “gato usando um cachecol vermelho” e, em seguida, clicar em “gerar”.

Agora que você já viu exemplos de mídia sintética, consegue entender por que as pessoas caem tão facilmente nessa?

⇢ Leia mais sobre como a mídia sintética pode ser usada para amplificar danos online em The Elephant in the Room: AI and online harassment (artigo em inglês).

4. Verifique

Como você viu, mesmo que o conteúdo criado por IA generativa pareça e soe realista, não significa que seja de fato. Se você vê algo online ou em seu feed, que seja chocante, estranho ou especialmente fora do comum, é possível que ferramentas de IA tenham sido usadas para criar ou adulterar aquele conteúdo, mesmo que seja difícil detectar isso a olho nu.

Dica: Imagens, vídeos e textos online, que fazem você sentir emoções intensas, como medo, nojo, admiração, raiva e ansiedade, têm maior probabilidade de viralizar. Esse conteúdo carregado de muita emoção é também uma maneira eficaz de gerar cliques e disseminar desinformação – e as ferramentas de IA podem ajudar a aumentar esse caráter viral. Preste atenção nas suas reações e entenda essas sensações como um indicador de que você precisa de mais tempo para verificar se o que está vendo ou lendo é legítimo.

Por exemplo, ao ver um vídeo de um político que é candidato, fazendo ou dizendo algo que deixe você em estado de alarme, faça alguma pesquisa adicional para ver se o conteúdo é autêntico ou se até já foi desmascarado como desinformação gerada por IA.

Você pode confiar em determinados organismos globais, como a International Fact-Checking Network (A Rede Internacional de Checagem de Fatos), para descobrir quais fontes tomam mais cuidado com a verificação das informações que publicam. No Brasil, os signatários do código de conduta incluem Aos Fatos e a Agência Lupa. Além disso, o Projeto Comprova, da Associação Brasileira de Jornalismo Investigativo (ABRAJI), reúne jornalistas de veículos brasileiros de comunicação.

⇢ Leia mais sobre a persuasão alimentada por IA em Poderes persuasivos: revelando a influência da IA sobre eleições.

Mas, espere, não é só isso! Há muito mais a dizer sobre a IA. O Data Detox Kit inclui diversos guias sobre IA, além de outros temas como privacidade de dados, segurança digital, bem-estar virtual, desinformação online e muito mais.

Escrito por Safa Ghnaim em meados de 2024. Agradecimentos a Christy Lange e Louise Hisayasu pelas edições, revisões e pelos comentários. Traduzido para o português pelo Goethe-Institut Brasil.

Este guia foi desenvolvido pela Tactical Tech em colaboração com o Goethe-Institut Brasil.