Compartilhamento Não Consensual de Imagens Íntimas: IA e futuro

Para melhor entender o NCII, imagina esta situação corriqueira: o João tem uma atração enorme pela sua vizinha, Maria. Contudo, o João não tem a coragem para se declarar e nem a Maria sequer notou a existência dele e vive a sua vida normalmente: vai para a escola, faz as tarefas domésticas e publica fotos e vídeos dos seus momentos de alegria nas redes sociais.

Pois bem. O João tem um desejo enorme de ver a Maria nua. Sabe que não conseguirá pelos modos tradicionais e por isso decide recorrer aos serviços de uma Inteligência Artificial. Ele ficou a saber que a criação de imagens NSFW (imagens Não Seguras No Trabalho, numa tradução livre) está a tornar-se rapidamente uma tendência na indústria dos adultos. Também ficou a saber que o “despir com IA” está a ganhar força rapidamente pois permite remover virtualmente a roupa das fotografias em poucos minutos, produzindo resultados extremamente realistas.

Então o João foi nas redes sociais da Maria e apanhou imagens dela e colocou numa IA para a despir. Não contente com isso, o João ainda decidiu compartilhar essas imagens na Internet. Como consequência, Maria sente a sua reputação prejudicada e tem o seu bem-estar emocional abalado. E assim nos damos conta que há uma disseminação de algoritmos de IA capazes de gerar imagens íntimas falsas com potencial de provocar danos emocionais e psicológicos enormes para as vítimas de NCII. Ou seja, esta evolução tecnológica trouxe com ela questões que ameaçam a privacidade e também preocupações quanto ao consentimento.

 O que a Maria pode fazer? Neste caso em que ela se sente vítima do compartilhamento não consensual de imagens íntimas, Maria poderá alegar a violação dos seus direitos individuais e começar por procurar ajuda (também) online. É caso para dizer que a Inteligência Artificial tanto pode ser usada para o mal como para a prevenção e também como resposta a esse tipo de comportamento online prejudicial. Na resposta, as IA poderão identificar e eliminar essas imagens quando publicadas em plataformas online, minimizando o impacto negativo. Na prevenção, as IA poderão ser desenvolvidas para analisar metadados, reconhecer rostos e padrões específicos e detectar automaticamente o conteúdo sensível gerado através do NCII para evitar o compartilhamento não consensual dessas imagens.

Também, Maria poderá abrir um caso na organização StopNCII que dá suporte a pessoas de qualquer parte do Mundo. Actualmente, as plataformas participantes que usam esta tecnologia para proteger as imagens apenas incluem Facebook e Instagram. A ferramenta funciona gerando um hash da sua imagem ou vídeo íntimo. O hashing de imagens é o processo de utilização de um algoritmo para atribuir um valor de hash único a uma imagem. Todas as cópias duplicadas da imagem têm exatamente o mesmo valor de hash. Por este motivo, é por vezes referido como uma “impressão digital”. StopNCII.org partilha então o hash com as empresas participantes para que estas possam ajudar a detetar e remover imagens que estejam a ser partilhadas online. 

No caso da Maria ser menor de idade, então as duas referências mundiais são: a Fundação Observatório da Internet (IWF) e o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC). De se notar que, de acordo com o relatório da UNICEF, uma em cada três usuários da Internet no Mundo é uma criança. Mesmo em Cabo Verde esta tendência é notória entre as crianças e adolescentes, basta ter em conta o Inquérito Multi-objetivo Contínuo 2022 publicado pelo INE ressaltando que 34,2% das crianças na faixa etária de 10-14 anos utilizaram internet nos 3 meses anteriores ao estudo. E como é notório, quase nada é feito para proteger essas crianças dos perigos do mundo digital e aumentar o acesso a conteúdos online seguros. Ou seja, ainda há muito por fazer nesta tão falada literacia e educação digital para mitigar o compartilhamento não consensual. Recentemente houve uma união de forças entre várias organizações através da MTN para aumentar a consciencialização do público sobre o impacto do material de abuso sexual de crianças e ajudar a impedir a sua propagação em África através de uma campanha e um mecanismo de denúncia de imagens de abuso sexual de crianças na Internet.

Estando em Cabo Verde, a Maria poderá apresentar o seu caso na Comissão Nacional de Proteção de Dados (CNPD) que irá averiguar se daquilo que se queixa configura crime ou um processo de contraordenacional (pagamento de uma coima, por exemplo). De acordo com o Relatório da CNPD, em 2020 deram entrada no nosso país 521 processos, sendo que a maioria invariavelmente estava relacionado diretamente com o tratamento dos dados pessoais nas redes sociais e com a designada “pornografia de vingança”, ou seja, a publicação de fotografias indecentes nas mesmas. O mais provável é que nenhum desses 521 processos tenha sido relacionado com a Inteligência Artificial. Questão de quem não entende de leis: até que ponto a Lei nº 8/IX/2017 de 20 de março, (que estabelece as disposições penais materiais e processuais, bem como as disposições relativas à cooperação internacional em matéria penal, relativas ao domínio do cibercrime e da recolha de prova em suporte eletrónico) é suficiente perante os desafios que a produção de imagens indevidas pelas IA está a trazer?

Ao que parece o futuro da privacidade e do consentimento estão comprometidos neste mundo impulsionado pela Inteligência Artificial. Contudo, acredito que não somente a tecnologia e a legislação poderão garantir essa segurança para as crianças, jovens, mulheres e todos nós que usam (ou não) a Internet. São necessárias também a conscientização pública para que as pessoas compreendam os riscos e desafios e um uso ético dessas Inteligências Artificiais para que os direitos individuais sejam respeitados.