IA generativa apresenta riscos para abuso sexual infantil

O quarto Relatório de Avaliação de Ameaças Globais da WeProtect Global Alliance revelou um aumento de 87% nos casos relatados de abuso sexual infantil desde 2019, com mais de 32 milhões de relatos em todo o mundo. O relatório defende que as novas tecnologias estão expandindo a amplitude das ameaças que as crianças enfrentam no ambiente online 

Desde o início de 2023, têm aumentado os casos de cibercriminosos que também utilizam inteligência artificial generativa para criar material de abuso sexual infantil e explorar as crianças. Há descobertas de imagens fotorrealistas geradas por computador (CGI) de abuso sexual infantil que aumentaram seu volume de forma consistentemente desde agosto de 2022. 

Embora sejam menos de 1% dos arquivos relacionados a material sobre abuso sexual infantil, isso fez com que a Austrália, pela primeira vez a nível mundial, implementasse medidas que exigem que as grandes empresas tecnológicas tomem medidas para garantir que os produtos de IA não possam ser utilizados para gerar imagens e vídeos falsos sobre abuso sexual infantil. 

A WeProtect Global Alliance diz que o relatório mostra a escala da ameaça que as crianças enfrentam no universo digital. A exploração e o abuso sexual infantil facilitados no online em todo o mundo exigem a atenção e ação da sociedade e de governos neste momento, defende a organização. 

Tecnologia e seus riscos 

As novas capacidades tecnológicas agravam ainda mais os riscos existentes e a situação não é diferente no Brasil, afirma a WeProtect. Para evitar que mais crianças sejam prejudicadas, os governos, os prestadores de serviços online, as instituições de caridade e as empresas devem intensificar os seus esforços e trabalhar em conjunto para impulsionar mudanças e proteger as crianças.

LEIA MAIS: Abusadores aproveitam jogos online para aliciarem crianças

As conclusões sublinham a necessidade premente de uma resposta coordenada e multifacetada, para proteger as crianças globalmente contra esta ameaça crescente. Segundo a organização, inverter a maré das atuais tendências de abuso só será possível com maior prioridade e compromisso de todas as partes interessadas envolvidas na resposta. 

Também será necessário atualizar as legislações, a exemplo do que a Austrália fez, para combater essas novas formas de realizar crimes contra crianças. O ideal seria que as empresas de tecnologia adotassem abordagens inovadoras para o design de tecnologia, que priorizem a segurança do usuário desde o início, e não posteriormente. Assim, o uso de IA para gerar imagens de crianças poderia ser limitado desde o início. 

O TikTok, por exemplo, diz que tem o objetivo de tornar a plataforma inóspita para qualquer forma de exploração ou abuso sexual infantil. A segurança desde o projeto é uma parte essencial de como o app aborda a prevenção de danos, algo que vai de encontro ao que o Relatório de Avaliação Global de Ameaças apresenta.

Ações para evitar piora nos casos 

O relatório, que fornece informações críticas sobre as ameaças que as crianças enfrentam no universo online em 2023, também concluiu que houve um aumento de 360% nas imagens sexuais autogeradas por crianças entre 7 e 10 anos, de 2020 a 2022.  

No Brasil, 92% das pessoas de 9 a 17 anos usam a internet, mas esse acesso muitas vezes carece de qualidade. As vulnerabilidades socioeconômicas, juntamente com a falta de competências de proteção digital, também amplificam os riscos, especialmente a exploração e o abuso sexual no mundo online.  

Para reagir, todas as partes interessadas, incluindo governos, prestadores de serviços online, organizações da sociedade civil e equipes de resposta, a WeProtect aconselha: 

• Investir em abordagens de saúde pública: priorizar a prevenção e investir em intervenções dirigidas às pessoas que sofreram ou estão em risco de perpetrar ou sofrer abusos. Se apenas investirmos na resposta ao problema depois de o abuso ter acontecido, estaremos falhando com as crianças. 
• Centro de Direitos e Perspectivas da Criança: conceber intervenções que capacitem as crianças, removam barreiras à identificação de abusos e permitam responsabilizar os prestadores de serviços online. 
• Implementar legislação alinhada globalmente: impedir que os infratores explorem brechas legais, promulgando regulamentações da Internet globalmente consistentes.