Numa manhã aparentemente normal, uma adolescente chega à escola e percebe que algo está diferente. Os olhares cruzam-se, os telemóveis circulam de mão em mão e os sussurros multiplicam-se pelos corredores. Alguém criou e partilhou uma imagem íntima com o seu rosto. A imagem não é real. Nunca existiu. Foi gerada por inteligência artificial a partir de uma fotografia retirada das redes sociais. Para quem a vê, a dúvida raramente existe. Para quem é vítima, o impacto é imediato.
Nos últimos anos começaram a surgir cada vez mais relatos deste tipo de situações. Fotografias comuns, publicadas online sem qualquer intenção, são manipuladas por ferramentas de inteligência artificial para criar imagens íntimas falsas com um realismo perturbador. Devido a este facto, foi recentemente divulgado um alerta internacional subscrito por dezenas de autoridades de proteção de dados sobre um fenómeno que tem vindo a crescer de forma silenciosa: a criação de imagens íntimas falsas através de inteligência artificial.
Esta tecnologia, que tantas oportunidades promete em áreas como a saúde, a educação ou a inovação, revela também um lado profundamente inquietante quando utilizada sem ética ou responsabilidade. Hoje, uma simples fotografia disponível nas redes sociais pode ser manipulada por ferramentas de inteligência artificial para gerar imagens íntimas falsas. O problema não é apenas tecnológico. É também social, jurídico e, sobretudo, humano.
Quando falamos deste fenómeno, não podemos ignorar que as principais vítimas são frequentemente mulheres, jovens e menores. A criação e disseminação de imagens íntimas falsas pode provocar humilhação pública, danos psicológicos profundos, isolamento social e situações de chantagem ou ciberbullying. Em alguns casos, os impactos podem acompanhar a vítima durante anos.
Não podemos, pois, deixar de olhar para esta realidade com particular preocupação. As crianças e os adolescentes vivem hoje grande parte da sua vida no espaço digital. As redes sociais tornaram-se lugares de socialização, afirmação e construção da identidade. No entanto, esse mesmo espaço pode transformar-se rapidamente num terreno de vulnerabilidade quando tecnologias avançadas são utilizadas de forma abusiva. A facilidade com que estas ferramentas podem ser utilizadas, muitas vezes gratuitamente e em poucos minutos, cria um novo tipo de risco para o qual a sociedade ainda não está plenamente preparada.
Este alerta internacional é, por isso, um sinal importante. As autoridades apelam às empresas tecnológicas para que reforcem mecanismos de prevenção, transparência e remoção rápida de conteúdos prejudiciais. Contudo, a resposta não pode ficar apenas do lado das plataformas.
É fundamental investir em literacia digital, capacitando crianças, jovens, famílias e educadores para compreenderem os riscos e saberem agir perante situações de abuso no ambiente digital. As escolas, as autarquias e as instituições que trabalham na proteção de menores têm aqui um papel determinante.
Ao mesmo tempo, importa que o debate público acompanhe a velocidade da inovação tecnológica. As leis, as políticas públicas e os mecanismos de proteção precisam de evoluir para garantir que a dignidade humana continua a ser um princípio inegociável, mesmo num mundo cada vez mais digital.
A inteligência artificial pode e deve ser uma ferramenta de progresso. Mas quando invade a intimidade das pessoas sem consentimento, transforma-se num instrumento de violência.
Proteger as crianças e os jovens neste novo contexto digital é uma responsabilidade coletiva. Porque, no fim, a questão não é apenas o que a tecnologia consegue fazer. A verdadeira questão é aquilo que a sociedade está disposta a permitir.