Um novo estudo da Fundação Getúlio Vargas (FGV) do Rio de Janeiro revelou que o Google Lista Sites de Deepfake que Criam Imagens Íntimas Falsas de mulheres e crianças sem consentimento. O mecanismo de busca não apenas indexa essas plataformas, mas também as sugere ativamente por meio de seu recurso de autocompletar texto e links adicionais, ampliando exponencialmente o alcance dessas ferramentas de abuso digital.
Esses portais, conhecidos como “nudify” ou “deep nude”, empregam inteligência artificial generativa e técnicas de deepfake para fabricar imagens sexualizadas que simulam nudez ou atos sexuais. A tecnologia permite que usuários comuns criem versões manipuladas de fotos de pessoas reais, resultando em conteúdo íntimo falso e não consensual.
Google Lista Sites de Deepfake que Criam Imagens Íntimas Falsas
A professora Yasmin Curzi, coordenadora do estudo da FGV, enfatizou a gravidade da situação. Segundo ela, a indexação desses sites pelo Google potencializa o alcance de tecnologias abusivas, facilitando a violência de gênero online e o abuso infantil em uma escala alarmante. Curzi argumenta que a rapidez da disseminação exige uma intervenção imediata da empresa, citando precedentes onde medidas similares foram adotadas para combater a distribuição de imagens de abuso sexual infantil e terrorismo. A Google, por sua vez, declarou em nota que “trabalha constantemente para desenvolver novas proteções na busca que ajudem pessoas afetadas por esse tipo de conteúdo, evoluindo as políticas já existentes da plataforma”.
O relatório da FGV propõe que o Google desindexe proativamente esses sites, seguindo o exemplo de suas ações contra imagens íntimas não consensuais e materiais de abuso sexual infantil. Os pesquisadores salientam que ferramentas de “nudify” são “estruturalmente vocacionadas” para a produção de imagens íntimas não consensuais e abuso sexual de crianças. A indexação dessas plataformas pelo Google não apenas facilita o acesso em massa a ferramentas de abuso, mas também confere uma legitimidade indevida ao tratá-las como conteúdo convencional.
Além da desindexação, as recomendações incluem a implementação de filtros algorítmicos robustos para prevenir a futura indexação de sites similares e a remoção da função de “autocompletar” para termos associados como “nudify”, “undress AI”, “deepnude” e suas variações. A disseminação de deepfakes sexuais é um problema crescente que exige ações multifacetadas.
Legalmente, sites e aplicativos de “nudify” podem infringir a Lei Geral de Proteção de Dados (LGPD), ao utilizar imagens de indivíduos sem consentimento. Adicionalmente, o artigo 21 do Marco Civil da Internet prevê a remoção, mediante notificação privada, de conteúdo de nudez ou atos sexuais privados sem autorização. A jurisprudência brasileira já equipara deepfakes sexuais a imagens íntimas não consentidas, reforçando a necessidade de intervenção. A Agência Nacional de Proteção de Dados (ANPD) atua ativamente na defesa dos direitos dos titulares de dados, como pode ser verificado em sua plataforma oficial.
Em comunicado, o Google mencionou que seu mecanismo de busca oferece “ferramentas simplificadas para que qualquer pessoa solicite a remoção desse tipo de conteúdo” dos resultados. A empresa afirmou que, além das remoções baseadas em denúncias, atualiza continuamente seus sistemas de ranqueamento para diminuir a visibilidade de pornografia sintética e rebaixar sites infratores nos resultados de busca.
Um dado preocupante do relatório da FGV é o aumento exponencial, detectado pelo Google Trends, nas buscas por termos como “free nudify” e “app nudify” no Brasil, em janeiro deste ano. Embora parte dessas buscas possa ser para fins de compreensão do fenômeno, o mecanismo de autocompletar e os links adicionais do Google frequentemente sugerem outros aplicativos similares, em vez de apenas fornecer definições.
Luã Cruz, coordenador de telecomunicações e direitos digitais do Idec (Instituto de Defesa de Consumidores), argumenta que o Google precisa implementar filtros e revisão humana para esse tipo de conteúdo sensível. Ele destaca que a empresa já consegue fazer isso eficazmente para violações de direitos autorais, que geram prejuízo econômico, sugerindo que a mesma capacidade deve ser aplicada para proteger os usuários.
Imagem: www1.folha.uol.com.br
Um estudo adicional, divulgado em janeiro nos Estados Unidos pelo Tech Transparency Project, revelou que as lojas de aplicativos do Google (Play Store) e da Apple (App Store) ofereciam dezenas de aplicativos de nudify. O Google reiterou que a Google Play possui “políticas robustas que proíbem aplicativos com conteúdo inapropriado, incluindo recursos que facilitem a criação de conteúdo sexual sintético” e que age imediatamente quando violações são identificadas.
A tecnologia de nudificação via inteligência artificial ganhou notória disseminação a partir do ano passado com o Grok, o chatbot do X (antigo Twitter), que permite a geração dessas imagens. O aumento dos casos de nudez não consensual gerados pelo Grok levou países como Indonésia e Malásia a bloquear o acesso ao X, enquanto o Reino Unido iniciou uma investigação formal sobre a criação de deepfakes sexualizados de mulheres e crianças pela plataforma.
No Brasil, em janeiro deste ano, a Secretaria Nacional do Consumidor (Senacon), a Agência Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF) emitiram uma recomendação ao X para que adotasse medidas contra a divulgação de imagens sexualizadas não consensuais. As solicitações incluíam a suspensão imediata de contas responsáveis pela geração de tais imagens, a criação de procedimentos técnicos para identificar e remover conteúdos sintéticos sexualizados, além de um canal de denúncias e um relatório de impacto. Embora a empresa tenha afirmado ter removido milhares de publicações e suspendido centenas de contas, as autoridades consideraram que as informações apresentadas não foram acompanhadas de evidências concretas ou mecanismos de monitoramento.
Diante disso, Senacon e ANPD determinaram que o X implementasse, de forma imediata, medidas para impedir a produção de conteúdo sexualizado ou erotizado de crianças, adolescentes e adultos sem consentimento, via Grok. O prazo para a resposta do Grok vence no final deste mês, com a empresa sujeita a processo administrativo, multa diária e ação por crime de desobediência em caso de descumprimento. Luã Cruz, do Idec, defende a suspensão imediata do Grok, comparando a situação a problemas com carros ou medicamentos, onde a venda é suspensa enquanto se aguarda uma solução, argumentando que o ambiente digital não deveria ser diferente.
Confira também: Investir em Imóveis na Região dos Lagos
A problemática da indexação de sites que criam imagens íntimas falsas pelo Google e a proliferação de deepfakes sexuais por meio de tecnologias como o Grok do X, ressaltam a urgência de regulamentações mais eficazes e responsabilidade das plataformas. Ações coordenadas entre governos, órgãos de proteção de dados e empresas de tecnologia são cruciais para combater a violência de gênero online e o abuso infantil. Para continuar acompanhando as discussões sobre privacidade digital e regulamentação tecnológica, acesse nossa editoria de Análises.
Crédito da imagem: Lisi Niesner/Reuters
