Apple tira 19 ferramentas do ar após apuração sobre imagens íntimas falsas

A investigação da WIRED encontrou mais de 400 aplicativos e sites conectados, alguns disfarçados de editores de fotos de pets e serviços de idiomas.

A Apple retirou 19 aplicativos ligados à criação de imagens íntimas falsas depois que uma investigação da WIRED revelou uma rede de mais de 400 apps e sites com funções de deepfake escondidas. O levantamento, divulgado em 2 de novembro, foi feito com participação de pesquisadores da organização AI Forensics e também identificou programas distribuídos pela Google Play.

Os serviços apareciam como ferramentas comuns, por exemplo, editores de fotos de animais e aplicativos de idiomas ou exercícios. Mas, em certas condições, podiam se conectar a servidores externos e carregar funções que permitiam criar imagens e vídeos explícitos de pessoas reais sem consentimento.

Como os recursos ficavam escondidos

A estratégia não dependia necessariamente de exibir a função problemática na primeira tela. Segundo a investigação, o conteúdo entregue podia variar conforme informações enviadas a um servidor remoto. Assim, um aplicativo podia parecer convencional durante a análise da loja e apresentar outra interface depois de instalado ou em determinadas circunstâncias.

A rede também usava anúncios para levar usuários aos aplicativos. O conjunto de mais de 400 identificado pelos pesquisadores inclui apps e sites conectados; não significa que todos estivessem disponíveis ao mesmo tempo nas duas lojas.

O que disseram as lojas

A Apple afirmou que os aplicativos cumpriam suas regras quando foram aprovados e atribuiu a mudança posterior à alteração dos sites de onde os programas obtinham conteúdo. A empresa removeu 19 apps após receber informações sobre a rede. O Google informou que os aplicativos mencionados já tinham sido retirados da Play Store antes de a WIRED pedir um comentário.

O caso mostra um limite prático da fiscalização: revisar o que um app faz no momento da aprovação pode não bastar quando seus recursos mudam depois, por meio de servidores externos. Para quem usa lojas oficiais, a presença de um aplicativo nelas não elimina o risco de que o serviço mude ou seja usado para produzir conteúdo abusivo.

Quer se aprofundar nesta notícia? Leia mais sobre ela abaixo: