Após diversas remoções de aplicativos acusados de promover nudez, a Apple foi questionada formalmente por três senadores americanos (Ron Wyden, Ed Markey e Ben Luján) sobre o que tem sido feito para detectar e remover, de forma eficaz, softwares que podem ser usados para gerar imagens de nudez ou conteúdo pornográfico sem consentimento. As informações são do The Guardian.
Os senadores também citaram o Google, pela mesma razão, bem como a Meta, que estaria lucrando com os anúncios desses aplicativos.
Wyden, senador pelo estado americano do Oregon, afirmou que o Congresso precisará intervir caso as empresas “não se esforcem mais para combater aplicativos criados e comercializados especificamente para causar danos”.
Em vez de ampliar os investimentos para enfrentar esse desafio, as grandes empresas de tecnologia estão reduzindo justamente as equipes responsáveis por proteger os usuários contra danos. Quero entender por que a Meta, a Apple e o Google estão deixando passar violações tão evidentes de suas próprias regras.
No estudo mais recente da Tech Transparency Project (TTP), realizado em outubro, pesquisadores constataram que conseguiam acessar dezenas de aplicativos com recursos que permitiam a criação de imagens de nudez e pornografia geradas por inteligência artificial, mesmo indicando que as contas criadas pertenciam a meninos de 13 anos.
Havia 135 aplicativos disponíveis para essas contas, tanto na Apple quanto no Google. Em resposta a questionamentos da TTP, ambas as empresas removeram os aplicativos mencionados nos estudos. No entanto, os aplicativos continuaram funcionando nos aparelhos em que já haviam sido baixados.
Posts relacionados
- Apple e Google são pressionadas a banir apps que geram nudez com IA
- Reino Unido dá ultimato à Apple e ao Google: bloqueiem nudez nos celulares de crianças em até três meses
- Apple remove app de deepfakes pornográficos promovido pela Meta
Com base nesses dados, os senadores sugerem que a Apple e o Google “não estão apenas falhando em remover aplicativos que facilitam o abuso por meio de imagens íntimas; elas também podem estar lucrando com a distribuição desses conteúdos”.
A Apple, especificamente, informou que alguns desenvolvedores recorrem a uma tática de “engodo” (conhecida como bait-and-switch), para conseguir distribuir apps de nudez. Isso porque, após a aprovação do aplicativo pela empresa, eles adicionam funcionalidades que permitem aos usuários criar imagens de nudez ou conteúdo pornográfico geradas por IA.
Ainda que não tenha caráter coercitivo, os questionamentos levantados pelos senadores acendem um alerta para as gigantes da tecnologia — antes que outras medidas sejam tomadas para evitar que esse problema continue ou mesmo se agrave.
via 9to5Mac