Organizações pedem à Apple que desista de analisar imagens dos usuários

Mais de 90 organizações da sociedade civil que defendem os direitos civis, humanos e digitais, entre elas o capítulo brasileiro da Internet Society, pediram à Apple que abandonasse seus planos de implementar recursos de vigilância nos dispositivos iPhone, iPad e outros produtos, conforme a empresa anunciou no início de agosto.

Esses planos podem ter consequências desastrosas, pois podem ser usados ​​para censurar discursos, ameaçar a privacidade e a segurança de pessoas em todo o mundo, alertam as organizações na carta enviada a Tim Cook, o presidente-executivo da Apple.

O plano da empresa envolve o uso de algoritmos para detectar conteúdo “sexualmente explícito” que pode ser compartilhado por contas que a empresa identifica como menores; no entanto, esses algoritmos estão sujeitos a erros e podem confundir informações sobre saúde, educação e outros tipos de mensagens e imagens com esta categoria.

Além disso, o sistema pressupõe que as contas que se declarem como de "pais e filhos" são, efetivamente, entre um adulto e um menor com a referida relação, ou que ambas as partes têm um convívio saudável. As organizações alertam que alguns grupos - como menores LGBTQIA+ sem a aprovação de suas famílias - podem estar especialmente em risco.

A Apple também anunciou que vai instalar uma base criptografada de identificadores (hashes) de imagens de abuso e exploração sexual infantil em seus sistemas operacionais, para compará-la com qualquer imagem enviada para o iCloud, sem que essa opção seja desativada pelo usuário.

As organizações prevêem que é apenas uma questão de tempo para que esses novos recursos sejam alvo de governos autoritários que pressionarão a Apple para detectar conteúdos que esses regimes consideram inaceitáveis, como evidências de violações dos direitos humanos ou conteúdos satíricos.

“Assim que esse recurso for incluído nos produtos da Apple, a empresa e seus concorrentes enfrentarão uma enorme pressão - e potenciais requisições legais - de governos em todo o mundo para vasculhar imagens que não sejam apenas de abuso sexual infantil, mas outros conteúdos que um governo considere questionáveis ​​”, concluem as organizações.