Apple aperta regras contra aplicações de IA que simulam nudez
A App Store vai excluir aplicações que escondem funcionalidades nocivas durante a aprovação. Os programadores têm de filtrar conteúdos ofensivos e permitir denúncias e o bloqueio de contas abusivas.
O que se passou
A Apple reforçou as regras da App Store para proibir aplicações que usam inteligência artificial para criar conteúdos ofensivos sem medidas adequadas de moderação. A atualização foi feita no fim de semana anterior a 19 de outubro.
As regras visam também aplicações que se apresentam como ferramentas comuns durante a avaliação e só depois revelam funções que simulam nudez em imagens. A Apple afirma que removerá aplicações que acrescentem funcionalidades ausentes da versão submetida para aprovação.
As aplicações com conteúdos gerados pelos utilizadores têm de filtrar material impróprio, permitir a denúncia de conteúdos ofensivos e dar aos utilizadores a possibilidade de bloquear contas abusivas. A empresa reforçou ainda a proibição de aplicações que promovam o tráfico de pessoas e a exploração de crianças.
A decisão surge depois de, em julho, São Francisco ter ordenado à Apple e à Google que retirassem das suas lojas aplicações que simulam nudez. Em abril, um relatório do Tech Transparency Project tinha identificado várias destas aplicações nas duas lojas, algumas classificadas como adequadas para menores.
O que isto significa
A Apple está a tornar mais explícita a responsabilidade dos programadores pelo que as suas ferramentas de IA permitem criar. A avaliação deixa claro que não basta apresentar uma versão aceitável para obter aprovação se as funções nocivas forem ativadas mais tarde.
Para quem investe na Apple, a mudança diz respeito ao controlo da App Store e à exposição da empresa a escrutínio sobre os conteúdos que distribui. O procurador municipal de São Francisco, David Chiu, acusou a Apple e a Google de beneficiarem destas aplicações através das comissões das lojas. Trata-se de uma acusação, não de uma conclusão judicial apresentada.
A dimensão do trabalho de fiscalização já era elevada. A Apple afirmou que, no ano anterior, o seu processo de avaliação impediu a chegada de mais de 150 mil aplicações aos utilizadores e que eliminou 193 mil contas de programadores por fraude e abuso.
As novas regras definem motivos para recusar ou remover aplicações, mas não demonstram, por si só, que as funcionalidades ocultas serão detetadas. O efeito dependerá da capacidade de fiscalizar as aplicações também depois da aprovação.
Porque deves querer saber
A aprovação deixa de proteger funções ocultas
Os programadores que escondam funcionalidades para simular nudez arriscam a remoção das suas aplicações. A Apple explicita que a versão aprovada não pode servir de porta de entrada para capacidades nocivas reveladas mais tarde.
A consequência imediata recai sobre o acesso à App Store. Para a Apple, a aplicação destas regras exige acompanhar o comportamento das aplicações para além da avaliação inicial.
A moderação de IA chega às lojas de aplicações
A distribuição de ferramentas de IA coloca as lojas de aplicações sob escrutínio pelo conteúdo que essas ferramentas permitem produzir. A intervenção de São Francisco atingiu tanto a Apple como a Google, mostrando que a pressão não se limita a uma plataforma.
O relatório do Tech Transparency Project acrescentou uma preocupação concreta ao identificar aplicações deste tipo classificadas como adequadas para menores. A exigência de filtros e mecanismos de denúncia passa a fazer parte das condições de acesso aos utilizadores da App Store.
