A Apple foi processada pela Ex-Human, proprietária do Botify AI e Photify AI — um gerador de avatares por inteligência artificial (IA) e outro de fotos, respectivamente —, após remover os aplicativos da startup da App Store e, supostamente, ter retido US$500 mil em receita. Os apps seguem disponíveis na Play Store, do Google.
O modelo de negócio da startup incluía uma oferta limitada de tokens gratuitos e planos pagos com uma assinatura de A$50, além de uma solução pensada para empresas (“Enterprise”), sem divulgação pública dos valores.
De acordo com a Ex-Human, a notificação da Apple limitou-se a citar como justificativa “atividade desonesta ou fraudulenta”, sem apresentar evidências factuais.
Em resposta, a Ex-Human alegou falta de especificidade no argumento da Maçã:
A Apple não identificou nenhuma transação em particular, atividade de usuário ou comportamento dos aplicativos que tenha constituído a base dessa decisão.
Ela ainda argumentou que seu modelo de inteligência artificial tem mais tempo de interação do que competidores como o DeepSeek ou o ChatGPT, e que a remoção foi uma atitude desleal em detrimento do Image Playground, recurso da Apple Intelligence.
Porém, como trouxe o San Francisco Business Times, a decisão deve ter partido de uma análise do MIT Technology Review, a qual alegou que o Botify sediava conversas sexualmente explícitas com chatbots de personagens menores de idade. O Photify também foi criticado por possibilitar, sem consentimento, a geração de fotos sexualizadas de pessoas reais.
Em resposta ao MIT, a Ex-Human alegou que alguns bots não foram filtrados adequadamente pelos seus sistemas de moderação. Esses bots, entretanto, eram promovidos na página inicial do app, atraindo visibilidade suficiente para chamar a atenção da moderação da App Store.
Vale lembrar que situações eticamente nebulosas envolvendo ferramentas de IA já entoaram crises junto à Apple, como foi o caso com a xAI e o Grok, de Elon Musk.
Atraindo atenção inclusive do governo americano, a startup é apoiada pela Andreessen Horowitz (de Marc Andreessen), aliado do presidente Donald Trump e o mais novo membro do Conselho de Tecnologia da Casa Branca.
via AppleInsider