De acordo com pesquisadores da RSAC Conference, a Apple Intelligence pode ser manipulada por hackers utilizando técnicas de injeção de prompt.
Em uma pesquisa elaborada por Petros Efstathopoulos, Laura Koetzle e Dario Pasquini, foram descobertos mecanismos para contornar os filtros de entrada e saída da Apple em relação ao seu modelo local de LLM 1, testando as técnicas de ataque com 100 prompts randomizados; 76% das tentativas foram bem-sucedidas.
Com foco nos modelos de linguagem executados localmente no sistema operacional, a principal técnica de ataque empreendida (chamada de “Neural Exec”) induzia a execução consistente de ações específicas pelos LLMs, de forma que parecesse sem sentido para humanos — o que garante aos atacantes o controle das entradas e saídas da Apple Intelligence.
Além de gerar conteúdos textuais em desacordo com os termos da Maçã, a Apple Intelligence pode se conectar a aplicativos de terceiros por meio de APIs 2 do sistema, o que indica que respostas manipuladas podem influenciar o comportamento de outros aplicativos ou até mesmo expor dados sensíveis. A pesquisa estima que entre 100 mil e 1 milhão de usuários já podem ter sido afetados por aplicativos potencialmente expostos.
As descobertas foram compartilhadas com a Apple no dia 15 de outubro de 2025. Embora a resposta não tenha sido detalhada oficialmente, a Maçã supostamente endureceu suas proteções em relação à sua solução de inteligência artificial (IA) nas versões 26.4 do iOS/iPadOS e do macOS, pelo menos de acordo com a RSAC.
via AppleInsider