Muito tem se falado, nos últimos tempos, sobre a enxurrada de apps feitos com ferramentas de vibe coding que tem chegado à App Store. Essa, no entanto, está longe de ser a única frente na qual a Apple tem sofrido para lidar com “AI slop”, como conteúdos de baixa qualidade feitos com ferramentas de inteligência artificial (IA) têm sido popularmente chamados.
De acordo com uma reportagem do Financial Times, a gigante de Cupertino disse que precisou limitar, ainda em junho, o número de relatórios de bugs enviados por caçadores de vulnerabilidades amadores para a empresa, já que muitos têm utilizado LLMs 1Large language models, ou grandes modelos de linguagem. para identificar supostas brechas em seus softwares.
Embora sejam, sim, capazes de identificar bugs em códigos, ferramentas de IA possuem a tendência de alucinar e apontar vulnerabilidades que, na verdade, não são reais. Isso, como era de esperar, dificulta o trabalho dos engenheiros da Apple, que, embora também estejam explorando ferramentas de IA, precisam revisar as denúncias manualmente.
Posts relacionados
- Site expõe brecha grave do recurso Ocultar Meu E-Mail, da Apple
- Brecha no macOS permite desativar recursos de segurança corporativa sem autorização
- Pesquisadores encontram falha irreparável nos chips A12 e A13 da Apple
Segundo as informações, além de poderem relatar apenas um número limitado de bugs por vez, os caçadores ainda precisam esperar 30 dias para enviar novos relatórios. Pessoas/empresas que quiserem aumentar o seu limite precisam enviar um pedido para a Apple, que pode ou não ser atendido.
Esse fenômeno, vale notar, também está atrapalhando o trabalho de firmas de cibersegurança, as quais não estão conseguindo comunicar à Apple falhas graves em seus sistemas devido a esse limite. Entre elas, está a startup italiana Bynario, que disse ao FT ter usado o ChatGPT para identificar mais de 50 bugs no macOS, incluindo um que poderia permitir que um invasor assumisse o controle total do Mac, obtendo acesso irrestrito ao sistema.
Questionada pelo veículo, a Apple disse que já entrou em contato com a Bynario. “Com o crescente volume de relatórios de segurança gerados por IA em todo o setor, ajustamos recentemente o número de novos relatórios que um pesquisador pode ter abertos simultaneamente”, disse a empresa em um comunicado.
A Maçã, vale lembrar, mantém o programa Apple Security Bounty, que oferece recompensas em dinheiro para pessoas/empresas que conseguirem encontrar brechas de segurança em seus sistemas.
Notas de rodapé
- 1Large language models, ou grandes modelos de linguagem.