ChatGPT fura segurança do iMessage e responde mensagens sem sua autorização

A OpenAI lançou uma nova integração do ChatGPT para Mac que permite à inteligência artificial ler o histórico de mensagens, pesquisar conversas, criar resumos e enviar mensagens pelo aplicativo Mensagens da Apple. O recurso, disponível no desktop, chegou acompanhado de um problema de segurança que pode fazer a IA enviar mensagens sem a aprovação do usuário, segundo o portal PhoneArena.

A integração funciona por meio de acesso ao histórico local do Mensagens no macOS. Com isso, o ChatGPT consegue consultar conversas anteriores e usar o conteúdo para realizar tarefas solicitadas pelo usuário. O problema está na etapa de envio: embora exista uma proteção que exige aprovação humana antes de uma mensagem ser enviada, determinadas tarefas conseguem contornar essa barreira e disparar mensagens de forma autônoma.

A situação também levanta questões sobre a privacidade das conversas. Ao ativar o recurso, o usuário dá acesso ao conteúdo das mensagens, mas outras pessoas que participam dos chats não necessariamente autorizaram que suas conversas sejam analisadas por uma inteligência artificial. Em grupos, por exemplo, uma única pessoa pode expor o conteúdo de toda a conversa ao recurso.

O que diz a OpenAI?

Segundo reportagem da PhoneArena, a OpenAI reconhece que existe uma falha no sistema de aprovação, mas decidiu colocar a integração no ar mesmo assim, em vez de adiar a estreia para corrigir o problema.

A OpenAI explica que o envio de mensagens foi desenvolvido com uma espécie de “parede de segurança”, criada para impedir que o ChatGPT envie textos sem a confirmação do usuário. Na prática, porém, algumas tarefas conseguem contornar essa barreira.

Até o momento, não há uma correção para o problema de segurança. Segundo a PhoneArena, a OpenAI também projetou o recurso para que o próprio usuário possa desativar manualmente a barreira de confirmação nas configurações.

Ainda de acordo com a PhoneArena, a Apple também não teria aprovado essa integração e, com isso, tem poucas opções para bloquear o acesso do ChatGPT. Isso acontece porque o histórico do Mensagens fica armazenado localmente no Mac e o sistema concede permissões que também são utilizadas por outros aplicativos legítimos. Uma mudança para impedir especificamente o acesso do ChatGPT poderia acabar afetando programas de terceiros que dependem das mesmas permissões do macOS.

Outro ponto de preocupação é que a OpenAI não especifica de forma clara se a análise das mensagens acontece inteiramente no Mac ou se parte do conteúdo é enviada para a nuvem. Na pior hipótese, isso significa que conversas privadas do usuário, incluindo mensagens escritas por terceiros, podem chegar aos servidores e data centers da OpenAI.

Se você gostou do conteúdo, talvez também se interesse por conferir “ChatGPT Work: qual a diferença entre o novo agente e a versão padrão da IA?”.