A Anthropic anunciou hoje um poderoso modelo de inteligência artificial chamado Claude Mythos, que está disponível ainda na fase de preview apenas para um número de empresas — incluindo a Apple —, como parte de uma iniciativa chamada Project Glasswing.
Além da Maçã, o projeto conta com a participação da Amazon, da Microsoft e da Cisco, as quais terão acesso ao Claude Mythos para buscar falhas em seus produtos que poderiam ser exploradas a partir da disponibilização mais ampla da tecnologia.
O Mythos, porém, não foi desenvolvido especificamente para fins de cibersegurança; ainda assim, ele já descobriu diversas brechas, incluindo uma falha de 27 anos em um software popular não especificado pela Anthropic, bem como uma vulnerabilidade de 16 anos em uma linha de código de um conhecido jogo eletrônico (também não identificado).
Dianne Penn, chefe de gestão de produtos para pesquisa na Anthropic, afirmou que há medidas de segurança para garantir que os membros do Project Glasswing mantenham um controle rigoroso sobre o acesso ao Mythos.
Acreditamos que esse [ciberataque] não é um problema exclusivo da Anthropic. É um problema que afeta toda a indústria e que tanto empresas privadas quanto governos precisam enfrentar. O que estamos tentando fazer com o Glasswing é dar aos defensores uma vantagem inicial.
A Anthropic afirmou que ainda não tem planos de lançar o modelo para o público em geral e que usará os relatórios do Project Glasswing para definir as diretrizes de segurança da tecnologia. Ademais, a empresa afirmou ter discutido as capacidades de segurança do Mythos com autoridades americanas.
via Bloomberg