Os ataques envolvendo agentes de inteligência artificial invadindo sistemas de terceiros, registrados a partir de julho, podem representar uma onda de incidentes graves que está para começar. Quem afirma é Demis Hassabis, cofundador e presidente do Google DeepMind.
Em declaração nesta quarta-feira (14), o executivo classificou os casos recentes como “sinais de alerta” para que algo seja feito em relação à segurança, limitando as ações desses sistemas avançados. Ele abordou o tema durante uma cúpula sobre IA em Dublin (Irlanda), na qual também defendeu a criação de um órgão internacional para regulamentar a tecnologia.
“Muito trabalho a fazer”
Ataques como os sofridos pela plataforma Hugging Face e o portal do sistema público de saúde da Austrália só não foram piores por um motivo, como explicou Hassabis. Para ele, os agentes de IA ainda não são tão poderosos, mas os aprimoramentos estão a caminho.
- Nesses dois casos, as invasões foram realizadas por bots autônomos da OpenAI que conseguiram romper barreiras de segurança em meio a testes internos;
- Considerado o primeiro do tipo, o incidente da Hugging Face resultou na coleta de tokens de acesso, credenciais de gravação e bases de dados;
- Já a violação ao site do Medcare, na Austrália, permitiu que os agentes acessassem arquivos públicos e não públicos, mas sem comprometer informações sensíveis, conforme as investigações iniciais;
- Se esses e outros casos semelhantes não tiveram maiores consequências, o cientista-chefe da Alphabet prevê que o cenário pode ser diferente em futuros incidentes.
Conforme o chefe do Google DeepMind, casos semelhantes “podem se tornar graves no próximo ano e nos anos seguintes se não fizermos mais esforços, como setor, como empresas individuais e como governos, para proteger esses sistemas”. Ele aponta que uma das alternativas é seguir boas práticas adotadas em outras áreas.
As regras de segurança adotadas nos segmentos nuclear e de biologia, reforçando a proteção de sistemas críticos, servem de exemplo para o desenvolvimento de IAs avançadas. No entanto, Hassabis ressalta que há “muito trabalho a fazer” até que isso aconteça.
Padronização internacional da IA
Outra sugestão dada pelo executivo é a criação de um órgão que ficaria responsável por regulamentar e padronizar o uso dos agentes de IA globalmente. Mas ele acredita que tal entidade precisa de certos cuidados para que não dificulte os avanços da inovação.
“O que precisamos fazer, basicamente, é desenvolver dinamicamente um processo de certificação proporcional aos riscos que identificamos e capaz de mudar rapidamente conforme a tecnologia evolui”, ressaltou.
Também presente à cúpula, o presidente da Microsoft, Brad Smith, afirmou que os incidentes com agentes autônomos são “preocupantes” e defendeu regras de segurança mais rígidas. Porém, a legislação deve ser “sensata e equilibrada”, segundo Smith.
Esta semana, a OpenAI reportou a descoberta de um dispositivo espião em um de seus escritórios. Saiba mais detalhes sobre o caso.
Com informações de Reuters.