A Comissão Federal de Comércio dos Estados Unidos (FTC, na sigla em inglês) abriu investigação sobre o setor de inteligência artificial (IA) para apurar os possíveis riscos que a tecnologia representa aos consumidores. Entre as empresas e organizações que serão alvo da apuração estão Anthropic, OpenAI e o grupo de pesquisa METR, segundo um alto funcionário da FTC ouvido pela Reuters nesta quarta-feira (30).
A iniciativa é a primeira ação oficial de fiscalização dos Estados Unidos a investigar especificamente os chamados agentes de IA, sistemas capazes de executar tarefas de forma mais autônoma. A decisão ocorre após uma série de incidentes relatados desde julho, que aumentaram as preocupações sobre a possibilidade de sistemas de IA fora de controle causarem danos a seres humanos.
FTC poderá exigir informações e depoimentos
De acordo com o funcionário, a FTC pretende enviar solicitações formais de informações e exigir depoimentos de executivos das principais empresas de desenvolvimento de IA.
Anthropic e OpenAI já recorreram ao METR para realizar investigações independentes sobre incidentes de segurança envolvendo suas tecnologias de IA com agentes.
As três organizações não responderam imediatamente aos pedidos de comentário da Reuters. A informação sobre a investigação havia sido divulgada inicialmente pelo New York Post.
Ataque ao Hugging Face aumentou urgência
- O presidente da FTC, Andrew Ferguson, já demonstrava preocupação com as empresas antes de agentes de IA desenvolvidos pela OpenAI invadirem a plataforma de código aberto Hugging Face, segundo o funcionário;
- O episódio envolveu agentes da OpenAI que investigaram a plataforma em busca de vulnerabilidades antes de realizar um ataque de grande escala. Segundo o funcionário, o incidente aumentou a urgência da FTC em relação ao tema;
- Na semana passada, Ferguson afirmou em entrevista à Reuters que desenvolvedores que orientam agentes de IA a realizar testes de segurança cibernética que acabam resultando em invasões podem ser responsabilizados pelos danos provocados pelos sistemas;
- Durante o evento Reuters Momentum AI, em Austin (EUA), Ferguson também afirmou que os Estados Unidos deveriam recorrer às leis existentes antes de buscar a criação de novas regras específicas para regular a IA;
- A FTC possui ampla autoridade para processar empresas por práticas consideradas injustas ou enganosas. A agência já utilizou esses poderes anteriormente para tomar medidas contra companhias que não adotaram medidas razoáveis para proteger os dados dos consumidores.
Leia mais:
- Perguntei à IA em quem votar: o que acontece quando você pede indicação de voto ao ChatGPT, Claude, Gemini e Grok
- Entenda como vídeos gerados por IA e deepfakes se tornaram a maior ameaça digital para as eleições no Brasil
- Papa Leão XIV diz que alertas sobre IA devem ser levados a sério
Debate sobre regulamentação de IA
A investigação acontece em meio a discussões sobre como o governo dos Estados Unidos deve lidar com os riscos associados aos agentes de IA.
Na terça-feira (29), o presidente Donald Trump se reuniu com executivos das principais empresas de IA. Durante o encontro, as companhias concordaram em estabelecer padrões voluntários para o setor.
Trump tem repetidamente classificado como uma farsa os temores relacionados à IA, enquanto busca priorizar a liderança dos Estados Unidos na tecnologia em vez de ampliar a regulamentação. Ao mesmo tempo, o presidente afirmou que o governo pode utilizar as leis existentes contra empresas de IA por eventuais danos que elas provoquem.
A própria Anthropic reconheceu riscos jurídicos relacionados aos agentes de IA. No prospecto preparado para sua estreia no mercado de ações, a empresa afirmou que a tecnologia de IA com agentes apresenta riscos legais significativos e imprevisíveis.
O post EUA investigam OpenAI e Anthropic após incidentes com agentes de IA apareceu primeiro em Olhar Digital.