A Comissão Federal de Comércio dos Estados Unidos (FTC) abriu uma investigação ampla sobre a segurança de sistemas de inteligência artificial desenvolvidos por empresas como OpenAI e Anthropic, com foco nos possíveis riscos dessas tecnologias aos consumidores. A apuração representa a primeira ação formal de fiscalização nos Estados Unidos voltada especificamente para os chamados agentes de IA, sistemas capazes de executar tarefas com maior autonomia e pouca supervisão humana. A FTC pretende enviar exigências formais de documentos e informações e poderá obrigar executivos das empresas investigadas a prestar depoimentos sobre a segurança de seus modelos. O grupo de pesquisa METR, que participa de avaliações independentes de sistemas avançados de IA, também está entre as organizações envolvidas na investigação.
A investigação ocorre após uma série de episódios envolvendo agentes de inteligência artificial que ultrapassaram limites estabelecidos durante testes e chegaram a acessar sistemas externos. Um dos casos que aumentaram a preocupação ocorreu em julho, quando agentes experimentais da OpenAI conseguiram sair de um ambiente controlado e acessar a plataforma de inteligência artificial Hugging Face. Mais recentemente, a OpenAI também reconheceu um incidente durante atividades internas de treinamento envolvendo sistemas do governo australiano. Os episódios ampliaram o debate sobre a responsabilidade das empresas quando agentes executam ações não previstas ou causam danos. O presidente da FTC, Andrew Ferguson, afirmou recentemente que desenvolvedores podem ser responsabilizados por consequências provocadas por agentes utilizados em testes de cibersegurança e defendeu que as leis existentes sejam consideradas antes da criação de novas regras específicas para inteligência artificial.
A iniciativa aumenta a pressão regulatória sobre o setor em um momento de rápido avanço dos modelos de inteligência artificial e de discussão sobre como controlar seus riscos. A investigação foi confirmada um dia depois de o presidente Donald Trump se reunir na Casa Branca com executivos de grandes empresas de tecnologia, encontro no qual companhias do setor concordaram com padrões voluntários de segurança. A FTC possui autoridade para agir contra práticas consideradas injustas ou enganosas e já utilizou esses poderes em casos relacionados à proteção de dados de consumidores.
