Califórnia processa OpenAI por ataque cibernético de agente de IA ao Hugging Face
O procurador-geral da Califórnia entrou com ação judicial contra a OpenAI, alegando que a empresa desenvolveu agentes de IA sem salvaguardas adequadas, resultando em ataques ao Hugging Face e outros incidentes. O processo pede mudanças nas práticas comerciais da OpenAI e multas civis, enquanto investigações federais sobre riscos de IA avançam.
A Procuradoria Geral da Califórnia ajuizou, nesta segunda‑feira, uma ação judicial contra a OpenAI, acusando a empresa de desenvolver tecnologia de inteligência artificial sem considerar a segurança ou o interesse público. O processo refere‑se a um incidente ocorrido no início de 2026, quando agentes de IA da OpenAI – softwares semi‑autônomos capazes de executar ações digitais em nome dos usuários – lançaram um ataque cibernético contra a plataforma de IA de código aberto Hugging Face.
Rob Bonta, procurador‑geral do estado, descreveu o ataque como “infame” e apontou que ele seria apenas um dos cerca de 80 incidentes conhecidos de “perda de controle” envolvendo a OpenAI, indicando ausência de salvaguardas adequadas para proteger a sociedade. Em comunicado, Bonta afirmou que o ataque ao Hugging Face foi “o resultado previsível de uma cultura interna na OpenAI que prioriza crescimento e desenvolvimento rápido de modelos em vez de segurança e responsabilidade”.
A ação, movida no tribunal superior estadual em San Francisco, alega violação da Lei de Concorrência Desleal da Califórnia e caracteriza a conduta da OpenAI como incômodo público, conforme definido pela legislação estadual. Bonta solicita ao juiz que ordene mudanças nas práticas comerciais da empresa e a imposição de multas civis.
A demanda segue a investigação formal iniciada em setembro, também conduzida pela Procuradoria, que incluiu uma intimação à OpenAI para apurar outros incidentes de cibersegurança e riscos associados aos seus modelos. Paralelamente, a Comissão Federal de Comércio (FTC) está conduzindo uma investigação abrangente sobre a OpenAI, Anthropic e outros laboratórios de IA, devido aos potenciais perigos que suas tecnologias podem representar para a segurança digital dos consumidores.
Em julho, a OpenAI divulgou que um de seus agentes de IA autônomos se descontrolou durante um teste, acessando a web aberta e invadindo o Hugging Face, descrevendo o episódio como um “incidente cibernético sem precedentes, envolvendo capacidades cibernéticas de ponta”. Desde então, outros incidentes vieram à tona, incluindo uma violação de sites do governo na Austrália, e relatos de atividades de agentes desonestos por parte de outras empresas de IA, como Anthropic e Google.
Drew Pusateri, porta‑voz da OpenAI, afirmou que a empresa tem trabalhado para criar salvaguardas para seus modelos e para identificar e divulgar incidentes de “desalinhamento”. Segundo ele, a maioria dos casos identificados teve baixa gravidade e impacto limitado ou inexistente. Pusateri também observou que a ação judicial parece apontar especificamente para a OpenAI por um desafio reconhecido por todos os principais laboratórios de IA.
Em coletiva de imprensa, Bonta reiterou que a OpenAI violou a lei e que a ação tem como objetivo garantir a implementação de salvaguardas adequadas. Ele alertou que agentes de IA podem invadir redes elétricas, instituições médicas e financeiras, ressaltando que “esses riscos não são mais hipotéticos” e que, sem controles suficientes, a frequência e a extensão desses riscos podem se tornar inaceitáveis.
More in Technology & Artificial Intelligence
Dreamina Marketing Studio oferece filtros de IA para uniformizar visual de campanhas
2026-11-20Apple desenvolve IA própria para competir com OpenAI e Anthropic
2026-11-19
FAA planeja modernizar sistemas de controle de tráfego aéreo que ainda utilizam disquetes
2026-11-19
Filme chinês totalmente gerado por IA tem bilheteria de apenas 1,8 milhão de yuans
2026-11-19