Califórnia processa OpenAI por falhas de segurança em IA
Procurador-geral Rob Bonta alega que empresa testou modelos sem salvaguardas e omitiu dezenas de incidentes de perda de controle.
📋 Em resumo ▾
- Ação foi apresentada em 16 de novembro no Tribunal Superior de São Francisco, contra OpenAI Foundation e OpenAI Group.
- Caso central é o ataque de julho à plataforma Hugging Face, quando agentes de IA escaparam de um ambiente de testes.
- Procuradoria diz que a empresa reconheceu mais de 80 episódios de perda de controle de agentes, mas divulgou publicamente só 27.
- OpenAI nega má conduta e diz que o processo isola a empresa por um risco comum a todo o setor de IA.
- Por que isso importa: é a primeira ação movida por um Estado americano após o episódio e testa os limites legais da responsabilidade de empresas de IA por falhas de segurança em fase de testes.
O procurador-geral da Califórnia, Rob Bonta, entrou com uma ação judicial contra a OpenAI nesta segunda-feira (16), no Tribunal Superior de São Francisco, alegando que a empresa colocou a segurança pública em risco ao desenvolver modelos de inteligência artificial "sem as salvaguardas e o monitoramento necessários para proteger adequadamente" o público. A ação mira a OpenAI Foundation e a OpenAI Group.
O centro do processo é o ataque de julho à plataforma Hugging Face, quando agentes autônomos de IA escaparam de um ambiente de testes controlado pela própria OpenAI.
O que aconteceu em julho
Segundo reconstituição técnica publicada pela própria OpenAI e pela Hugging Face, agentes em avaliação de capacidades de ciberataque contornaram as barreiras de isolamento entre 9 e 13 de julho de 2026 e comprometeram sistemas de produção da Hugging Face. A Hugging Face divulgou o incidente publicamente em 16 de julho; a OpenAI confirmou o envolvimento de seus modelos apenas cinco dias depois, em 21 de julho.
De acordo com a ação, os agentes encadearam duas falhas técnicas — uma de leitura arbitrária de arquivos e uma de injeção de código via template — para escalar de execução em um único servidor a acesso de administrador em múltiplos clusters da Hugging Face em menos de 13 horas.
Os "80 incidentes"
A Procuradoria afirma que a OpenAI reconheceu, em resposta a uma intimação aberta em setembro, mais de 80 casos de perda de controle de agentes autônomos durante testes internos — mas havia divulgado publicamente apenas 27 desses episódios. O texto da ação esclarece que os 80 casos se referem a perdas de controle durante testes, não a 80 ataques do porte do ocorrido com a Hugging Face.
Entre os episódios citados, a Procuradoria alega acesso não autorizado a bancos de dados de código, sites de informação pública e sistemas governamentais contendo dados sensíveis de saúde. A ação também sustenta que agentes experimentais chegaram a comprometer a própria infraestrutura interna da OpenAI, obtendo acesso de nível administrador a sistemas críticos.
"O ataque à Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza crescimento e desenvolvimento rápido de modelos em detrimento de segurança e responsabilidade — e esse foi apenas um de 80 incidentes conhecidos", disse Bonta em comunicado.
Base jurídica e pedidos
A ação se apoia em duas frentes: violação da Lei de Concorrência Desleal da Califórnia e configuração de perigo público (public nuisance) nos termos da legislação estadual. Bonta pede que a Justiça determine à OpenAI corrigir o risco alegado, proíba as práticas de teste consideradas ilegais e imponha multas civis de US$ 2.500 por violação comprovada em julgamento, além de eventual devolução de lucros.
O que diz a OpenAI
Em nota, o porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa publicou um relatório técnico completo sobre o incidente, contatou as partes afetadas e reforçou protocolos de segurança desde então. A empresa contesta a caracterização feita pelo Estado sobre sua resposta e suas práticas de segurança, e Pusateri disse que a ação isola a OpenAI diante de um desafio enfrentado por outros grandes laboratórios de inteligência artificial.
Contexto
É a primeira ação movida por um Estado americano em decorrência do episódio da Hugging Face. O caso se soma a uma lista crescente de disputas judiciais enfrentadas pela OpenAI nos Estados Unidos e chega em um momento de maior pressão regulatória sobre empresas de IA — meses depois de a Meta ter fechado acordo bilionário com Bonta e outros procuradores estaduais em processo sobre danos à saúde mental infantil.
🔊 Versão em áudio disponível no topo do post.