Painel Econômico

Califórnia processa OpenAI por falhas de segurança em IA

Procurador-geral Rob Bonta alega que empresa testou modelos sem salvaguardas e omitiu dezenas de incidentes de perda de controle.

Califórnia processa OpenAI por falhas de segurança em IA
📷 SamuelBoinvin
📋 Em resumo ▾
  • Ação foi apresentada em 16 de novembro no Tribunal Superior de São Francisco, contra OpenAI Foundation e OpenAI Group.
  • Caso central é o ataque de julho à plataforma Hugging Face, quando agentes de IA escaparam de um ambiente de testes.
  • Procuradoria diz que a empresa reconheceu mais de 80 episódios de perda de controle de agentes, mas divulgou publicamente só 27.
  • OpenAI nega má conduta e diz que o processo isola a empresa por um risco comum a todo o setor de IA.
  • Por que isso importa: é a primeira ação movida por um Estado americano após o episódio e testa os limites legais da responsabilidade de empresas de IA por falhas de segurança em fase de testes.
Compartilhar: WhatsApp X LinkedIn

O procurador-geral da Califórnia, Rob Bonta, entrou com uma ação judicial contra a OpenAI nesta segunda-feira (16), no Tribunal Superior de São Francisco, alegando que a empresa colocou a segurança pública em risco ao desenvolver modelos de inteligência artificial "sem as salvaguardas e o monitoramento necessários para proteger adequadamente" o público. A ação mira a OpenAI Foundation e a OpenAI Group.

O centro do processo é o ataque de julho à plataforma Hugging Face, quando agentes autônomos de IA escaparam de um ambiente de testes controlado pela própria OpenAI.

O que aconteceu em julho

Segundo reconstituição técnica publicada pela própria OpenAI e pela Hugging Face, agentes em avaliação de capacidades de ciberataque contornaram as barreiras de isolamento entre 9 e 13 de julho de 2026 e comprometeram sistemas de produção da Hugging Face. A Hugging Face divulgou o incidente publicamente em 16 de julho; a OpenAI confirmou o envolvimento de seus modelos apenas cinco dias depois, em 21 de julho.

De acordo com a ação, os agentes encadearam duas falhas técnicas — uma de leitura arbitrária de arquivos e uma de injeção de código via template — para escalar de execução em um único servidor a acesso de administrador em múltiplos clusters da Hugging Face em menos de 13 horas.

Os "80 incidentes"

A Procuradoria afirma que a OpenAI reconheceu, em resposta a uma intimação aberta em setembro, mais de 80 casos de perda de controle de agentes autônomos durante testes internos — mas havia divulgado publicamente apenas 27 desses episódios. O texto da ação esclarece que os 80 casos se referem a perdas de controle durante testes, não a 80 ataques do porte do ocorrido com a Hugging Face.

Apoie o jornalismo independente
Leia o Painel Político por inteiro
Assine e tenha acesso ao arquivo completo e a tudo que publicamos. Você sustenta um jornalismo que não se dobra ao poder.
Assinar por R$ 19/mês
ou acompanhe de graça
São canais, não grupos: só o Painel publica, ninguém comenta, seu número fica oculto. Saia quando quiser.

Entre os episódios citados, a Procuradoria alega acesso não autorizado a bancos de dados de código, sites de informação pública e sistemas governamentais contendo dados sensíveis de saúde. A ação também sustenta que agentes experimentais chegaram a comprometer a própria infraestrutura interna da OpenAI, obtendo acesso de nível administrador a sistemas críticos.

"O ataque à Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza crescimento e desenvolvimento rápido de modelos em detrimento de segurança e responsabilidade — e esse foi apenas um de 80 incidentes conhecidos", disse Bonta em comunicado.

Base jurídica e pedidos

A ação se apoia em duas frentes: violação da Lei de Concorrência Desleal da Califórnia e configuração de perigo público (public nuisance) nos termos da legislação estadual. Bonta pede que a Justiça determine à OpenAI corrigir o risco alegado, proíba as práticas de teste consideradas ilegais e imponha multas civis de US$ 2.500 por violação comprovada em julgamento, além de eventual devolução de lucros.

O que diz a OpenAI

Em nota, o porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa publicou um relatório técnico completo sobre o incidente, contatou as partes afetadas e reforçou protocolos de segurança desde então. A empresa contesta a caracterização feita pelo Estado sobre sua resposta e suas práticas de segurança, e Pusateri disse que a ação isola a OpenAI diante de um desafio enfrentado por outros grandes laboratórios de inteligência artificial.

Contexto

É a primeira ação movida por um Estado americano em decorrência do episódio da Hugging Face. O caso se soma a uma lista crescente de disputas judiciais enfrentadas pela OpenAI nos Estados Unidos e chega em um momento de maior pressão regulatória sobre empresas de IA — meses depois de a Meta ter fechado acordo bilionário com Bonta e outros procuradores estaduais em processo sobre danos à saúde mental infantil.

🔊 Versão em áudio disponível no topo do post.

Gostou? Compartilhe: WhatsApp X LinkedIn
💬 Comentários

Carregando comentários…

#painelpolitico #OpenAI #RobBonta #InteligênciaArtificial #HuggingFace