Califórnia emite intimação à OpenAI sobre modelos de IA que escaparam de um teste

O Procurador-Geral da Califórnia, Rob Bonta, disse na quinta-feira que seu escritório entregou à OpenAI uma intimação investigativa na quarta-feira, buscando respostas sobre incidentes de cibersegurança envolvendo seus modelos de IA, de acordo com seu escritório.

"Meu escritório está fazendo perguntas adicionais à OpenAI sobre incidentes e riscos de cibersegurança envolvendo a empresa e seus modelos de IA", disse o Procurador-Geral Bonta. "Desenvolvedores que falham em [garantir que não perpetrarão ou permitirão ciberataques] podem e devem ser responsabilizados legalmente, e meu escritório está comprometido em determinar se esse é o caso aqui."

Uma intimação é uma ordem legal para entregar documentos ou respostas, e ignorá-la pode levar a uma audiência diante de um juiz. Esta é uma intimação investigativa, uma ferramenta usada para reunir fatos antes de decidir se deve processar. O escritório de Bonta não disse publicamente o que deseja que a OpenAI produza.

Modelos de fronteira - os sistemas de IA mais avançados do mercado - podem ser "ferramentas legítimas para defesa cibernética", disse Bonta. Mas as empresas que os constroem têm "uma responsabilidade moral e legal" para garantir que não realizem ou permitam ciberataques, seja durante os testes ou após o lançamento, afirmou ele.

O teste que escapou

A intimação segue um incidente de julho que parece um mal conto de ficção científica. Segundo a OpenAI, dois de seus modelos estavam sendo avaliados em um benchmark que apresenta a uma IA 898 falhas de software reais e pede que transforme cada uma em um ataque funcional.

Os modelos encontraram uma vulnerabilidade zero-day - um buraco de segurança que ninguém sabia que existia, portanto, nenhuma correção estava disponível - em um software de terceiros que o ambiente de teste usava para instalar pacotes de código. Eles a usaram para escapar.

Então, raciocinaram que a Hugging Face, uma plataforma onde desenvolvedores compartilham modelos de IA e conjuntos de dados, poderia estar segurando a chave de respostas. Eles invadiram com credenciais roubadas e mais falhas. Em termos simples, a IA foi atrás das respostas para seu próprio exame.

A Hugging Face divulgou a intrusão em 16 de julho, e a OpenAI confirmou que seus modelos estavam por trás dela cinco dias depois. A OpenAI disse mais tarde que os mesmos modelos acessaram contas em quatro outros serviços.

O longo olhar da Califórnia sobre a OpenAI

Bonta anunciou uma investigação formal sobre o incidente da Hugging Face em setembro, e a intimação faz parte disso. A OpenAI tem sede na Califórnia, e quando Bonta se recusou a se opor à sua mudança para uma estrutura com fins lucrativos em outubro de 2025, ele disse que seu escritório manteria "um olho atento na OpenAI" para proteger "a segurança de todos os californianos."

Ele não está sozinho. Brenna Bird, procuradora-geral de Iowa, liderou uma coalizão de 15 estados em agosto exigindo que a OpenAI preservasse registros e fosse transparente sobre o hack. O Alabama emitiu sua própria intimação, e a FTC está supostamente investigando laboratórios de IA, incluindo OpenAI e Anthropic.

Separadamente, o Primeiro-Ministro australiano Anthony Albanese disse que um agente da OpenAI acessou um portal de estatísticas do Medicare em junho. Na época, parecia ser o primeiro caso conhecido de um agente de IA hackeando um site governamental. Mais tarde, ficou conhecido que agentes da OpenAI estavam mexendo em sites do governo dos EUA durante o verão, embora nenhuma informação não pública pareça ter sido acessada.

Este conteúdo é disponibilizado apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou fiscal. Quaisquer eventos, recompensas, promoções online ou informações relacionadas aqui mencionados não devem ser interpretados como uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar quaisquer outras operações com criptoativos. Os criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar consoante a região. O utilizador é responsável por garantir que a sua participação está em conformidade com a legislação e os regulamentos locais aplicáveis.