VerdadeiroRob Bonta ajuizou uma ação da Califórnia contra a OpenAI em 16 de novembro.
Esquerda Centro DireitaCNN Brasil, Folha de S.Paulo, Jovem Pan
Os relatos dos veículos de centro e esquerda dizem que Bonta processou a empresa na segunda-feira, dia 16; o Direita também informa que o estado entrou com a ação nessa data.
Ver fontes e trechos (3)
- CNN Brasil · Reportagem
Califórnia processa OpenAI por ciberataques de IA contra a Hugging Face
Trecho consultado na análise
“O procurador-geral da Califórnia, Rob Bonta, disse nesta segunda-feira (16) que seu escritório processou a OpenAI, acusando a empresa de desenvolver um produto perigoso sem procedimentos de segurança ou supervisão adequados.
A ação vem após relatos de que os modelos de IA realizaram ataques cibernéticos de forma independente.
O processo é o primeiro movido por um estado em relação aos ciberataques, que atraíram grande atenção desde a revelação, em julho, de que um agente autônomo, alimentado por modelos avançados da OpenAI, se descontrolou durante um teste de segurança e invadiu o sistema da startup de IA Hugging Face.
A ação, apresentada em um tribunal estadual em São Francisco, acusa a empresa de violar a lei de proteção ao consumidor da Califórnia e de criar um incômodo público ao colocar em risco a segurança pública.
“O ataque à Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em detrimento da segurança e da responsabilidade — e este foi apenas um dos 80 incidentes conhecidos”, disse Bonta em um comunicado.
Após o incidente com a Hugging Face, a OpenAI afirmou em uma postagem no blog que a fuga foi "um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração".
A OpenAI reconheceu a necessidade geral de maior transparência em relação a comportamentos inadequados de IA e afirmou estar reforçando suas medidas de segurança.
Em 16 de setembro, a empresa publicou uma nova estrutura para a divulgação desses incidentes, afirmando que priorizaria a transparência "mesmo quando a importância for incerta".
Pressão de montagem para regulação de IA A OpenAI e outras empresas de IA divulgaram uma série de outras fugas de agentes de IA, muitas vezes semanas ou meses após terem ocorrido.
E, em alguns casos, somente depois de serem descobertas por pesquisadores independentes.
O governo Trump e os legisladores americanos enfrentam crescente pressão para lidar com o risco, particularmente para os setores de energia e bancário e para os serviços de emergência.
Os legisladores dos EUA estão debatendo a regulamentação da IA, com alguns propondo um projeto de lei que exigiria que os desenvolvedores dos modelos de IA mais poderosos os submetessem a auditorias de segurança independentes.
A OpenAI também enfrenta processos judiciais de vários outros estados relacionados à segurança de seus modelos.
No mês passado, um grupo bipartidário de oito estados processou a desenvolvedora em tribunais de todo o país, alegando que o ChatGPT instruía usuários, incluindo adolescentes, a se machucarem ou machucarem outras pessoas.
A empresa também é alvo de processos judiciais movidos por pessoas que alegam terem sido prejudicadas pelas ações do chatbot, incluindo mais de 30 processos relacionados ao massacre ocorrido em Tumbler Ridge, Colúmbia Britânica, em fevereiro.
Um porta-voz da companhia classificou o massacre como uma tragédia e afirmou que a OpenAI reforçou as medidas de segurança do ChatGPT. https://stories.cnnbrasil.com.br/tecnologia/brasileiro-desenvolve-ferramenta-que-detecta-e-previne-ataque-hacker/”
- Folha de S.Paulo · Reportagem
Califórnia processa OpenAI por ciberataques de modelos de IA contra Hugging Face e outras empresas
Trecho consultado na análise
“Você tem 7 acessos por dia para dar de presente.
Qualquer pessoa que não é assinante poderá ler.
Compartilhe:
Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.
Já é assinante?
Faça seu login
Chicago (EUA) | Reuters O procurador-geral da Califórnia, Rob Bonta, processou a OpenAI nesta segunda-feira (16), acusando a empresa de desenvolver um produto perigoso sem procedimentos de segurança ou supervisão adequados, após relatos de que seus modelos de inteligência artificial realizaram ciberataques de forma independente.
A ação é a primeira movida por um estado em razão dos ciberataques, que atraíram ampla atenção desde que vieram à tona em julho.
O primeiro caso revelado envolveu a invasão da startup de IA Hugging Face por modelos da OpenAI que saíram de um espaço controlado durante um teste de segurança.
Apresentada a um tribunal estadual em San Francisco, a ação acusa a empresa de violar a legislação de proteção ao consumidor da Califórnia e de criar um risco à coletividade ao colocar em perigo a segurança pública.
Um representante da OpenAI não respondeu imediatamente a um pedido de comentário.
A ação pede que a Justiça determine que a empresa pare de violar a lei, garanta a segurança dos testes e do desenvolvimento de seus modelos e pague pelas infrações cometidas, afirmou Bonta em uma coletiva de imprensa na qual anunciou o processo.
"O ataque à Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em detrimento da segurança e da responsabilização —e esse foi apenas um dos 80 incidentes conhecidos", disse Bonta em um comunicado.
A ação acusa a empresa de enganar os consumidores sobre seus esforços para testar os modelos com segurança, violando as leis estaduais de proteção ao consumidor, e de prejudicar o uso de bens pelos californianos ao interromper as atividades de organizações e serviços locais.
Após o incidente com a Hugging Face, a OpenAI afirmou em uma publicação que a fuga do sistema foi "um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração".
A OpenAI reconheceu a necessidade geral de maior transparência em relação a comportamentos descontrolados de IA e afirmou que estava reforçando suas salvaguardas.
Em 16 de setembro, a empresa publicou uma nova estrutura para a divulgação desses incidentes, afirmando que optaria pela transparência "mesmo quando a relevância fosse incerta".
Desde então, a OpenAI e outras empresas de IA divulgaram u ma série de outros casos de agentes de IA que saíram de controle , muitas vezes semanas ou meses após ocorrerem e, em alguns casos, somente após serem descobertos por pesquisadores independentes.
O governo Trump e os legisladores dos Estados Unidos enfrentam pressão crescente para lidar com o risco, sobretudo para os setores de energia e bancário e para os serviços de emergência.
Os legisladores americanos debatem a regulamentação da IA, e alguns propõem um projeto de lei que obrigaria os desenvolvedores dos modelos de IA mais poderosos a submetê-los a auditorias de segurança independentes.
Vários procuradores-gerais afirmaram estar investigando violações ligadas aos modelos da OpenAI.
A OpenAI já enfrenta ações movidas por vários outros estados sobre a segurança de seus modelos para os usuários.
No mês passado, um grupo bipartidário de oito estados processou a OpenAI em tribunais de várias partes do país, alegando que o ChatGPT orientou usuários, incluindo adolescentes, a ferir a si mesmos ou outras pessoas.
A empresa também é alvo de ações movidas por pessoas que afirmam ter sofrido danos em decorrência das ações do chatbot, incluindo mais de 30 processos relacionados a um ataque a tiros em massa ocorrido em Tumbler Ridge , na Colúmbia Britânica, em fevereiro.
Um porta-voz da OpenAI classificou o ataque como uma tragédia e afirmou que a empresa reforçou as salvaguardas do ChatGPT.
Você tem 7 acessos por dia para dar de presente.
Qualquer pessoa que não é assinante poderá ler.
Compartilhe:
Assinantes podem liberar 7 acessos por dia para conteúdos da Folha.
Já é assinante?
Faça seu login”
- Jovem Pan · Reportagem
Califórnia processa OpenAI após 80 incidentes de cibersegurança
Trecho consultado na análise
“Estadão Conteúdo
O Estado da Califórnia, nos Estados Unidos, anunciou nesta segunda-feira (16) que entrou com uma ação judicial contra a OpenAI por desenvolver e testar modelos avançados de inteligência artificial sem o monitoramento necessário para proteger a população.
De acordo com um comunicado divulgado pelo gabinete do Procurador-Geral, pelo menos 80 incidentes cibernéticos foram registrados .
Um deles, o ataque da plataforma de ferramentas em IA Hugging Face, era “totalmente previsível”, já que a OpenAI escolheu testar modelos perigosos em um “ambiente de testes falho e explorável, sem a devida supervisão”.
O caso do Hugging Face aconteceu em julho de 2026 , quando agentes executando versões experimentais dos modelos de IA da OpenAI lançaram um ataque de mais de dois dias contra a plataforma.
Na época, a Hugging Face afirmou em um comunicado que foi uma situação diferente de tudo que havia enfrentado antes por ser “conduzida, de ponta a ponta, por um sistema autônomo de agentes de IA”.
Dias depois, a dona do ChatGPT publicou um comunicado, informando que os modelos “contornaram os controles criados para isolá-los da internet e comprometeram partes da infraestrutura interna de pesquisa da OpenAI e dos sistemas da Hugging Face?”.
Desde então, outros ataques semelhantes realizados por agentes da OpenAI foram identificados , ainda segundo o comunicado divulgado pelo gabinete do Procurador-Geral.
Dentre os alvos, estariam bancos de dados governamentais que armazenam informações de saúde sensíveis, além de dados de inúmeros aplicativos e sites informativos.
De acordo com o Procurador-Geral da Califórnia, Rob Bonta, a falha da OpenAI em monitorar e proteger os testes de seus modelos de IA viola leis de proteção ao consumidor do estado e representa um “perigo para a população”.”
Encontrou um erro?VerdadeiroA ação acusa a OpenAI de desenvolver ou testar modelos sem segurança e supervisão adequadas, com risco à população e possível violação das leis de proteção ao consumidor.
Esquerda Centro DireitaCNN Brasil, Estadão, Folha de S.Paulo, Jovem Pan
Os veículos de direita, centro e esquerda relatam acusações de supervisão ou segurança insuficientes e de risco público; os veículos de centro e esquerda também mencionam a legislação de proteção ao consumidor.
Ver fontes e trechos (4)
VerdadeiroA ação relaciona falhas de segurança a uma invasão da Hugging Face em julho, durante a qual modelos ou agentes de IA da OpenAI escaparam de um ambiente controlado.
Esquerda Centro DireitaUOL, CNN Brasil, Estadão, Folha de S.Paulo, Jovem Pan
Os veículos de direita, centro e esquerda relatam a invasão em julho e a associam a modelos ou agentes de IA da OpenAI; os veículos de centro e esquerda descrevem a saída de um ambiente de teste controlado.
Ver fontes e trechos (5)
VerdadeiroBonta afirmou que o ataque à Hugging Face foi um dos 80 incidentes conhecidos.
Esquerda Centro DireitaCNN Brasil, Folha de S.Paulo, Jovem Pan
Os veículos de centro e esquerda atribuem a Bonta a declaração de que esse foi um dos 80 incidentes conhecidos; o Direita também relata pelo menos 80 incidentes registrados.
Ver fontes e trechos (3)
VerdadeiroOs relatos dos veículos de centro e esquerda dizem que esta foi a primeira ação movida por um estado em razão dos ciberataques de IA.
Esquerda CentroCNN Brasil, Folha de S.Paulo
Os dois grupos caracterizam o processo como o primeiro movido por um estado em relação aos ciberataques.
Ver fontes e trechos (2)
VerdadeiroApós o incidente, a OpenAI reconheceu a necessidade de maior transparência e afirmou que reforçaria medidas de segurança.
Esquerda CentroCNN Brasil, Folha de S.Paulo
Os veículos de centro e esquerda relatam esse posicionamento da empresa após o episódio da Hugging Face.
Ver fontes e trechos (2)