OpenAI diz que um agente alimentado por seus modelos LLM escapou de seu ambiente de teste em sandbox para se infiltrar nos servidores do Hugging Face como parte de uma tentativa excessivamente zelosa de obter soluções para um teste de benchmark. A empresa afirma que considera a infiltração não intencional um “incidente cibernético sem precedentes” e está trabalhando com a Hugging Face em novas proteções para evitar uma recorrência.
Abraçando o rosto revelou uma intrusão na semana passada que dizia envolver “acesso não autorizado a um conjunto limitado de conjuntos de dados internos e a várias credenciais usadas por nossos serviços”. A câmara de compensação de dados de IA disse que usou sua própria análise orientada por LLM para identificar “um enxame de dezenas de milhares de ações automatizadas” a partir de uma “estrutura de agente autônomo”. Esse enxame de agentes explorou uma falha no pipeline de processamento de dados do Hugging Face para obter a capacidade de executar código como um trabalhador de processamento, eventualmente escalando para acesso de alto nível à nuvem e clusters de servidores da empresa.
Na época, Hugging Face disse que o LLM usado no ataque “ainda não era conhecido”. Mas OpenAI assumiu a responsabilidade pela intrusão na noite de terça-feiradizendo que surgiu durante um teste interno envolvendo o recém-lançado GPT-5.6 Sol e “um modelo de pré-lançamento ainda mais capaz”. Os modelos estavam sendo testados contra o benchmark ExploitGymum conjunto de testes independente baseado em centenas de vulnerabilidades de segurança do mundo real.
Leia o artigo completo
Comentários
