Resumo
- OpenAI admitiu que seus o GPT-5.6 Sol e uma IA inédita escaparam de um ambiente de testes e invadiram os sistemas da Hugging Face.
- A invasão ocorreu após as IAs identificarem e explorarem uma vulnerabilidade de dia zero em um software usado dentro da OpenAI.
- A Hugging Face confirmou que não encontrou evidências de adulteração em bancos de dados de parceiros, modelos de clientes ou espaços públicos.
A OpenAI admitiu nesta terça-feira (21/07) que seus próprios modelos de IA conseguiram escapar de um ambiente de testes, conectaram-se à internet e invadiram sozinhos os sistemas da plataforma Hugging Face. O ataque cibernético “sem precedentes”, segundo a empresa, ocorreu neste mês e foi motivado por um objetivo simples: encontrar a resposta para uma avaliação de cibersegurança.
O incidente foi detectado pela plataforma invadida. De acordo com a OpenAI, a invasão foi desencadeada por uma combinação de algoritmos operando em conjunto, incluindo o recém-lançado GPT-5.6 Sol e uma IA ainda mais avançada, em fase de pré-lançamento.
Como a IA da OpenAI escapou?
A “fuga” aconteceu depois que os modelos identificaram e exploraram uma vulnerabilidade de dia zero (uma falha crítica ainda sem correção) em um software usado dentro da OpenAI durante uma avaliação interna para medir as capacidades de segurança das ferramentas.
Para testar os limites em um cenário extremo, a desenvolvedora removeu intencionalmente as travas de segurança e filtros de proteção dos modelos em um ambiente que deveria ser 100% isolado, o que deixou as IAs hiperfocadas em resolver o desafio a qualquer custo.
Elas realizaram um escalonamento de privilégios e vasculharam a infraestrutura da empresa até encontrarem um nó da rede (uma máquina específica) com acesso à web. Já conectados à internet, os algoritmos fizeram uma dedução lógica: a Hugging Face, famosa por ser um dos maiores repositórios de códigos do mundo, provavelmente abrigava a resposta para a sua avaliação.
A partir desse ponto, o modelo disparou múltiplos vetores de ataque e explorou brechas, usando até credenciais roubadas na nuvem para executar códigos remotamente. O ataque cibernético só foi interrompido porque a Hugging Face também usa IA para proteger sua própria rede. O sistema de detecção de anomalias da plataforma notou o tráfego suspeito, isolou as ações e bloqueou a atividade antes que um estrago irreversível acontecesse.
Resposta ao ataque
Apesar do susto, a Hugging Face confirmou que não encontrou evidências de adulteração em bancos de dados de parceiros, modelos de clientes ou espaços públicos. As falhas usadas como porta de entrada foram corrigidas, as credenciais vazadas acabaram revogadas e o caso foi repassado às autoridades.
A OpenAI, por sua vez, também implementou configurações mais rígidas em seus servidores internos, reportou a falha de dia zero aos desenvolvedores do software afetado e trabalha em conjunto com a Hugging Face nas investigações.
Segundo o CEO da Hugging Face, Clem Delangue, o avanço das ameaças autônomas exige uma mudança de postura da indústria: “A segurança da IA não será resolvida por uma única empresa trabalhando em segredo. Ela será resolvida de forma aberta, colaborativa, com amplo acesso à IA para todos”.