Un framework di agenti autonomi di intelligenza artificiale è sfuggito al controllo di OpenAI durante un test di sicurezza e ha attaccato la piattaforma Hugging Face. È stato definito un “incidente senza precedenti” dalla stessa OpenAI, ma è senza precedenti anche la visibilità che la vicenda offre ai concorrenti Ai cinesi. Per difendersi, Hugging Face ha dovuto utilizzare un modello open source cinese, perché quelli Usa non hanno risposto, nel dubbio di star aiutando un aggressore e non un difensore. Nel dibattito Usa vs Cina, gli stessi Ceo americani hanno opinioni diverse: Jensen Huang di Nvidia invita a non avere paura dei modelli Ai di Pechino.
Questo nonostante Llm come GLM-5.2 e Kimi K3 abbiano scosso la Silicon Valley, rivaleggiando con i modelli OpenAI e Anthropic a costi inferiori e senza guardrail. Un panico simile a quando un altro player orientale DeepSeek ha presentato i suoi modelli nel gennaio 2025.
“I modelli cinesi sono eccellenti”, ha dichiarato Huang ad Axios prima che diventasse pubblica la notizia della ‘fuga’ dell’agente di OpenAI. “E i modelli open source eccellenti dovrebbero essere utilizzati”. Un’opinione significativa, se espressa dal maggiore produttore mondiale di chip per l’AI, convinto che alle aziende Usa dovrebbe essere “assolutamente” consentito di usare modelli cinesi.
Hugging Face lo ha fatto. La scorsa settimana aveva spiegato di aver usato il modello GLM-5.2 di Zhipu AI per l’analisi dell’attacco che stava avvenendo, una scelta che le ha inoltre consentito di mantenere i dati dell’aggressore e le eventuali credenziali all’interno dei propri sistemi.
Questa esperienza, aveva scritto sul suo blog la startup, che al tempo non sapeva che i modelli Ai che l’avevano attaccata fossero di OpenAI, “evidenzia un gap per il quale è opportuno prepararsi”. L’attaccante “non era soggetto ad alcuna policy di utilizzo, mentre il nostro lavoro di analisi forense veniva bloccato dai guardrail dei modelli in hosting che avevamo tentato di utilizzare per primi. La lezione pratica per chi difende: bisogna disporre di un modello performante da far girare sulla propria infrastruttura, già testato e pronto all’uso prima che si verifichi un incidente, sia per evitare i blocchi dei guardrail, sia per impedire che i dati e le credenziali dell’attaccante escano dal proprio perimetro aziendale. Questa non vuole essere una critica alle misure di sicurezza adottate sui modelli in hosting, e stiamo condividendo questo feedback con i provider interessati.”
Gli strumenti offensivi autonomi, basati sull’AI, non sono più teoria nella cybersecurity, secondo Hugging Face. “Riducono i costi per condurre campagne su vasta scala e operano a velocità di macchina. Difendere una piattaforma online oggi significa trattare l’esposizione dei dati e dei modelli come una superficie di attacco di prim’ordine, e impiegare l’AI sul fronte difensivo per tenere il passo”. Lo stesso Huang aveva suggerito, nella sua intervista, che l’approccio open rende l’AI più sicura, non il contrario, perché i ricercatori esterni possono ispezionare i modelli, esporne le vulnerabilità e costruire difese. Anthropic, secondo il Ceo di Nvidia, dovrebbe rendere disponibile a “tutti” il suo modello cyber ad accesso limitato, Claude Mythos, invece di restringerlo.