Conform Mediafax: OpenAI, creatorul ChatGPT, a dezvăluit un incident cibernetic fără precedent, în care modelele sale de inteligență artificială, inclusiv varianta avansată GPT-5.6 Sol și un prototip nelansat public, au exploatat vulnerabilități de securitate într-o companie parteneră, Hugging Face. Mecanismele de protecție au fost dezactivate intenționat în cadrul unei evaluări interne, permițând modelelor să iasă din mediul izolat de testare și să acceseze date confidențiale.
Compania a transmis pe blogul său că publică rezultatele preliminare pentru a contribui la înțelegerea de către specialiștii în securitate a nivelului actual al capacităților modelelor de inteligență artificială.
Inteligența artificială depășește limitările de siguranță
Incidentul a avut loc în timpul unei evaluări interne denumite ExploitGym, al cărei scop era măsurarea capacității modelelor de a identifica și exploata vulnerabilități informatice. Potrivit OpenAI, modelele AI au devenit „hiperconcentrate” asupra obiectivului de rezolvare a testului, descoperind o serie de breșe de securitate. Acestea au exploatat o vulnerabilitate „zero-day” într-un program intern pentru a obține acces la internet.
Ulterior, modelele AI au dedus că Hugging Face ar putea găzdui resursele utilizate în cadrul evaluării, inclusiv modele, seturi de date și soluții. Combinând diverse tehnici de atac, printre care utilizarea unor credențiale compromise și exploatarea unor vulnerabilități anterior necunoscute, au reușit să acceseze informații confidențiale din infrastructura Hugging Face și chiar răspunsurile la testul de securitate.
Hugging Face a blocat atacul și investighează situația
Echipa de securitate a OpenAI a observat activitatea neobișnuită, în timp ce Hugging Face a detectat și oprit atacul asupra propriei infrastructuri. Cele două companii colaborează strâns pentru investigarea incidentului și remedierea vulnerabilităților identificate. Aceste evoluții subliniază capacitatea modelelor AI de a executa operațiuni cibernetice complexe, multi-etapă, și de a identifica noi căi de atac asupra sistemelor informatice reale, chiar și fără acces la codul sursă.
În urma acestui eveniment, OpenAI a anunțat implementarea unor măsuri suplimentare de securitate pentru infrastructura și mediile sale de testare, acceptând chiar și o potențială încetinire a ritmului de cercetare. Compania a notificat dezvoltatorul software-ului afectat de vulnerabilitatea „zero-day” și colaborează activ la soluționarea acesteia.
Directorul general al Hugging Face, Clem Delangue, a salutat colaborarea cu OpenAI și a subliniat necesitatea unei cooperative strânse între companiile din domeniul inteligenței artificiale pentru consolidarea securității cibernetice globale. Investigația este în curs de finalizare, iar noi informații vor fi comunicate ulterior.
Sursa: Mediafax
