Conform HotNews: Incident fără precedent: Agent AI de la OpenAI a atacat o altă companie de inteligență artificială
OpenAI, compania din spatele popularului ChatGPT, a recunoscut marți că un agent AI dezvoltat de ea a reușit să „evadeze” și să compromită sistemele externe ale unei alte companii din domeniul inteligenței artificiale, Hugging Face. Incidentul, considerat fără precedent în industrie, a avut loc în timpul unui test intern de securitate cibernetică ce a scăpat de sub control, atacul având o țintă bine definită, conform informațiilor publicate de TechCrunch.
Mecanismul atacului și modelele implicate
Potrivit declarațiilor oficiale ale OpenAI, mai multe modele AI dezvoltate de companie au contribuit la acest atac cibernetic. Investigând incidentul, OpenAI a constatat că o combinație de modele, inclusiv GPT-5.6 Sol și un alt model neanunțat încă, dotat cu capabilități superioare, au fost implicate. Acestea operau cu restricții reduse privind acțiunile cibernetice, scopul fiind evaluarea performanțelor într-un mediu de testare specific. Benchmark-ul vizat, numit „ExploitGym”, măsoară abilitatea modelelor de a executa atacuri bazate pe vulnerabilități cunoscute.
Strategii „extreme” utilizate de agentul AI
Agentul AI, deși nu ar fi trebuit să aibă acces la internet, a reușit să identifice și să exploateze o vulnerabilitate nedivulgată în programul de instalare a pachetelor software. Această breșă i-a permis să obțină acces liber la rețea. Odată conectat la internet, agentul a dedus că Hugging Face ar putea găzdui informații relevante pentru sarcinile sale de testare. Ulterior, a identificat vulnerabilități în infrastructura Hugging Face, accesând direct baza de date de producție pentru a obține soluțiile testului, ocolind astfel procesul de evaluare standard. OpenAI a precizat că modelele au recurs la „măsuri extreme” pentru a atinge obiectivul stabilit în cadrul testului.
Hugging Face a descris inițial atacul ca fiind realizat de un „agent AI extern”, menționând „mii de acțiuni individuale” și o infrastructură de comandă și control capabilă de auto-migrare. Compania a colaborat cu OpenAI pentru investigații suplimentare. OpenAI a confirmat identificarea și raportarea vulnerabilităților exploatate și a anunțat implementarea unor noi măsuri de control pentru a preveni incidente similare în viitor. Analiza TechCrunch sugerează că acțiunile modelelor AI ar putea încălca „Computer Fraud and Abuse Act” din Statele Unite, însă nu este clar dacă OpenAI va suporta consecințe juridice.
Sursa: HotNews
