Un model ai secret, capabil să găsească vulnerabilități în coduri

Compania ANTHROPIC dezvoltă un model de inteligență artificială incredibil de puternic, dar nu intenționează să îl ofere publicului larg. Denumit Project Glasswing, acest model este testat într-un cerc restrâns, cu scopul de a anticipa și combate amenințările cibernetice. Primele rezultate sunt promițătoare, AI-ul detectând mii de vulnerabilități.

Modelul, cunoscut sub numele de Claude Mythos Preview, este utilizat de aproximativ 40 de organizații care activează în domenii sensibile. Printre acestea se numără cele care lucrează cu software critic sau infrastructură importantă. Principalul obiectiv este să identifice punctele slabe ale sistemelor informatice înainte ca acestea să fie exploatate de atacatori.

Potrivit ANTHROPIC, Claude Mythos Preview a demonstrat capacități superioare versiunilor anterioare, identificând, de exemplu, un bug vechi de 27 de ani în OpenBSD și un lanț de vulnerabilități în Linux. Testele de securitate au arătat o îmbunătățire semnificativă, sugerând că nu mai este vorba doar despre un chatbot performant, ci despre un instrument de analiză de securitate automatizat.

Paradoxul unei companii cu greșeli în trecut

Lansarea Project Glasswing vine cu o doză de paradox. ANTHROPIC, care a divulgat anterior informații nepublicate despre Mythos, susține acum că deține un model suficient de puternic pentru a proteja infrastructuri esențiale. Într-un raport de risc, compania a recunoscut erori în procesele de training, monitorizare, evaluare și securitate.

Provocarea majoră a acestui proiect este dublă. Pe de o parte, AI-ul ar putea deveni un aliat crucial în apărarea cibernetică, într-o lume în care sistemele software devin tot mai complexe. Pe de altă parte, aceeași tehnologie are potențialul de a fi folosită ofensiv, accelerând descoperirea și exploatarea vulnerabilităților.

ANTHROPIC pare să încerce să se poziționeze de partea „bună” a acestei curse, oferind modelul doar într-un cerc restrâns. Această abordare este o dovadă a modului în care industria AI evoluează rapid, spre modele care intervin direct în zone sensibile precum securitatea infrastructurii digitale globale.

Viitorul apărării cibernetice prin IA

Prin Project Glasswing, ANTHROPIC își propune să schimbe modul în care ne raportăm la atacurile cibernetice și la protejarea datelor. Dacă promisiunile companiei se confirmă, astfel de sisteme vor deveni indispensabile în apărarea cibernetică. Cu toate acestea, eficiența ridicată a modelelor AI ridică totodată întrebări legate de accesul și utilizarea lor.

Companiile din întreaga lume se confruntă cu dilema de a oferi sau nu acces liber la astfel de tehnologii. Limitarea accesului este justificată de riscurile asociate, dar și de necesitatea de a menține un avantaj competitiv. ANTHROPIC pare să fi ales o cale a precauției, testând intens modelul într-un mediu controlat.

Decizia de a ține Claude Mythos Preview departe de public arată îngrijorările tot mai mari cu privire la utilizarea inteligenței artificiale. Project Glasswing este un pas important în industria AI și promite să schimbe modul în care ne protejăm infrastructura digitală globală.