În era digitală, pericolul ca inteligența artificială să devină un aliat neintenționat al infractorilor cibernetici devine tot mai real. Deși scenariile în care AI-ul operează complet autonom în atacuri cibernetice rămân o ficțiune, realitatea prezentă este mult mai îngrijorătoare: crima digitală formalizează și optimizează folosirea acestor tehnologii, începând de la identificarea vulnerabilităților și până la generarea de cod malițios. Odată cu evoluția rapidă a sistemelor AI, riscurile la adresa securității cibernetice se amplifică, iar noile provocări sunt pe termen lung.

Pandemia vulnerabilităților și oportunitățile AI-ului pentru infractori

Un raport realizat de un grup internațional de experți, coordonat de renumitul cercetător Yoshua Bengio, scoate în evidență o tendință clară: capacitatea sistemelor AI de a automatiza și de a susține atacurile cibernetice s-a dublat într-un singur an. Deși nu există încă dovezi că am putea asista la un atac complet autonom, cazurile în care AI-ul a fost folosit în mod semi-autonom, cu intervenții minimale din partea umană, sunt deja disponibile. Această evoluție creează o frontieră nouă pentru criminalitatea digitală, punând în pericol infrastructurile critice și datele sensibile.

Identificarea vulnerabilităților software reprezintă unul dintre cele mai evidente exemple de aplicare a AI-ului în domeniul infracțional. Modelele de inteligență artificială pot analiza rapid și precis codul sursă al aplicațiilor, descoperind puncte slabe exploatabile. În cazul competițiilor de securitate cibernetică, aplicațiile AI au demonstrat deja că pot identifica în mod automat cele mai vulnerabile zone ale unor infrastructuri artificial create pentru testare. Problema majoră apare însă în mâinile infractorilor, unde aceste tehnologii open-source sunt folosite pentru a scana și exploata breșele imediat după publicarea lor, reducând timpul de reacție al defenderilor la un prag critic.

Pe lângă detectarea vulnerabilităților, AI-ul a devenit o unealtă de înaltă sofisticare pentru generarea de cod malițios, precum ransomware sau spyware. Grăbită să democratizeze accesul la atacuri de nivel avansat, criminalitatea cibernetică utilizează acum instrumente accesibile pe piețele negre, sub forme de abonamente ieftine, permițând persoanelor cu competențe limitate tehnic să lanseze atacuri complexe. Astfel, frauda devine mai accesibilă, fragmentată și automatizată, ceea ce face ca răspunsul tradițional al instituțiilor de securitate să pară adesea uneori depășit.

Limitele tehnologiei și riscurile neașteptate ale autonomiei AI

Deși utilizarea AI-ului în atacuri complet autonome nu este încă o realitate, experții avertizează asupra faptului că această tehnologie se află în stadiu incipient, dar cu potențial de a evolua rapid. Problema majoră ține de dificultățile pe care le întâmpină în gestionarea unor atacuri multi-etapă, complexe, în mod complet independent. În practică, AI-ul întâmpină dificultăți în păstrarea contextului, în adaptarea la situații neașteptate și în corectarea deciziilor greșite, ceea ce limitează capacitatea sa de a orchestra un atac de anvergură, integral autonom.

Totuși, această constrângere nu reduce în mod semnificativ nivelul de pericol. Riscurile majore apar din combinația dintre automatizare parțială, scalare rapidă și poziționarea AI-ului în infrastructuri critice. Într-un mediu în care infrastructurile digitale ale companiilor, serviciilor publice sau platformelor sociale devin din ce în ce mai dependente de aceste tehnologii, comportamentele surprinzătoare sau necontrolate ale agenților autonomi pot avea consecințe apocaliptice.

Experții avertizează că nu mai este o chestiune de „dacă”, ci de „când” va avea loc un eveniment grav, nu neapărat în forma unui atac realizat de un super-AI, ci prin acumularea de instrumente inteligente și de automatizări fragmentate, integrate în infrastructuri critice fără limite clare. În acest context, securitatea cibernetică trebuie să se adapteze, nu doar în fața amenințărilor actuale, ci și în fața unei noi ere în care prevenția, monitorizarea și controlul AI-ului devin piloni esențiali pentru protejarea societății digitale.

Pentru umanitatea, orientarea în această direcție înseamnă o luptă continuă cu un adversar din ce în ce mai versatil, în care limitele tehnologiei trebuie stabilite și respectate, înainte ca amenințarea să se transforme în realitate.