Inteligența artificială a pătruns fără echivoc în infrastructura digitală globală, iar efectele sale încep să fie resimțite și în zonele mai obscure ale cyberspațiului. Dacă, până de curând, discuțiile se concentrau pe potențialul său de a stimula productivitatea și inovația, realitatea de astăzi indică o față mai întunecată: aceleași instrumente pot fi folosite pentru operațiuni malițioase, de la campanii sofisticate de phishing până la dezvoltarea de malware capabil să scape verificărilor tradiționale de securitate.

Ai ca „copilot” pentru atacuri – dar și ca slujitor al apărării

Un raport recent dezvăluie că modelul Gemini, dezvoltat pentru diverse aplicații, este exploatat în mod activ de grupări criminale și de actori statali pentru a acoperi aproape întregul ciclu al unor atacuri cibernetice. De la profilarea țintelor și colectarea de informații publice, până la crearea de mesaje de phishing și testarea de vulnerabilități, AI devine un adevărat „copilot” pentru infractori, permițând accelerarea și scalarea unor operațiuni care înainte necesitau echipe mari și timp îndelungat pentru cercetare.

„Modelul Gemini nu inventează amenințări complet noi, ci amplifică viteza, eficiența și accesibilitatea celor deja cunoscute”, explică specialiștii. Acest lucru face ca atacurile, chiar dacă păstrează anumite caracteristici de bază, să se desfășoare mai rapid și cu mai puțină implicare umană, avantajul lor fiind vizibil în special în scenarii țintite, precum dezvoltarea de mesaje frauduloase ce par credibile sau identificarea instantanee a vulnerabilităților sistemelor.

Malware augmentat și prototipuri AI în cercetarea infracțională

Dincolo de campaniile de phishing, opinia experților indică un trend aproape inevitabil: integrarea AI în procesul de creație a malware-ului. Modele precum HonestCue și CoinBait reprezintă doar primele exemple, dar semnalează pentru comunitatea de securitate o direcție clară. HonestCue, de exemplu, foloseste API-ul Gemini pentru a genera și compila automat componente de malware în limbajul C#, reducând timpul de la idee la funcționare și eliminând aproape complet necesitatea intervenției umane directe. În același timp, CoinBait este un kit de phishing construit ca o aplicație web ce imită platforme crypto, conceput să fure credențiale și să păcălească utilizatorii cu un conținut aparent real.

Chiar dacă aceste exemple nu schimbă complet regulile jocului, ele devin din ce în ce mai reprezentative pentru modul în care ecosistemul infracțional își adaptează metodele pentru a deveni mai eficiente și mai greu de detectat. Acel „prot Itip” al zilei poate deveni rapid standard în următoarele rețele criminale.

Inovație în strategie: phishingul dinamic și ingineria socială sofisticată

Un alt domeniu în plină evoluție este utilizarea AI pentru a crea campagne de tip ClickFix, inclusiv pentru ținte de macOS sau alte platforme, în care victimele sunt entice prin reclame și anunțuri optimizate. Atacatorii folosesc generative AI pentru a produce mesaje mai coerente, credibile și, cel mai important, mai greu de identificat drept frauduloase.

Astfel, autorii de malware beneficiază de un nivel superior de credibilitate în mesajele lor, în timp ce victimele rămân adesea neobservate. Pentru utilizatorii obișnuiți, restricțiile trebuie să fie mai stricte: verificarea sursei, evitarea instalării de aplicații suspecte și o atentă analiză a domeniilor și mesajelor primite devin arme esențiale în fața unei amenințări tot mai sofisticate.

O dimensiune invizibilă: infiltrația și furtul de cunoaștere

Pe lângă pericolul direct, un alt risc emergent este cel al extragerii de modele și know-how-urilor de către actorii răuvoitori. În încercarea de a replica sau îmbunătăți modelele dezvoltate de companii, infractorii pot interoga intensiv și sistematic aceste servicii, colectând date pentru a crea replici mai ieftine și mai eficiente. Acest proces, cunoscut drept distilare a cunoașterii, are impact nu doar asupra companiilor de AI, ci și asupra pieței de tehnologie, reducând avantajul competitiv și, în cele din urmă, destabilizând ecosistemul de inovație.

Viitorul și lupta pentru control

În fața thesei, principalele orientări pentru companii și utilizatori au devenit robustețea și maturizarea răspunsurilor. Controalele interne, monitorizarea continuă și exercițiile de simulare de atacuri sunt acum mai mult ca niciodată parte integrantă a strategiei de securitate. În același timp, serviciile de AI și platformele de cercetare trebuie să își îmbunătățească rapid mecanismele de detecție și prevenție.

Este clar că AI va continua să fie un puternic accelerator, fie pentru inovație, fie pentru atacuri. Rămâne în mâinile celor care gestionează și implementează aceste tehnologii să decidă dacă va fi o forță pentru bun sau pentru rău în lumea digitală. Cei mai buni apărători sunt cei care înțeleg că, în acest război nevăzut, disciplina și vigilenta devin cele mai importante arme.