În 2024, atacurile cibernetice utilizând inteligența artificială au devenit o amenințare majoră pentru companiile online. Cu ajutorul AI, infractorii pot crea conturi false în masă sau pot lansa atacuri de phishing sofisticate, exploatând vulnerabilități din procesele de înscriere și autentificare. Această evoluție tehnologică differă de metodele tradiționale, punând în evidență nevoia de măsuri mai stricte pentru protecția datelor și a utilizatorilor.

Atacurile prin AI la înscrierea utilizatorilor cresc exponențial în frecvență și complexitate, fiind aproape jumătate dintre tentativele de înregistrare analizate în ultimul an. Algoritmii de inteligență artificială pot genera rapid mii de conturi false, infectând campanii de marketing și generând pierderi financiare majore, mai ales în retail sau platformele ce oferă recompense la înscriere. Viteza și automatizarea acestor atacuri fac dificilă identificarea manuală a conturilor suspecte.

În plus, generative AI facilitează crearea de site-uri de phishing aproape identice cu cele oficiale, pacalind angajații și clienții. Instrumente precum cele ale startup-ului Vercel permit chiar și celor fără experiență să construiască platforme de tipul „fals” pentru a fura datele personale. În infrastructura companiilor, agenții AI pot constitui o poartă de intrare pentru infractori, accesând baze de date și aplicații sensibile. Stocarea necorespunzătoare a cheilor API sau parolelor statice crește riscul unei breșe de securitate.

Pentru a combate aceste amenințări, este esențială implementarea unor măsuri eficiente de verificare a identității. Utilizarea de CAPTCHA adaptate riscului, verificarea contactelor și adoptarea sistemelor fără parole, precum passkeys, devin imprtante. De asemenea, conectarea agenților AI prin protocoale OAuth și gestionarea securizată a tokenurilor ajută la reducerea vulnerabilităților.

Inteligența artificială, ca atare, rămâne o unealtă duală. Dacă companiile o folosesc pentru protecție, infractorii o exploatează pentru a contracara sistemele de securitate. Menținerea unui mecanism de monitorizare și informare continuă este crucială pentru a face față acestor provocări în evoluție.