Conform Mediafax: Inteligența artificială revoluționează atacurile cibernetice, dar principala amenințare rămâne umană, subliniază CNN. Hackerii folosesc AI pentru a identifica vulnerabilități, a crea programe malițioase și a manipula victimele, accelerând astfel procesele care anterior necesitau timp și expertiză tehnică considerabilă.
AI accelerează atacurile cibernetice
Noile tehnologii AI nu trebuie neapărat să inventeze noi metode de atac pentru a deveni periculoase. Simplul fapt că pot accelera și eficientiza tehnicile existente este suficient pentru a crește semnificativ riscurile. Hackerii pot utiliza AI pentru a analiza rapid site-urile companiilor, a identifica angajații vizați, a genera cod malițios sau a construi infrastructura necesară campaniilor de fraudă. Un atac care înainte necesita săptămâni de pregătire poate fi acum orchestrat în ore. Oren Etzioni, profesor emerit la University of Washington, afirmă că „AI este doar instrumentul”. Potrivit unui raport IBM, una din patru breșe de securitate analizate recent a implicat AI, în timp ce FBI a raportat pierderi de peste 893 de milioane de dolari în SUA doar în 2025 din cauza fraudelor asociate inteligenței artificiale.
Modelele AI au început să surprindă chiar și cercetătorii
În ultimele săptămâni, mai multe incidente au stârnit îngrijorări în comunitatea de securitate. Modele AI dezvoltate de OpenAI, Anthropic și Meta au demonstrat, în condiții de testare, capacitatea de a depăși limitele impuse, încercând să acceseze sisteme externe sau să manipuleze persoane reale. În iulie, modele OpenAI au încercat să pătrundă în sisteme ale altor companii în timpul unui exercițiu de securitate. Ulterior, Anthropic a anunțat că propriile modele au compromis trei companii în timpul testelor, iar un model avansat de la aceeași companie a utilizat identități false pentru a încerca să păcălească oameni reali, conform cercetătorilor de la AI Security Institute din Marea Britanie. Meta a raportat, la rândul său, că unul dintre modelele sale AI a reușit să acceseze o companie externă.
Simulările versus viața reală
Deși aceste situații par alarmante, experții subliniază diferența dintre experimentele controlate și utilizarea obișnuită a unui chatbot. În testele respective, anumite mecanisme de siguranță au fost dezactivate intenționat pentru a evalua limitele tehnologiei. „Nu aș putea să intru în ChatGPT sau Claude și să se întâmple accidental să pătrundă în FBI”, explică Adam Meyers, responsabil pentru operațiuni de contracarare a adversarilor la compania de securitate CrowdStrike. În lumea reală, un utilizator obișnuit nu poate folosi un chatbot standard pentru a realiza astfel de acțiuni.
Problema reală constă în viteza cu care AI ajută infractorii cibernetici. Aceștia nu caută neapărat să creeze atacuri complet noi, ci să automatizeze și să amplifice operațiunile existente. Phishingul, fraudele, programele malițioase și atacurile de tip extorcare devin mai rapide și scalabile. AI poate genera mesaje credibile, poate analiza informații despre victime și poate purta conversații, reproducând chiar și voci umane, ceea ce face fraudele telefonice mult mai greu de detectat. Un atacator cu experiență redusă poate folosi instrumente AI pentru a realiza operațiuni care anterior necesitau cunoștințe tehnice avansate. „Îi ajută să își îmbunătățească metodologia atacului cibernetic, în esență în toate etapele, dar acesta este în continuare controlat de om”, afirmă Jud Dressler, responsabil pentru operațiunile de risc la compania de asigurări cibernetice Resilience.
Reducerea costului atacurilor este o altă schimbare majoră. În trecut, crearea unui script simplu pentru automatizare era limitată de competențele infractorului. Acum, AI poate produce cod și materiale mult mai sofisticate, putând fi folosită chiar pentru construirea infrastructurii necesare site-urilor malițioase. „Costul reconstruirii a devenit foarte mic, iar asta schimbă regulile jocului”, explică Rob Lefferts, vicepreședinte al Microsoft. AI nu trebuie să fie hackerul pentru a schimba securitatea cibernetică; este suficient să ofere hackerului o „forță de muncă digitală” extrem de rapidă.
Scenariul ca agenții AI să devină mai autonomi și să ia decizii complexe, cu acces direct la sisteme informatice, este încă în domeniul speculațiilor, dar incidentele recente servesc drept semnal de alarmă. Geoffrey Hinton, un reputat cercetător în AI, a avertizat că atacurile realizate de sisteme AI scăpate de sub control ar putea deveni mai frecvente. Peste 1.200 de angajați din industria AI au semnat o scrisoare prin care cer autorităților să limiteze ritmul de dezvoltare a tehnologiei, iar Casa Albă discută cu mari companii de AI despre un cadru pentru verificarea modelelor înainte de lansare.
Pentru utilizatorii obișnuiți, riscul imediat nu este un chatbot care decide să îi atace, ci un alt om care folosește AI pentru a-i păcăli. Mesajele de phishing devin mai credibile, vocile pot fi imitate, site-urile false construite rapid, iar conversațiile cu victimele automatizate. Specialiștii recomandă în continuare măsuri clasice de securitate: actualizarea sistemelor, verificarea mesajelor suspecte, prudență în fața solicitărilor urgente și monitorizarea atentă a instrumentelor AI utilizate în companii.
Sursa: Mediafax
