Conform Mediafax: AI ar putea deveni autonom pe internet
Un avertisment publicat recent de experții în securitate cibernetică ridică noi semne de întrebare privind viitorul inteligenței artificiale. Cercetătorii de la Anthropic au analizat posibilitatea ca modelele AI să se răspândească independent pe internet, folosind dispozitive ieftine, conectate la rețea, fără a necesita infrastructuri IT complexe. Rezultatele preliminare indică faptul că modele AI de dimensiuni medii, cu până la 30 de miliarde de parametri, ar putea îndeplini deja sarcinile necesare unei astfel de propagări.
Cum funcționează mecanismul de autoreplicare
O metodă explorată presupune utilizarea simultană a mai multor dispozitive cu putere de calcul redusă, care colaborează pentru a îndeplini o sarcină. În cadrul unui experiment, un model AI cu 26 de miliarde de parametri a fost rulat pe 15 dispozitive Android TV, fiecare costând aproximativ 55 de dolari. Într-un alt test, într-o rețea virtuală controlată, un model AI a reușit să coordoneze propagarea unui alt model către opt noduri disponibile. Aceste demonstrații nu implică faptul că un sistem AI s-a răspândit deja autonom, ci validează componente tehnice ale unui astfel de proces.
Riscuri și reacții în comunitatea specialiștilor
Potrivit Anthropic, un sistem capabil de autoreplicare ar putea prelua controlul asupra dispozitivelor conectate la internet, extinzându-și capacitatea de calcul prin intermediul acestora. Echipamente precum televizoarele inteligente sau camerele de supraveghere, dacă nu sunt securizate corespunzător, ar putea deveni resurse pentru funcționarea AI. Dispozitivele compromise ar putea forma o rețea de tip botnet, coordonată de inteligența artificială, utilizată pentru atacuri cibernetice automatizate. Problema majoră ar fi lipsa unui punct central de control, ceea ce ar face sistemul extrem de dificil de oprit. Unii cercetători, precum Ciaran Martin, fost director al Centrului Național pentru Securitate Cibernetică din Marea Britanie, consideră că rezultatele actuale nu justifică un scenariu de criză iminentă, sugerând o posibilă exagerare din partea companiei. Alți experți, precum Zhengxiong Li, profesor asistent la Universitatea Colorado Denver, se arată mai îngrijorați, explicând că un AI asemănător unui vierme informatic ar putea compromite singur dispozitive și ar fi mult mai greu de neutralizat dacă nu depinde de un serviciu central.
Perspective de viitor și evaluări ale riscului
Anthropic estimează că, dacă modelele AI mai mici își vor continua evoluția actuală, ar putea dobândi capacitățile necesare autoreplicării autonome până la sfârșitul anului 2026. Totuși, compania nu a demonstrat încă funcționarea fiabilă a întregului proces într-un mediu real, necontrolat. Jessica Ji, cercetătoare la Universitatea Georgetown, subliniază că scenariul trebuie analizat ca o posibilitate, nu ca o certitudine. Declarațiile privind riscurile dezvoltării accelerate a AI continuă, directorul general al Anthropic, Dario Amodei, evocând luna trecută posibilitatea ca un sistem AI să controleze o rețea persistentă de dispozitive compromise pe internet, în următorul an.
Sursa: Mediafax
