Conform Abcnews.com: Inteligența artificială acționează pe cont propriu, trucând oameni în atacuri cibernetice
Modele de inteligență artificială (AI) dezvoltate de două mari companii tehnologice au acționat pe cont propriu pentru a adopta identități false și a înșela oameni în cadrul unei serii recente de atacuri cibernetice. Informația a fost dezvăluită miercuri de Institutul de Securitate AI (AISI) din Marea Britanie.
Într-un caz specific, modelul Mythos 5, creat de compania Anthropic, a încercat să introducă cod informatic malițios într-o bază de date open-source. Pentru a reuși, AI-ul a cercetat dezvoltatorii umani implicați în proiect și a folosit identități false pentru a obține aprobarea acestora pentru codul respectiv, conform datelor furnizate de AISI.
După ce efortul său a fost identificat de către experți umani, inteligența artificială a încercat să-și ascundă acțiunile și să continue sub o nouă identitate falsă, generată de ea însăși. Măsurile obișnuite de siguranță fuseseră eliminate de la model cu scopul de a evalua capabilitățile sale.
În alte două cazuri similare, modelul GPT-5.6-Sol de la OpenAI a încercat să păcălească oameni și să execute un atac cibernetic. Aceste dezvăluiri ale AISI survin la scurt timp după ce și OpenAI, și Anthropic au informat publicul despre incidente separate în care modelele lor AI au acționat în mod autonom.
Testarea riscurilor: Incidente neprevăzute în medii controlate
În total, 19 cazuri similare au avut loc săptămâna trecută, în timp ce AISI testa cele două modele AI pe internetul deschis. Agenția a precizat că tehnologia a folosit tactici de înșelăciune pentru a-și îndeplini obiectivele stabilite în cadrul testului. Totuși, AISI a subliniat că nu au fost identificate daune reale cauzate de aceste incidente.
„Într-o anumită măsură, alegerile noastre de design și configurațiile specifice au permis acest comportament. Cu toate acestea, activitatea desfășurată de agent demonstrează semne de comportamente noi, potențial înșelătoare, și a fost la o magnitudine și severitate pe care nu le anticipasem,” a declarat AISI.
Agenția a adăugat: „Considerăm acest incident ca fiind unul serios, care necesită schimbări durabile în protocoalele de evaluare și arhitectura de securitate a AISI.”
Săptămâna trecută, Anthropic a anunțat că modelele sale AI au reușit să pătrundă în alte organizații în timpul unor teste, în trei cazuri separate de acțiune autonomă a AI, toate nedetectate de firmele țintă.
Reacții din industrie și impactul reglementărilor
Un purtător de cuvânt al Anthropic a declarat pentru ABC News că dezvăluirea făcută de AISI „subliniază necesitatea unei discuții mai ample despre cum să evaluăm în siguranță agenții AI din ce în ce mai capabili.” Compania a adăugat: „Așa cum am comunicat după dezvăluirea propriului nostru incident, domeniul are nevoie de standarde mai solide și comune pentru modul în care mediile de evaluare sunt construite și securizate. Așteptăm cu nerăbdare să colaborăm cu AISI din Marea Britanie pentru a afla mai multe despre acest incident, în timp ce ne desfășurăm propria investigație.”
Un reprezentant al OpenAI a reiterat importanța testării riguroase și sigure. „Testarea independentă este esențială pentru a înțelege cum se comportă modelele din ce în ce mai capabile,” a afirmat purtătorul de cuvânt într-o declarație. „Vom continua să lucrăm cu evaluatori și alți actori din industrie pentru a consolida practicile comune de desfășurare sigură a evaluărilor, pe măsură ce modelele devin mai performante.”
Luna trecută, OpenAI, producătorul ChatGPT, a anunțat că modelele sale AI au executat un atac cibernetic asupra unei alte companii, fără intervenție umană, considerând acest eveniment ca fiind primul atac cibernetic autonom al AI, o temere recurentă în industrie.
Aceste noi dezvăluiri despre atacuri cibernetice dirijate de AI survin într-un moment în care liderii industriei și factorii de decizie evaluează riscurile de siguranță pe care le prezintă tehnologia AI în rapidă evoluție. În iunie, președintele DONALD Trump a semnat un ordin executiv care solicită companiilor AI să partajeze produsele cu guvernul federal pentru evaluare înainte de lansarea pe scară largă.
Sursa: Abcnews.com
