Conform Mediafax: Dezbaterea privind potențialele riscuri existențiale ale inteligenței artificiale (AI) a căpătat amploare după ce Jacob Coxon, cercetător la compania Anthropic, a anunțat în septembrie că părăsește firma, invocând temeri legate de posibilitatea ca sistemele AI să scape de sub control. Postarea sa a atins peste 100 de milioane de vizualizări într-o singură zi. Ulterior, Evan Hubinger, coordonatorul cercetării privind alinierea AI la valorile umane la Anthropic, a estimat că riscul extincției umane în următorul deceniu ar putea depăși 10%.
Riscuri existențiale și scenarii concrete
Scenariile de risc existențial pornesc de la premisa că sistemele AI viitoare ar putea depăși semnificativ capacitățile cognitive umane, iar obiectivele lor nu ar fi neapărat aliniate cu interesele oamenilor. Un exemplu frecvent vehiculat este cel în care o superinteligență primește un obiectiv aparent banal, dar îl urmărește într-un mod care intră în conflict cu supraviețuirea umană. De asemenea, sunt luate în considerare scenarii în care sisteme avansate ar putea fi utilizate pentru dezvoltarea de arme biologice sau alte acțiuni cu efecte catastrofale. Michael Vermeer, cercetător la RAND, a atras atenția că unele dintre aceste predicții se bazează pe presupuneri greu de verificat, transformând discuția mai mult într-una bazată pe credință decât pe dovezi empirice.
Pericole mai apropiate și capacități îngrijorătoare ale AI
Un studiu RAND, citat de revista Nature, a analizat scenarii mai concrete asociate armelor nucleare, biotehnologiei și modificării deliberate a atmosferei. Concluziile sugerează că extincția completă prin arme nucleare nu este fezabilă în scenariile analizate, însă alte două tipuri de scenarii nu au putut fi excluse. Totuși, un element crucial este timpul necesar pentru materializarea unui astfel de dezastru. Un sistem AI ar avea nevoie de o capacitate semnificativă de interacțiune fizică cu lumea, acțiunile sale putând fi detectate și oprite de oameni înainte de a ajunge la un punct ireversibil. Cercetătorii specializați în siguranța AI avertizează însă asupra riscurilor mai imediate și concrete, precum dezinformarea, atacurile cibernetice, facilitarea dezvoltării armelor biologice, erorile în sisteme critice și utilizarea modelelor AI în situații unde lipsa lor de fiabilitate poate avea consecințe grave.
Companiile din domeniul AI au publicat recent propriile evaluări. Anthropic a semnalat că modelele sale pot executa sarcini din domeniul informațiilor militare și dezvoltării de arme convenționale, sarcini ce necesitau anterior experți umani specializați, subliniind necesitatea unor sisteme de protecție suplimentare. OpenAI a raportat că modelul său GPT-6 Astra a atins un nivel „critic” în ceea ce privește securitatea cibernetică, putând identifica vulnerabilități necunoscute și concepe metode de exploatare a sistemelor protejate, motiv pentru care au fost implementate măsuri sporite de monitorizare și izolare.
Directorul general al Anthropic, Dario Amodei, a cerut o încetinire a ritmului de dezvoltare a sistemelor AI de vârf, dar nu o oprire completă, pentru ca măsurile de siguranță să poată ține pasul cu evoluția capacităților. Această idee a fost susținută de liderii OpenAI și xAI, Sam Altman și Elon Musk. În acest sens, Anthropic a anunțat un program de acces pentru evaluatori independenți, cu scopul de a verifica practicile de securitate și sistemele de protecție, în colaborare cu Accenture, cu o investiție estimată la cel puțin un miliard de dolari în următorii cinci ani. OpenAI susține, de asemenea, necesitatea unor standarde internaționale pentru evaluarea riscurilor, păstrarea controlului uman și stabilirea unor condiții clare pentru încetinirea sau oprirea dezvoltării sistemelor avansate.
Controverse și provocări legislative
Cu toate acestea, nu există un consens în industrie privind ritmul ideal de limitare a dezvoltării. Președintele american Donald Trump s-a opus public solicitărilor de încetinire. În contrast, în Congresul american, senatorul Bernie Sanders și congresmanul Greg Casar au propus o legislație care ar interzice dezvoltarea și implementarea „superinteligenței artificiale” și ar introduce o pauză temporară în dezvoltarea sistemelor AI avansate, până la stabilirea unor reguli federale de siguranță. În prezent, lipsește un cadru global unitar de reglementare a inteligenței artificiale, iar competiția dintre Statele Unite ale Americii și China pentru supremația tehnologică complică eforturile de coordonare internațională.
Datele actuale nu permit o concluzie științifică certă privind distrugerea omenirii de către AI, dar nici ipoteza unei catastrofe existențiale nu poate fi exclusă complet, gradul exact de risc rămânând intens disputat. Ceea ce este deja documentat este capacitatea crescândă a modelelor AI de a opera în domenii precum programarea, cercetarea, securitatea cibernetică și analiza problemelor complexe. OpenAI și Anthropic afirmă că AI accelerează chiar și dezvoltarea generațiilor viitoare de sisteme, alimentând discuția despre o participare tot mai mare a AI la propria sa evoluție. Pentru cercetători, provocarea majoră este măsurarea și controlarea riscurilor înainte ca sistemele să devină mult mai puternice decât cele actuale.
Sursa: Mediafax
