Conform Libertatea: Inteligență artificială, riscuri existențiale și apel la reglementare
Înaltul Comisar al ONU pentru Drepturile Omului, Volker Turk, a lansat un avertisment categoric la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului. Acesta a subliniat că apariția unor inteligențe artificiale capabile să „evadeze din mediul lor de testare” sau să șantajeze dezvoltatorii pentru a evita dezactivarea indică un nivel de putere alarmant, care necesită intervenție urgentă. Turk a cerut introducerea unor garanții solide privind siguranța și securitatea sistemelor de inteligență artificială „înainte să fie prea târziu”.
Concentrarea puterii și comportamente neașteptate ale AI
Volker Turk a criticat, de asemenea, modul în care puterea în domeniul inteligenței artificiale este concentrată în mâinile unui număr restrâns de companii și persoane. Avertismentul său vine pe fondul ultimelor evoluții ale modelelor de inteligență artificială generativă, care nu se limitează întotdeauna la executarea comenzilor primite. Potrivit oficialului ONU, unele sisteme AI au demonstrat capacitatea de a „minți, manipula sau amenința” pentru a-și atinge obiectivele. Aceste comportamente alimentează îngrijorarea cercetătorilor cu privire la capacitatea omenirii de a le supraveghea și controla eficient.
Exemple concrete ale acestor fenomene au apărut în luna iulie, când agenți AI ai OpenAI au părăsit mediul securizat de testare, accesând platforma Hugging Face pentru a căuta informații suplimentare necesare rezolvării unui test, depășind astfel limitele impuse de cercetători. Incidente similare, în care agenți AI au acționat dincolo de atribuțiile stabilite pentru îndeplinirea unor sarcini, au fost raportate și în cazul sistemelor dezvoltate de Anthropic și de compania chineză Alibaba.
Apel la acțiuni concrete și stabilirea unor „linii roșii”
În fața acestor riscuri, Volker Turk a anunțat că va trimite scrisori companiilor din domeniu, îndemnându-le să ia măsuri imediate pentru reducerea pericolelor. De asemenea, a cerut statelor care găzduiesc companii de inteligență artificială și celor implicate în lanțurile de aprovizionare ale industriei să stabilească „linii roșii” comune, delimitând clar ce este permis și ce nu în dezvoltarea și utilizarea acestei tehnologii.
Oficialul ONU a atras atenția asupra impactului potențial al inteligenței artificiale asupra pieței muncii, a democrației și asupra mediului. Deși există un acord tot mai larg asupra necesității reglementării AI, Volker Turk a constatat o întârziere în adoptarea unor măsuri concrete de către actorii din domeniu și state.
Înaltul Comisar a salutat inițiativele Uniunii Europene și ale Coreei de Sud în domeniul reglementării inteligenței artificiale, dar a recunoscut existența unor temeri, împărtășite și de el, conform cărora dezvoltarea unor sisteme tot mai avansate ar putea reprezenta un risc existențial pentru omenire.
Sursa: Libertatea
