Conform Mediafax: Sam Altman, CEO al OpenAI, a tras un semnal de alarmă în fața Consiliului de Securitate al ONU, subliniind necesitatea cooperării internaționale și a stabilirii unor reguli democratice pentru inteligența artificială (AI). El a avertizat că industria nu trebuie să își asume riscuri tehnologice excesive, chiar dacă beneficiile par imense.
Deciziile despre AI, dincolo de laboratoare
Altman a identificat pierderea controlului uman asupra tehnologiei ca fiind unul dintre principalele pericole ale progresului rapid în domeniul AI. El consideră că tehnicile de siguranță și de aliniere a AI cu valorile umane trebuie să țină pasul cu evoluția capacităților sale. De asemenea, a avertizat asupra riscului concentrării excesive a puterii în mâinile câtorva entități. „Dacă inteligența artificială trebuie să fie democratică, cele mai importante decizii nu pot fi luate doar în laboratoare din San Francisco”, a declarat Altman. El a accentuat că aceste decizii trebuie luate prin procese democratice și de către guverne responsabile în fața cetățenilor.
Cooperarea internațională este esențială, a subliniat șeful OpenAI, amintind de momente istorice în care țări concurente au colaborat pentru binele colectiv în fața unor tehnologii puternice. „Credem că acesta trebuie să fie unul dintre acele momente”, a afirmat Altman.
AI, o potențială „Renaștere” pentru umanitate
În ciuda riscurilor, Altman a evidențiat și beneficiile potențiale ale AI, comparând impactul acesteia cu o „Renaștere” dacă tehnologia va fi utilizată pentru a extinde capacitățile umane. OpenAI își propune să găsească o cale de mijloc, evitând atât optimismul orb, cât și fatalismul.
Compania pune accent pe trei principii fundamentale: oamenii trebuie să rămână în centrul procesului decizional, progresul tehnologic și economic să fie orientat spre oameni, iar AI să contribuie la creșterea capacităților fiecărei persoane. „Poate că noi suntem creatorii acestei tehnologii, dar nu suntem eroii acestei povești. Rolul nostru este să avem încredere în magia talentului uman”, a adăugat Altman.
Riscuri globale, soluții internaționale
La aceeași reuniune, Dario Amodei, directorul executiv al Anthropic, a reafirmat avertismentele privind potențialele riscuri ale AI asupra umanității, dacă tehnologia nu este gestionată corespunzător. El a pledat pentru o strategie internațională coordonată, subliniind că niciun stat sau companie nu poate gestiona singură provocările generate de sistemele AI tot mai avansate.
Amodei a cerut Consiliului de Securitate să susțină măsuri concrete, precum interzicerea utilizării AI pentru proliferarea armelor biologice și dezvoltarea unor sisteme de evaluare și verificare care să țină pasul cu inovația tehnologică.
Reuniunea, prezidată de ministrul francez de Externe, Jean-Noel Barrot, a abordat și riscul atacurilor cibernetice autonome și posibilitatea ca oamenii să piardă controlul asupra celor mai avansate modele AI. Yoshua Bengio, copreședinte al panelului științific independent al ONU pentru AI, a avertizat că „pericolele sunt reale și iminente” și nu respectă granițele naționale. Discuțiile au loc într-un context în care guvernele încearcă să reglementeze o tehnologie în evoluție rapidă, în timp ce abordările internaționale diferă, cum ar fi poziția președintelui american DONALD Trump împotriva unui cadru global restrictiv pentru dezvoltarea AI.
Sursa: Mediafax
