Unul dintre pionierii sistemelor de învățare automată și laureat al premiului Turing, Yoshua Bengio, avertizează asupra riscurilor tot mai crescute ale inteligenței artificiale avansate. În contextul evoluției rapide a tehnologiilor AI, cercetătorul subliniază importanța reglementărilor și a măsurilor de siguranță pentru a evita scenarii negative de amploare, chiar și situații de natură existențială.

Bengio, actor central în dezvoltarea tehnicilor de deep learning, a avut o contribuție semnificativă în crearea algoritmilor care stau la baza tehnologiilor moderne. Studiile sale timpurie despre mecanisme precum atenția în rețele neuronale și curriculum learning au dus la apariția modelelor de limbaj, inclusiv transformerele folosite în ChatGPT. Totuși, în 2022, momentul lansării ChatGPT a schimbat percepția cercetătorului, care a realizat potențialele pericole ale sistemelor AI extrem de puternice.

Lansarea ChatGPT a generat entuziasm, dar și temeri legate de controlul asupra tehnologiei. Analizele lui Bengio au evidențiat riscul ca aceste sisteme să depășească limitele controlului uman, fiind dificil de asigurat siguranța deplină a lor. Lui Bengio îi preocupă în special posibilitatea ca AI-urile să fie folosite pentru crearea de agenți patogeni sau pentru manipulări ce pot duce la catastrofe mondiale.

În cercetările sale recente, el a evidențiat trei categorii principale de riscuri: malfuncții neintenționate, utilizare malițioasă și efecte sistemice precum pierderea locurilor de muncă. De exemplu, deepfake-urile și atacurile cibernetice automate continuă să evolueze, accentuând necesitatea unor măsuri de prevenție.

Pentru Bengio, riscurile cele mai mari vin din posibile scenarii în care AI-ul devine un instrument pentru persoane cu intenții răuvoitoare sau motivate ideologic. Acestea pot crea probleme grave pentru stabilitatea socială, securitate și supraviețuirea umanității. În răspuns, cercetătorul promovează dezvoltarea unei AI sigure „prin design”, non-agentice, care să observe, analizeze și ofere explicații despre lume fără a acționa autonom.

Dezvoltarea unui model de AI fundamentat pe predicție și analiză este considerată de Bengio o soluție pentru barierele de siguranță. Astfel, sistemele pot anticipa consecințele acțiunilor și pot preveni incidentele periculoase, reducând riscul de abuz.

Deși riscurile sunt evidente, Bengio rămâne optimist în privința potențialului de a construi o evoluție responsabilă a inteligenței artificiale. Colaborarea internațională și reglementările solide au fost deja avansate, iar primul raport global coordonat de el a influențat strategiile pentru siguranța AI.

El avertizează însă că următorii ani sunt cruciali, fiind necesare eforturi accelerate pentru a asigura o integrare sigură a tehnologiei. Controlul și responsabilitatea trebuie să păstreze ritmul inovației pentru a evita dezvoltarea unor tehnologii periculoase. La final, mesajul lui Bengio subliniază importanța monitorizării continue și a informării în domeniul AI, pentru a preveni riscuri majore ce pot afecta viitorul umanității.