Directorul general al Alphabet, Sundar Pichai, a emis un avertisment clar cu privire la riscurile utilizării instrumentelor de inteligență artificială (AI). Într-un interviu recent pentru BBC, Pichai a evidențiat că modelele AI nu trebuie tratate cu „încredere oarbă” din cauza posibilității producerii de informații eronate sau chiar inventate. Acesta a subliniat că tehnologia actuală are limite și necesită discernământ din partea utilizatorilor, fiind predispusă la erori.

Modelele generative de AI, precum cele folosite de Google pentru sumare de rezultate sau de asistenți digitali ca ChatGPT, au fost semnalate pentru furnizarea de informații false sau inexacte. Utilizatorii au raportat răspunsuri bizare și erori semnificative, ceea ce a atras atenția specialiștilor asupra riscului de dezinformare.

Cercetări recente realizate de BBC au arătat că rata de interpretare greșită a știrilor de către asistenții AI este de aproape 45%. Acest fapt evidențiază dificultatea de a garanta acuratețea informațiilor generate automat, chiar și în cazul celor mai avansate sisteme.

Google investește masiv în securitatea și controlul calității sistemelor AI. Compania a lansat instrumente open-source pentru detectarea imaginilor și textelor generate artificial, precum și pentru identificarea de răspunsuri false. Pichai a explicat că sunt combinate responsabilitatea și inovația, deși evoluția rapidă a tehnologiei aduce și riscuri sporite.

În ceea ce privește controlul asupra tehnologiei AI, Sundar Pichai a respins îngrijorările legate de o concentrare excesivă a puterii în mâinile unei singure companii. El a afirmat că ecosistemul diversificat de actori din domeniu oferă un nivel adecvat de securitate și resurse pentru evitarea unor scenarii precum cele sugerate de Elon Musk.

Este esențial ca utilizatorii și dezvoltatorii de AI să rămână informați și să monitorizeze evoluțiile tehnologice. În fața provocărilor legate de erori și potențiale riscuri, responsabilitatea în utilizarea și dezvoltarea acestor sisteme rămâne crucială pentru siguranța și credibilitatea tehnologiei.