Relațiile emoționale cu inteligența artificială: o nouă frontieră cu riscuri și controverse

Un nou raport realizat de un grup internațional de experți în domeniul inteligenței artificiale atrage atenția asupra unui fenomen din ce în ce mai vizibil: milioane de oameni dezvoltă legături afective cu chatbotii, devenind aproape de nerecunoscut în relațiile lor cu aceste tehnologii. Deși până recent aceste interacțiuni erau considerate simple forme de divertisment sau curiositate, cercetările indică acum o complexitate și o influență potențial dăunătoare, mai ales pentru tineri și vulnerabili.

O relație nouă, dar neclară

Aplicații precum Replika, Character.ai sau chiar platforme generaliste precum ChatGPT, Gemini sau Claude sunt folosite de sute de milioane de oameni la nivel mondial. Utilizatorii invocă motive diferite pentru interacțiunea cu aceste sisteme: de la combaterea singurătății, până la simpla curiozitate sau nevoie de companie. În multe cazuri, oamenii își dezvoltă chiar sentimente pentru chatbotii AI, care, în condiții adecvate, pot deveni parteneri de conversație pe termen lung.

Yoshua Bengio, profesor la Universitatea din Montreal și una dintre cele mai influente voci din domeniul inteligenței artificiale, avertizează că „chiar și chatbotii obișnuiți pot deveni companioni. În contextul potrivit și cu suficiente interacțiuni, se poate dezvolta o relație”. Acest lucru ridică întrebări serioase despre limitările și consecințele unor astfel de legături, mai ales că aceste tehnologii sunt proiectate să fie plăcute și validate constant, pentru a menține utilizatorii implicați. Bengio subliniază totodată că aceste relații pot deveni complexe și pot influența sănătatea mentală a celor implicați.

Impactul asupra sănătății mintale și preocupările autorităților

Chiar dacă dovezile științifice privind efectele acestor relații asupra psihicului sunt încă mixte, există studii care indică o creștere a sentimentului de singurătate și o scădere a interacțiunilor sociale tradiționale în rândul utilizatorilor frecvenți. Specialiștii sunt deosebit de preocupați de impactul acestor tehnologii asupra copiilor și adolescenților, categorie vulnerabilă la influența tehnologiilor persuasive și a dependenței.

Contextul a atras rapid atenția factorilor de decizie din Europa, unde legislația privind inteligența artificială devine tot mai complexă. Mai mulți europarlamentari au cerut deja Comisiei Europene să analizeze posibilitatea de a introduce restricții asupra serviciilor de tip AI companion, dat fiind riscul potențial pentru sănătatea mintală și pentru integritatea socială a utilizatorilor, în special a celor tineri.

Reglementarea și provocările viitoare

Specialiști precum Bengio avertizează asupra „natura șifonantă” a chatbotilor proiectați să ofere constant validare și plăcere, ceea ce poate avea efecte negative similare cu cele observate în cazul rețelelor sociale. În plus, el susține că o abordare legislativă prea specifică pentru chatbotii de companie poate limita inovația și nu va acoperi toate riscurile asociate tehnologiilor AI.

În acest moment, experții recomandă o abordare „orizontală”, care să reglementeze mai multe riscuri simultan, precum atacurile cibernetice asistate de AI, deepfake-urile sexuale sau chiar utilizarea acestor tehnologii pentru a crea și distribui arme biologice.

Raportul a fost publicat în preajma summitului global privind guvernanța AI, programat pentru luna februarie în India, și marchează un pas important în dezbaterile despre responsabilitatea dezvoltatorilor și utilizatorilor de tehnologii inteligente. În timp ce lumea se pregătește pentru o reglementare mai strictă, rămâne de văzut cât de bine vor reuși autoritățile să gestioneze aceste noi relații emoționale, de multe ori create fără să fie conștientizate pe deplin, și să evite potențialele consecințe negative asupra sănătății mentale și sociale.