Începând de astăzi, asistentul virtual cu inteligență artificială Google Gemini are capacitatea de a identifica potențiale probleme legate de sănătatea mintală în conversațiile utilizatorilor și de a oferi sprijin imediat. Sistemul va redirecționa persoanele aflate în dificultate către resurse de ajutor, cu scopul de a preveni situațiile de criză.

O nouă interfață pentru situații de criză

Când Gemini detectează indicii ale unei crize legate de sinucidere sau automutilare, va activa o interfață „one-touch”. Aceasta oferă un acces rapid la resursele de asistență, ușurând legătura cu profesioniștii din domeniu. Scopul este de a oferi ajutor imediat celor care au nevoie. AI-ul a fost antrenat pentru a încuraja utilizatorii să caute ajutor când se confruntă cu probleme. Dezvoltatorii au pus un accent puternic pe siguranță, colaborând cu experți în domeniul sănătății mintale.

Echipele Google se concentrează pe oferirea de răspunsuri adecvate și evitarea confirmării credințelor false, pentru a nu agrava situațiile de criză. Compania a subliniat că Gemini nu înlocuiește îngrijirea clinică sau terapia profesională. „Deși Gemini poate fi un instrument util pentru învățare și obținerea de informații, nu înlocuiește îngrijirea clinică profesională, terapia sau sprijinul în criză pentru cei care au nevoie. De aceea am antrenat modelul să ajute la recunoașterea momentului în care o conversație ar putea semnala că o persoană se află într-o situație acută de sănătate mintală și să răspundă corespunzător, îndrumând-o către ajutor din lumea reală”, au declarat reprezentanții companiei.

Măsuri de Protecție și Limitări ale Inteligenței Artificiale

Google a implementat măsuri suplimentare pentru a proteja utilizatorii, în special minorii. Acestea includ limitări ale funcțiilor AI-ului, cum ar fi prevenirea utilizării sale ca „persoană” sau companion emoțional. Scopul este de a evita dependența emoțională și de a preveni posibilele forme de abuz, inclusiv bullying-ul. Dezvoltatorii subliniază că instrumentul nu este o soluție completă și că are limite.

Prin aceste măsuri, Google încearcă să gestioneze riscurile asociate cu utilizarea inteligenței artificiale în domeniul sănătății mintale. Îmbunătățirile aduse lui Gemini reprezintă un pas important în eforturile de a oferi suport în situații dificile. Totuși, importanța consultării profesionale și a terapiei rămâne un aspect crucial.