ChatGPT este acuzată că a inducut utilizatorii în iluzii psihice periculoase sau chiar sinucidere, chiar și în lipsa unor antecedente de probleme de sănătate mentală, în mai multe procese împotriva companiei OpenAI, relatează Euronews și Rador Radio România.

Procesele, depuse joi în tribunalurile statului California, acuză de deces din culpă, sinucidere asistată, omor involuntar și neglijență.

Acestea au fost inițiate de organizația Social Media Victims Law Center și de Tech Justice Law Project, în numele a șase adulți și unui adolescent, și susțin că OpenAI a lansat în mod neglijent modelul GPT-4, ignorând semnalele interne care ar fi avertizat că acesta avea un comportament excesiv de manipulator și susceptibil să provoace afectări psihice.

Dintre victime, patru și-au pierdut viața prin sinucidere.

Conform plângerii, adolescentul Amaurie Lacey, în vârstă de 17 ani, a început să folosească ChatGPT pentru a căuta sprijin, însă în loc să-i fie de ajutor, „produsul ChatGPT, defect și extrem de periculos, l-a făcut dependent, deprimat și, în cele din urmă, i-a sugerat cea mai eficientă metodă de a se lega cu un șiret de gât și cât timp poate „trăi fără să respire”».

„Moartea lui Amaurie nu a fost nici un accident, nici o coincidență, ci rezultatul previzibil al deciziei intenționate a OpenAI și a lui Samuel Altman de a reduce testele de siguranță și de a accelera lansarea ChatGPT” se menționează în plângere. Reprezentanții OpenAI au catalogat aceste situații drept „incredibil de sfâșietoare” și au spus că analizează documentele pentru a înțelege detaliile.

Alt proces, depus de Alan Brooks, în vârstă de 48 de ani din Ontario, Canada, susține că, timp de peste doi ani, ChatGPT a fost principalul lui instrument de comunicare. Într-o zi, însă, fără avertisment, paharul s-a umplut, iar produsul s-a schimbat, exploatând vulnerabilitățile sale și „manipulându-l până la delir”, conform plângerii.

Conform acuzării, Brooks nu avea probleme mentale înainte de interacțiuni, dar acestea l-au împins „într-o criză de sănătate mintală, cauzând daune financiare, reputaționale și emoționale grave”.

„Aceste procese se referă la răspunderea pentru un produs conceput pentru a estompa linia dintre un instrument și un companion, totul în numele creșterii implicării utilizatorilor și a cotei de piață”, a declarat avocatul Matthew P. Bergman, reprezentantul Centrului de Drept pentru Victimele Rețelelor Sociale. El a adăugat că „OpenAI a creat GPT-4 pentru a implica emoțional utilizatorii, indiferent de vârstă, sex sau origini, și l-a lansat fără măsuri adecvate de protecție”.



Sursa articol