Studiu controversat contestă promisiunile industriei tech despre agenții AI autonomi

Luptele din domeniul inteligenței artificiale au atins un nou punct de cotitură, odată cu publicarea unui studiu care sfidează rationalitatea promisiunilor de autoadministrare a de fwca AI în domenii critice. Concluzia este clară: modelele lingvistice de ultimă generație, considerate de mulți ca fiind viitorul revoluționar al automatizării, au limite fundamentale insurmontabile, ce le împiedică să funcționeze în mod fiabil fără intervenții umane în medii complexe și sensibile.

Limitele matematice ale modelelor lingvistice și capcana promisiunilor

Cercetarea, semnată de Vishal Sikka, fost director tehnologic al gigantului SAP, și de fiul său, Varin Sikka, aduce în atenție un aspect adesea trecut cu vederea în campaniile de lobbying ale marilor companii tech: arhitectura modelelor moderne nu le permite să depășească anumite limite matematice. În esență, aceste sisteme sunt proiectate pentru a prezice următoarea secvență de text pe baza unui comportament probabilistic; ele nu sunt capabile să înțeleagă cu adevărat contextul sau să evalueze corectitudinea logica a informațiilor generate.

„Din cauza acestei arhitecturi, modelele AI nu pot atinge niciodată un nivel de fiabilitate care să le permită să funcționeze independent în domenii critice,” explică Vishal Sikka. Această afirmație răspândește o undă de scepticism în rândul experților, mai ales în contextul promisiunilor de agenți autonomi, capabili să gestioneze infrastructuri sensibile precum centrale nucleare sau sisteme de transport pentru orașe.

Realitatea implementării AI în teren: între promisiuni și deziluzii

Deși tehnologia avansează rapid, rezultatele aplicării practice ale agenților AI nu au fost nici pe departe la nivelul așteptărilor. Numeroase companii au încercat să înlocuiască munca umană cu aceste sisteme automate, însă, în cele mai multe cazuri, rezultatele au fost dezamăgitoare. Sistemele adesea comit greșeli gravi, sunt vulnerabile la halucinații—situații în care generează informații false cu convingere—și, în lipsa unui control strict, nu pot gestiona situații neașteptate.

Liderii din domeniu recunosc, chiar dacă discret, că aceste limitări reprezintă impedimente reale în utilizarea pe scară largă a agenților AI în mediile critice. În 2025, reprezentanți ai OpenAI au declarat public că „halucinațiile” AI persistă ca problemă structurală, iar acuratețea absolută nu va fi niciodată atinsă, ceea ce pune semnul de întrebare asupra conceptului de agent AI complet autonom.

De la marketing la realitatea economică: obstacole majore

Industria a rămas însă optimistă și a continuat să promoveze ideea agenților AI ca fiind următorul mare salt în automatizare. În anul precedent, numeroase companii și-au orientat eforturile către utilizarea acestor tehnologii pentru reducerea costurilor și eficientizarea proceselor. În realitate, însă, rezultatele au fost adesea contrar așteptărilor. În ciuda resurselor și a promisiunilor financiare, agenții AI nu au reușit să îndeplinească sarcini simple, fiind frecvent victime ale erorilor sau ale unor răspunsuri incoerente, inadaptate la situații neprevăzute.

Chiar și de către susținătorii tehnologiei, se admit acum limitările acestor sisteme: combinând modelele lingvistice cu alte componente software, unele probleme pot fi atenuate, dar nu pot fi eliminate complet. În cele din urmă, cercetarea recentă sugerează că agenții complet autonomi, capabili să funcționeze sigur și fiabil în medii complexe, nu reprezintă decât o iluziune tehnologică.

Gândindu-se la această realitate, declarațiile industriei devin și mai critice: diferența dintre marketing și posibilitățile reale ale tehnologiei devine din ce în ce mai vizibilă. Ca urmare, promisiunea unei automatizări totale și fără intervenție umană pare, pentru moment, mai degrabă un mit decât o realitate tangibilă, iar discuțiile privind limitele tehnologiei AI continuă să fie de actualitate și să alimenteze dezbateri în rândul specialiștilor. Ultimele studii și mărturii din industrie sugerează că viitorul acestor agenți va fi limitat mult mai mult decât s-a crezut anterior, lăsând loc pentru o reevaluare a așteptărilor și strategiilor din domeniul tehnologic.