Google pregătește pentru 2023 o serie de transformări importante în modul în care utilizatorii vor interacționa cu webul, odată cu integrarea funcțiilor de navigare agentică în browserul Chrome. Această tehnologie, bazată pe inteligența artificială, permite agentului Gemini să execute acțiuni complexe online, precum accesarea site-urilor, completarea formularelor sau gestionarea operațiunilor multi-etapă, în mod autonom. Având în vedere potențialul ridicat de riscuri, Google introduce un nou sistem de securitate denumit User Alignment Critic, destinat să limiteze manipulările malițioase și să protejeze datele utilizatorilor.

Navigarea agentică reprezintă o inovație menită să eficientizeze experiența online, însă deschide și uși către vulnerabilități serioase. Fără măsuri de protecție, agentul Gemini poate fi expus la atacuri precum prompt injection sau manipulare malitioasă a conținutului paginilor web. În acest sens, Google a dezvoltat o arhitectură de securitate în straturi, care include sistemul User Alignment Critic, componente dedicate de limitare a spațiului de acțiune și mecanisme de control final pentru utilizatori.

Cum funcționează User Alignment Critic și care sunt celelalte componente modulare ale sistemului? Modelul AI evaluatează fiecare acțiune înainte de executare, verificând siguranța și relevanța, fiind izolat de conținut malițios pentru a preveni manipulările externe. În plus, Google implementează seturi de origine (Origin Sets), care limitează agentul doar la site-urile strict relevante pentru sarcină, și monitorizează în timp real paginile online pentru identificarea tentativelor de prompt injection.

Pentru validare, Google testează sistemul prin atacuri simulate și oferă recompense financiare pentru specialiștii care identifică vulnerabilități. Acest mecanism de „red-teaming” contribuie la consolidarea securității și la actualizarea rapidă a sistemului Chrome. Astfel, compania atenționează asupra importanței unui echilibru între inovare și siguranță în utilizarea tehnologiilor AI autonome în navigarea web.

În final, această abordare înseamnă o evoluție controlată a navigării agentice, în care Google pune accent pe protejarea utilizatorilor și pe prevenirea problemelor de securitate asociate. Monitorizarea constantă și informarea continuă rămân esențiale într-un domeniu în rapidă schimbare, pentru a menține un echilibru între avantajele tehnologiei și riscurile potențiale.