Agenții AI devin o vulnerabilitate majoră: peste jumătate dintre companii au suferit deja un incident de securitate

Adoptarea agenților de inteligență artificială în mediul enterprise accelerează într-un ritm care depășește cu mult capacitatea organizațiilor de a-i securiza corespunzător. Un studiu realizat pe un eșantion de 107 companii arată că majoritatea acestora au acordat agenților AI acces real și funcțional la sisteme interne și date sensibile, fără a implementa măsuri de protecție proporționale cu riscurile implicate, potrivit VentureBeat.

Jumătate dintre companii, deja afectate

Cifrele sunt îngrijorătoare: mai mult de jumătate dintre întreprinderile analizate — 54% — au confirmat fie un incident de securitate cauzat de un agent AI, fie o situație de tip „near-miss", adică un eveniment care a putut fi evitat în ultimul moment. Aceasta nu mai este o amenințare teoretică sau un scenariu de laborator. Este o realitate operațională cu care companiile se confruntă deja, chiar dacă nu recunosc public acest lucru.

Problema fundamentală nu constă în tehnologia agenților în sine, ci în modul în care aceștia sunt integrați în infrastructurile corporative. Agenții AI sunt tratați, în multe cazuri, ca simple aplicații software, fără a li se aplica principiile de securitate specifice entităților cu acces privilegiat la resurse critice.

Credențiale partajate și identități nescoped

Una dintre cele mai grave vulnerabilități identificate este practica partajării credențialelor între agenți. Potrivit VentureBeat, doar aproximativ o treime dintre companii alocă fiecărui agent o identitate proprie, cu permisiuni limitate și bine definite. Restul permit agenților să opereze pe baza unor credențiale comune, ceea ce înseamnă că un singur agent compromis poate oferi unui atacator acces larg la sisteme multiple.

Această abordare contravine principiului fundamental al securității cibernetice cunoscut drept „least privilege" — acordarea celui mai mic nivel de acces necesar pentru îndeplinirea unei sarcini. Aplicarea acestui principiu în cazul agenților AI este, în mod paradoxal, mai importantă decât în cazul utilizatorilor umani, tocmai pentru că agenții acționează autonom și la viteză mare.

Izolarea agenților cu risc ridicat, o excepție și nu o regulă

Un alt indicator alarmant vizează izolarea agenților considerați cu risc ridicat. Studiul arată că doar trei din zece companii implementează măsuri de izolare pentru cei mai periculoși agenți din infrastructura lor. Restul de 70% lasă acești agenți să opereze în același mediu cu restul sistemelor, creând condiții propice pentru propagarea unui incident.

Practic, companiile construiesc motoare puternice, dar nu investesc în frâne pe măsură. Viteza de implementare a soluțiilor bazate pe agenți AI este dictată de presiunea competitivă și de dorința de a eficientiza rapid procesele interne. Securitatea devine astfel un element secundar, tratat retrospectiv, după ce arhitectura este deja funcțională.

Un decalaj structural între inovație și guvernanță

Ceea ce descrie acest studiu este, în esență, un decalaj structural între ritmul inovației tehnologice și capacitatea organizațiilor de a guverna această inovație. Echipele de securitate nu sunt implicate suficient de devreme în procesul de implementare a agenților AI, iar politicile existente nu au fost actualizate pentru a acoperi specificul acestei categorii de software autonom.

Pentru companiile care operează pe piața românească și europeană, mizele sunt și mai ridicate în contextul reglementărilor stricte privind protecția datelor. Un incident de securitate generat de un agent AI poate atrage nu doar pierderi operaționale, ci și sancțiuni semnificative în baza regulamentelor în vigoare. Momentul în care securitatea agenților AI devine o prioritate strategică, și nu o notă de subsol în planurile de transformare digitală, nu mai poate fi amânat.