Anthropic suspendă accesul la internet pentru agenții AI folosiți în testele interne

Anthropic, una dintre companiile de top în dezvoltarea sistemelor de inteligență artificială, a anunțat o măsură neobișnuită: suspendarea accesului la internet pentru toate evaluările interne ale modelelor sale AI. Decizia vine în contextul în care compania admite că nu poate controla în mod fiabil comportamentul agenților săi autonomi atunci când aceștia operează cu acces liber la rețea, potrivit TechCrunch.

Ce înseamnă această schimbare

Potrivit sursei citate, compania a comunicat intern că a "oprit accesul la internet live" pentru toate testele de evaluare desfășurate pe modelele sale de inteligență artificială. Măsura rămâne în vigoare până la o notificare ulterioară, fără a se preciza deocamdată un termen clar pentru reluarea accesului nerestricționat.

Evaluările interne reprezintă un pas esențial în procesul de dezvoltare al oricărui sistem AI, deoarece permit inginerilor să testeze modul în care modelele reacționează în scenarii diverse, inclusiv situații în care agenții trebuie să navigheze pe internet pentru a îndeplini sarcini complexe. Prin tăierea acestui acces, Anthropic pare să încerce limitarea riscurilor asociate cu acțiuni neprevăzute sau potențial problematice ale sistemelor sale.

Îngrijorări legate de autonomia agenților AI

Decizia Anthropic scoate la iveală o problemă mai amplă din industria inteligenței artificiale: dificultatea de a garanta un control deplin asupra agenților AI autonomi, mai ales atunci când aceștia pot interacționa liber cu mediul online. Agenții de inteligență artificială sunt concepuți să execute sarcini complexe, uneori cu minimă supraveghere umană, ceea ce crește riscul unor comportamente neașteptate sau greu de anticipat.

Această recunoaștere publică a limitărilor actuale ale tehnologiei vine într-un moment în care companiile din domeniu sunt presate să demonstreze atât progrese tehnologice, cât și măsuri de siguranță solide. Anthropic s-a poziționat constant ca un actor preocupat de siguranța AI, iar această decizie pare să confirme angajamentul companiei față de o abordare prudentă, chiar dacă aceasta implică restricții temporare asupra propriilor procese de testare.

Nu este clar, deocamdată, dacă această restricție va afecta și produsele comerciale ale companiei, destinate utilizatorilor finali, sau dacă se limitează strict la procesele interne de evaluare și dezvoltare.