Noua tehnică de raționament a OpenAI îngrijorează experții în siguranța AI

OpenAI pregătește lansarea unui nou model, cunoscut sub numele de cod Astra, care ar putea schimba fundamental modul în care sistemele de inteligență artificială procesează informația. Potrivit TechCrunch, noul model va utiliza o metodă denumită "recurrent depth" (adâncime recurentă), diferită radical de abordările folosite până acum de companiile din domeniu.

Ce este "recurrent depth"

Majoritatea modelelor de raționament actuale, inclusiv cele dezvoltate de OpenAI însăși, funcționează pe baza unui proces secvențial: modelul parcurge etape logice una după alta, într-o ordine liniară, pentru a ajunge la un răspuns. Tehnica "recurrent depth" propune o abordare diferită, în care modelul poate reveni asupra propriilor calcule, procesând informația în bucle repetate în loc să avanseze strict pas cu pas.

Practic, în loc să "gândească" liniar de la o concluzie la alta, sistemul ar putea reveni la etape anterioare de procesare pentru a-și rafina răspunsurile, într-un mod care amintește mai degrabă de funcționarea unei rețele neuronale recurente decât de logica pas-cu-pas specifică modelelor de tip "chain-of-thought". De ce îngrijorează experții Conform TechCrunch, specialiștii în siguranța inteligenței artificiale au reacționat cu prudență la anunțul privind Astra. Motivul principal ține de transparență: modelele care raționează secvențial oferă cercetătorilor posibilitatea de a urmări, cel puțin parțial, "lanțul de gândire" al AI-ului, ceea ce ajută la identificarea erorilor sau a comportamentelor problematice.

O arhitectură bazată pe procesare recurentă, care nu urmează un traseu logic liniar și ușor de interpretat, ar putea face mult mai dificilă înțelegerea modului în care modelul ajunge la anumite concluzii. Această lipsă de vizibilitate asupra procesului decizional este considerată de mulți cercetători un risc semnificativ, mai ales pe măsură ce modelele AI devin tot mai capabile și sunt folosite în contexte cu miză ridicată.

Context și perspective

OpenAI nu a oferit deocamdată detalii tehnice complete despre Astra sau despre calendarul de lansare al modelului. Compania a fost însă în centrul unor dezbateri similare și în trecut, pe măsură ce a introdus modele de raționament tot mai avansate, care ridică întrebări legate de interpretabilitate și control.

Rămâne de văzut dacă avantajele de performanță aduse de "recurrent depth" vor compensa, în ochii comunității de cercetare, provocările legate de transparență și supraveghere a comportamentului modelului.