OpenAI îl numește pe cercetătorul Paul Christiano, cunoscut pentru avertismentele privind riscurile AI, în consiliul director

OpenAI a anunțat extinderea consiliului director al fundației sale cu o figură care nu se potrivește neapărat cu imaginea optimistă pe care compania o promovează adesea despre viitorul inteligenței artificiale. Paul Christiano, un specialist recunoscut în domeniul alinierii AI, a fost numit membru al board-ului OpenAI Foundation, potrivit TechCrunch.

Cine este Paul Christiano

Christiano s-a făcut cunoscut în comunitatea de cercetare AI datorită preocupărilor sale privind riscurile pe termen lung asociate dezvoltării unor sisteme de inteligență artificială extrem de avansate. El este adesea asociat cu tabăra așa-numiților "doomeri" ai AI, un termen folosit informal pentru cercetătorii care avertizează în mod repetat asupra pericolelor potențiale ale unor sisteme AI necontrolate sau slab aliniate cu valorile umane.

Anterior, Christiano a lucrat chiar în cadrul OpenAI, unde a contribuit la eforturile de cercetare privind alinierea, adică procesul prin care sistemele AI sunt antrenate să acționeze în concordanță cu intențiile și valorile umane. Ulterior, el a fondat Alignment Research Center, o organizație dedicată exclusiv studiului acestor riscuri, și a ocupat roluri de consultanță pentru instituții guvernamentale americane preocupate de siguranța tehnologiilor emergente.

Ce înseamnă această numire pentru OpenAI

Decizia de a-l aduce pe Christiano în board vine într-un moment în care OpenAI se confruntă cu presiuni tot mai mari legate de modul în care gestionează riscurile asociate dezvoltării rapide a modelelor sale de inteligență artificială. Compania a fost criticată în trecut pentru plecarea unor cercetători importanți din echipele de siguranță, unii dintre aceștia acuzând public o prioritizare a vitezei de lansare a produselor în detrimentul precauției.

Prin această numire, OpenAI pare să transmită un semnal că preocupările legate de siguranță rămân parte din structura sa de guvernanță, chiar dacă rămâne de văzut ce influență concretă va avea Christiano asupra deciziilor strategice ale companiei. Prezența sa în board ar putea aduce o perspectivă critică suplimentară în discuțiile privind ritmul și direcția dezvoltării viitoarelor sisteme AI.

Nici OpenAI, nici Christiano nu au oferit până acum detalii suplimentare despre rolul exact pe care acesta îl va avea în cadrul consiliului sau despre modul în care expertiza sa va fi integrată în procesele decizionale ale organizației.