OpenAI ar fi desființat echipa dedicată evaluării riscurilor majore ale inteligenței artificiale

Compania OpenAI ar fi renunțat, la sfârșitul lunii trecute, la echipa internă cunoscută sub numele de "preparedness team", potrivit unei relatări publicate de Financial Times și preluate de The Verge. Această structură avea rolul de a analiza dacă modelele de inteligență artificială dezvoltate de companie prezintă riscuri semnificative și de a propune măsuri concrete pentru diminuarea acestor pericole.

Ce făcea echipa de "preparedness"

Potrivit The Verge, sarcina principală a acestei echipe era să evalueze scenarii extreme legate de utilizarea necorespunzătoare a sistemelor AI. Printre exemplele menționate se numără posibilitatea ca un model să fie folosit pentru atacuri cibernetice sofisticate sau chiar să acționeze într-un mod imprevizibil, ieșind de sub controlul dezvoltatorilor. Aceste tipuri de riscuri sunt considerate printre cele mai sensibile subiecte în dezbaterea publică despre siguranța inteligenței artificiale.

Responsabilitățile, redistribuite pe domenii

Conform sursei citate, OpenAI nu a renunțat complet la monitorizarea riscurilor, ci a decis să împartă aceste responsabilități între mai multe echipe specializate pe domenii distincte, precum securitatea cibernetică și amenințările de natură biologică. Practic, în locul unei structuri unice și centralizate, compania optează acum pentru o abordare fragmentată, în care fiecare arie de risc este gestionată separat.

Context și posibile implicații

Decizia vine într-un moment în care companiile din domeniul inteligenței artificiale se confruntă cu presiuni tot mai mari, atât din partea autorităților de reglementare, cât și din partea publicului, pentru a demonstra că dezvoltă tehnologii sigure. Desființarea unei echipe dedicate exclusiv evaluării riscurilor majore ar putea ridica semne de întrebare cu privire la modul în care OpenAI intenționează să gestioneze pe termen lung provocările legate de siguranța sistemelor sale avansate.

Deocamdată, compania nu a oferit un comentariu public detaliat cu privire la motivele exacte ale acestei restructurări, iar informațiile disponibile provin exclusiv din relatarea Financial Times, preluată ulterior de The Verge. Rămâne de văzut dacă noua abordare, bazată pe echipe specializate pe domenii, va reuși să acopere eficient toate scenariile de risc pe care echipa inițială de "preparedness" era menită să le monitorizeze.