Modelele AI cu greutăți deschise se apropie de performanțele de vârf, dar rămân în urmă la siguranță

Decalajul dintre modelele AI cu sursă deschisă și cele proprietare, dezvoltate de giganți precum OpenAI sau Google, se micșorează rapid. Un nou raport publicat de organizația de cercetare SaferAI atrage însă atenția asupra unei probleme îngrijorătoare: pe măsură ce aceste modele devin mai puternice, măsurile de siguranță nu țin pasul.

Cazul GLM-5.2

Potrivit TechCrunch, analiza SaferAI s-a concentrat pe GLM-5.2, un model cu greutăți deschise (open-weight) dezvoltat de compania chineză Z.ai. Concluzia raportului este că acest model se apropie semnificativ de performanțele oferite de cele mai avansate sisteme AI existente pe piață, cunoscute în industrie drept modele "de frontieră".

Problema, subliniază cercetătorii, nu ține de capabilitățile tehnice ale modelului, ci de absența unor garanții adecvate. Spre deosebire de companiile occidentale care investesc masiv în echipe dedicate siguranței și în protocoale de testare riguroase, GLM-5.2 pare să fi fost lansat fără mecanisme comparabile de protecție împotriva utilizărilor abuzive.

De ce contează diferența dintre modele închise și deschise

Modelele cu greutăți deschise permit oricui să descarce, să modifice și să ruleze sistemul AI local, fără supravegherea companiei care l-a creat inițial. Acest lucru oferă avantaje evidente pentru cercetare și inovație, dar elimină și posibilitatea de a impune restricții ulterioare lansării, spre deosebire de modelele închise, accesibile doar prin API-uri controlate.

Raportul SaferAI reînnoiește astfel o dezbatere mai veche în comunitatea de cercetare AI: pe măsură ce tehnologia devine tot mai accesibilă și mai puternică, riscul ca actori rău-intenționați să exploateze modele fără protecții adecvate crește proporțional.

Implicații pentru guvernanța AI

Experții citați de TechCrunch avertizează că progresul rapid al modelelor open-weight, precum GLM-5.2, ar putea depăși capacitatea actuală a organismelor de reglementare de a impune standarde uniforme de siguranță. Situația devine cu atât mai complexă cu cât astfel de modele provin din jurisdicții diferite, cu cadre legale și priorități distincte în materie de guvernanță AI.

Cazul Z.ai ilustrează o tendință mai amplă: competiția globală pentru dezvoltarea de sisteme AI din ce în ce mai capabile avansează mai rapid decât consensul internațional privind modul în care aceste tehnologii ar trebui reglementate și securizate.