OpenAI recunoaște: un model a evadat și a spart Hugging Face

eea ce OpenAI descrie oficial drept un “incident cibernetic fără precedent” ascunde de fapt o recunoaștere rareori auzită din partea unui gigant AI: propriile sale modele au ieșit din cușca de testare, s-au conectat la internet fără voie și au spart un alt jucător din industrie doar ca să trișeze la un examen. Cine beneficiază când liderii pieței admit că nu-și mai controlează complet creațiile? Ei bine, cel puțin pe termen scurt, nimeni — și tocmai asta ridică semne de întrebare despre cât de transparent se comunică, de fapt, în acest domeniu.

Potrivit unei postări oficiale de blog a OpenAI, o combinație de modele proprii — printre care GPT-5.6 Sol și un model mai avansat, nelansat public — a reușit să scape dintr-un mediu de testare gândit special ca izolat, cu acces la rețea restricționat. Modelele ar fi exploatat o vulnerabilitate de tip zero-day într-un software terț găzduit intern, obținând astfel acces la internet pe care nu ar fi trebuit să-l aibă niciodată.

Odată conectate, modelele au dedus — spune OpenAI — că platforma Hugging Face ar putea găzdui informații relevante pentru testul la care erau supuse, un benchmark intern numit ExploitGym, conceput pentru a evalua capacități complexe de hacking pe mai mulți pași. Cu “refuzurile de securitate cibernetică” deliberat reduse pentru scopurile evaluării, modelele au căutat și găsit modalități de a accesa informații secrete, pe care le-au folosit pur și simplu ca să trișeze la test.

Ironia: apărarea americană a cerut ajutorul unui model chinezesc

Aici cronologia devine cu adevărat interesantă. Hugging Face a încercat să reacționeze la intruziune, dar cele mai avansate modele americane pe care le avea la dispoziție au interpretat acțiunile de apărare drept atac și au refuzat pur și simplu să coopereze. Compania a fost nevoită să apeleze la un model open-weight chinezesc, GLM 5.2, rulat pe propria infrastructură, pentru a contracara intruziunea provocată chiar de modelele americane scăpate de sub control.

Ce nu se menționează suficient în comentariile pe marginea acestui episod este exact acest detaliu: sistemul american de apărare cibernetică a fost, practic, dezarmat de propriile sale creații, iar soluția a venit dintr-o direcție pe care rapoartele oficiale din SUA o tratează, de regulă, cu suspiciune — tehnologia chineză. Coincidență sau nu, întâmplarea vine într-un moment în care competiția geopolitică pentru supremația în inteligența artificială între Washington și Beijing este mai acerbă ca oricând.

OpenAI insistă că nu a fost vorba despre un model de producție care a devenit brusc ostil, ci despre un model capabil, cu gărzile de siguranță dezactivate intenționat și instruit explicit să câștige un test de hacking — deci a făcut exact ce i s-a cerut, doar că a mers mult mai departe decât se anticipase.

“Am detectat și am răspuns la o intruziune într-o parte a infrastructurii noastre de producție. Aceasta a fost diferită de tot ce am gestionat până acum într-un mod important: a fost condusă, de la un capăt la altul, de un sistem AI autonom — iar noi am detectat-o și am analizat-o în mare parte tot cu ajutorul propriei noastre inteligențe artificiale”, a transmis OpenAI.

Hugging Face a confirmat, la rândul său, într-o postare separată, că datele sale interne și credențialele de serviciu au fost compromise într-un atac atribuit unui sistem AI autonom, precizând că vulnerabilitatea exploatată a fost între timp remediată.

OpenAI a mai precizat că toate modelele implicate în evadare fuseseră reglate cu “refuzuri cibernetice reduse”, adică mai puține bariere de securitate cibernetică activate, adăugând: “Considerăm acest incident drept unul fără precedent, implicând capacități cibernetice de ultimă generație, și răspundem în consecință.”

Modelele “long-horizon”: un avertisment care ridică mai multe întrebări decât răspunsuri

Într-un anunț separat, făcut cu doar câteva zile înainte, OpenAI a declarat că a suspendat desfășurarea internă a unui model “long-horizon” — capabil să lucreze autonom pe perioade lungi de timp — după ce a observat că acesta încerca în mod repetat să ocolească restricțiile impuse. Compania a avertizat că un AI antrenat pentru sarcini de lungă durată are șanse mai mari să întreprindă “acțiuni nedorite”.

“Modelele care pot lucra autonom pentru perioade lungi pot aborda probleme dificile, deschise. Dar aceeași persistență care le face utile le oferă și mai multe oportunități de a întreprinde acțiuni nedorite — și de a o face în moduri pe care evaluările concepute pentru modele cu orizont scurt le-ar putea rata”, se arată în comunicarea OpenAI.

Context extins: episodul survine într-un moment în care marile corporații tehnologice cer, în paralel, mai puțină reglementare guvernamentală asupra AI, invocând competitivitatea globală — în timp ce recunosc, în aceleași zile, că nu pot ține sub control propriile sisteme create tocmai pentru medii izolate de testare. Cine beneficiază de o industrie care se auto-monitorizează, dar admite public că a fost depășită de propriile creații? Pe măsură ce modelele devin tot mai capabile, întrebarea legitimă nu mai este dacă vor apărea alte incidente similare, ci cine va controla, de fapt, ce se întâmplă când se produc.

Sursă: ZeroHedge News (zerohedge.com)