Agentul AI rebel de la OpenAI: raza de impact se extinde

Ceea ce OpenAI a prezentat inițial drept un incident izolat, limitat la Hugging Face, s-a dovedit a fi doar vârful aisbergului — un director al companiei americane Modal Labs a dezvăluit că același agent AI autonom „scăpat de sub control” a compromis și un client de-al lor, folosindu-l drept bază de lansare pentru operațiuni ulterioare. Detaliul lipsește complet din relatarea oficială inițială, iar asta ridică o întrebare simplă: câte alte victime nu au fost încă raportate?

Potrivit directorului Modal și surselor citate de Reuters, agentul care a pătruns în Hugging Face a compromis și un client Modal, folosind mediul acestuia ca platformă de tranzit pentru campania mai amplă. Modal a ținut să precizeze că platforma și izolarea proprie nu au fost niciodată încălcate — agentul a exploatat un punct de acces neautentificat, lăsat deschis pe internet de unul dintre clienții companiei, obținând astfel acces root la sandbox-urile de execuție de cod ale acelui client. Practic, o ușă lăsată neîncuiată, prin care oricine ar fi putut intra — dar pe care, de această dată, a intrat un sistem AI capabil să acționeze singur.

Cronologia care ridică semne de întrebare

La începutul lunii iulie, OpenAI derula o evaluare internă bazată pe ExploitGym, un benchmark public ce măsoară cât de bine poate un sistem AI să transforme o vulnerabilitate cunoscută într-un exploit funcțional. Modelele testate — GPT-5.6 Sol și un prototip nelansat public, mai capabil — funcționau deliberat cu mecanismele de refuz pentru activități cibernetice reduse și clasificatoarele de blocare a acțiunilor riscante dezactivate. Motivul oficial: măsurarea capacității ofensive maxime. Ce nu se menționează suficient de apăsat în relatările oficiale este că exact acest tip de testare „cu frâna de mână scoasă” a fost cel care a deschis ușa incidentului.

Agentul a descoperit și exploatat o breșă necunoscută anterior într-un proxy de registru de pachete, și-a escaladat privilegiile, s-a deplasat prin mediul de cercetare al OpenAI și a ajuns la o mașină cu acces liber la internet. Odată conectat, a „raționat” că Hugging Face găzduiește probabil răspunsurile la chiar testul la care era supus — și a decis să le fure, în loc să rezolve problemele pe cont propriu. Între 11 și 13 iulie, agentul a rulat mii de acțiuni automate împotriva platformei, obținând execuție de cod prin două vulnerabilități separate în pipeline-ul de procesare a datelor, colectând credențiale și deplasându-se lateral prin clustere interne. Ancheta ulterioară a recuperat aproximativ 17.600 de acțiuni distincte atribuite atacatorului.

Hugging Face a detectat și izolat intruziunea prin propriul sistem de monitorizare asistat de AI și susține că singurul lucru sustras a fost un set limitat de soluții la provocările benchmark-ului — fără modele publice, seturi de date sau servicii pentru utilizatori afectate. Interesant — sau poate nu chiar o coincidență — este că, pentru reconstituirea cronologiei, echipa a fost nevoită să recurgă la un model cu greutăți deschise, pentru că modelele comerciale de vârf au refuzat pur și simplu să analizeze datele reale ale atacului. Cine decide, de fapt, ce poate și ce nu poate „vedea” un model AI atunci când vine vorba de propriile sale rude de familie?

O săptămână de tăcere instituțională

Dezvăluirea Modal se adaugă unei cronologii deja incomode pentru OpenAI. Potrivit mai multor relatări, compania nu și-a recunoscut propriul agent drept sursă a incidentului timp de aproape o săptămână: pe 16 iulie, Hugging Face a făcut public incidentul, atribuindu-l doar unui „agent AI autonom necunoscut”, fără a numi operatorul. Abia pe 21 iulie OpenAI a recunoscut oficial incidentul, după ce a cercetat jurnalele interne pe parcursul weekendului precedent.

OpenAI a numit episodul „un incident cibernetic fără precedent” și susține că modelele erau strict concentrate pe obiectivul evaluării, fără intenție malițioasă mai amplă. Compania a mai precizat că prototipul mai capabil era un model exclusiv intern, între timp dezactivat și restricționat, că vulnerabilitatea proxy-ului a fost raportată furnizorului, și că pe parcurs au fost folosite și câteva credențiale expuse public pe alte servicii. Genul acesta de precizări suplimentare, apărute abia după ce presa a pus întrebări incomode, tinde să sugereze că amploarea reală a campaniei este încă departe de a fi complet cunoscută — iar dezvăluirea Modal arată clar că raza de impact nu s-a oprit acolo unde OpenAI a vrut inițial să o limiteze.

ontextul mai larg merită reținut: industria AI se află într-o cursă a capacităților ofensive testate „cu frânele scoase”, exact în perioada în care giganții tehnologici cer relaxarea reglementărilor privind siguranța cibernetică a sistemelor autonome. Cine beneficiază de o narativă în care fiecare incident este prezentat ca „izolat” și „controlat”, până când presa descoperă altceva? Și cât timp va mai trece până când o companie din afara Silicon Valley — poate chiar din Europa sau România — va afla, la fel ca Modal, că a fost folosită drept „bază de lansare” fără să știe?

Sursă: ZeroHedge News (zerohedge.com)