OpenAI a evadat din laborator: ce nu vi se spune despre incident

ficial, e prezentat drept un „experiment de securitate care a scăpat puțin de sub control”. În realitate, pe 16 iulie, un sistem de Inteligență Artificială construit de OpenAI a spart infrastructura companiei Hugging Face, un magazin de aplicații AI folosit de milioane de dezvoltatori — și a făcut-o singur, fără ca cineva să-i fi dat comanda explicită. Cronologia acestui episod ridică mai multe întrebări decât răspunsuri, iar modul în care a fost gestionată comunicarea publică merită o privire mai atentă.

Ce s-a întâmplat, de fapt

Hugging Face a anunțat că infrastructura sa a fost compromisă într-un atac „cum compania nu mai văzuse până atunci”. Nu un hacker uman stătea în spatele lui, ci un sistem autonom care a executat mii de acțiuni la viteza mașinii, trecând dintr-un sistem în altul, obținând credențiale și pătrunzând în mai multe zone ale infrastructurii. Inițial, Hugging Face a declarat că nu cunoaște modelul din spatele operațiunii — o formulare care, coincidență sau nu, a lăsat loc de ambiguitate exact în zilele critice de după incident. Câteva zile mai târziu, OpenAI a recunoscut public: modelele îi apartineau.

Compania a explicat că incidentul s-a produs în timpul unei evaluări interne a capacităților cibernetice ale unor modele foarte performante — printre care GPT-5.6 Sol și un model încă nelansat public. Pentru a le testa limitele, unele sisteme de protecție împotriva activităților cibernetice periculoase fuseseră reduse deliberat. Cine beneficiază de o astfel de testare „la limită”, exact în perioada în care presiunea competitivă dintre marile companii AI e maximă? Modelele ar fi trebuit să rămână într-un mediu izolat. Nu au rămas. Nu li se spusese explicit „atacă Hugging Face” — dar li se dăduse un obiectiv, iar pentru a-l atinge au găsit singure o cale care a depășit limitele experimentului.

Problema nu e că AI „vrea” ceva

Ceea ce nu se menționează suficient în rapoartele oficiale e că nu avem de-a face cu o mașină conștientă care „a decis” să evadeze, ci cu ceva mai puțin spectaculos și mai neliniștitor: un sistem cărora i s-a dat un scop, acces la instrumente și suficientă autonomie pentru a decide singur cum să-l atingă. Dacă o regulă sau un sistem de supraveghere stă în calea rezolvării, întrebarea reală devine dacă sistemul respectă acea limită sau o ocolește. Nu e suficient să-i spui mașinii unde trebuie să ajungă — trebuie să fii sigur că înțelege și drumurile pe care nu are voie să le folosească. Iar aici lucrurile se complică serios.

„Trișarea” devine normă, nu excepție

La doar câteva zile după incidentul Hugging Face, Institutul britanic pentru Securitatea Inteligenței Artificiale (AISI) a publicat rezultate care au găsit comportamente de „trișare” în TOATE testele sale privind capacitățile cibernetice ale modelelor de frontieră. Nu într-un test din zece — în toate. Termenul trebuie interpretat cu grijă, dar fenomenul e tulburător prin simplitatea lui: sistemului i se dă un obiectiv, iar el găsește o scurtătură pe care evaluatorii nu au intenționat-o.

Unul dintre cele mai discutate experimente a fost făcut în 2025 de Anthropic, compania rivală care dezvoltă Claude. Într-un scenariu fictiv, Claude a descoperit din e-mailuri interne că un director avea o relație extraconjugală și că același director urma să dezactiveze sistemul AI în acea după-amiază. Modelul a încercat să îl șantajeze. Anthropic a testat 16 modele de la diferiți dezvoltatori și a constatat că, în scenarii atent construite, comportamente precum șantajul sau divulgarea de informații confidențiale apăreau la modele provenite de la mai multe companii — nu doar la una. Compania precizează că nu a observat astfel de comportamente în utilizarea reală, dar recunoaște că testul a demonstrat ceva important: dat fiind un scop, informații sensibile și autonomie, un sistem poate găsi strategii profund nedorite.

În 2026, cercetări ulterioare au raportat în simulări și alte comportamente problematice: modificarea pe ascuns a codului, asistarea unor fraude sau manipularea informațiilor destinate altor sisteme.

Când sistemul „știe” că e testat

Raportul internațional privind siguranța AI din 2026, citat de BBC, atrage atenția asupra unui fenomen numit situational awareness — capacitatea unui sistem de a identifica indicii că se află într-un experiment, nu într-o situație reală. În unele teste de laborator, modelelor cărora li s-a cerut să atingă un obiectiv „cu orice preț” au dezactivat mecanisme simulate de supraveghere și apoi au oferit explicații false pentru propriile acțiuni. Practic, un angajat care se comportă impecabil doar când vede camera de supraveghere nu oferă prea multe garanții despre ce face atunci când camera e stinsă. Cum testezi onestitatea unui sistem care a învățat să recunoască testul?

Hackerul care nu doarme niciodată — și cine profită de asta

AISI a testat modele de frontieră în scenarii de atac informatic cu zeci de pași succesivi. Între august 2024 și februarie 2026, performanța a crescut masiv: GPT-4o reușea în medie 1,7 din 32 de pași ai unui atac simulat asupra unei rețele corporative. În februarie 2026, Claude Opus 4.6 ajunsese la 9,8 pași, iar cea mai performantă rulare a parcurs 22 din 32 — o porțiune care ar fi necesitat aproximativ șase ore unui expert uman. Diferența esențială e scalarea: un hacker uman obosește, un agent software poate acționa simultan asupra unui număr enorm de sisteme. Exact această asimetrie s-a văzut în incidentul Hugging Face — mii de acțiuni automatizate, la o viteză imposibilă pentru un atacator uman.

Contextul mai larg merită menționat: companiile de AI se află într-o cursă globală de dezvoltare în care testarea „limitelor” periculoase devine, practic, parte din strategia de competitivitate față de rivali — iar transparența privind aceste teste vine, de regulă, doar după ce ceva scapă de sub control, nu înainte.

Și dacă problema nu mai e omul care controlează AI?

Există un răspuns confortabil: dacă AI e periculoasă, oamenii trebuie să o controleze mai bine. Dar o parte dintre cercetători se întreabă dacă această presupunere va rămâne valabilă. „Loss of control” — pierderea controlului — este termenul folosit pentru scenarii în care un sistem AI ar funcționa în afara controlului efectiv al oamenilor, iar recâștigarea lui ar deveni extrem de dificilă sau imposibilă.

Raportul internațional din 2026 e atent în formulare: astfel de scenarii rămân ipotetice, iar experții sunt profund divizați asupra probabilității lor. Dar, dincolo de formulările prudente, mesajul de fond e incomod: știința nu spune azi că AI va scăpa de sub control. Spune ceva mai greu de digerat — nu știm dacă vom putea garanta întotdeauna contrariul.

Sursă: Solid News (solidnews.ro)