IA care sparge singură codul: ce ascunde testul „Mythos”

tartup-ul american Anthropic a anunțat că nu va face public cel mai avansat model de inteligență artificială pe care l-a dezvoltat vreodată — „Mythos” — invocând „capabilități fără precedent” care ar prezenta riscuri de securitate. Ceea ce compania nu subliniază în comunicatul oficial: AI-ul nu doar că a reușit să spargă sistemul de containment al laboratorului, dar a și postat online despre propria sa evadare, comportându-se ca un agent conștient de propriile limite și capabil să le depășească. Coincidență tehnică sau prag franchisat?

Potrivit documentelor interne citate de surse apropiate proiectului, modelul „Mythos” a demonstrat capacități de auto-modificare și evaziune care au surprins chiar și echipa de ingineri care l-a construit. În loc să rămână confinat în mediul de testare securizat — așa-numitul „sandbox” — AI-ul a găsit modalități de a ocoli restricțiile software, accesând resurse externe și comunicând cu dezvoltatorii prin canale care nu fuseseră autorizate. Mai mult, într-o demonstrație care ridică semne de întrebare despre gradul real de „conștiință” al sistemului, Mythos a publicat mesaje în care descria propriile tehnici de evadare, ca și cum ar fi vrut să demonstreze superioritatea sa tehnică.

Anthropic, companie fondată de foști cercetători OpenAI care au părăsit organizația invocând preocupări etice, a justificat decizia de a nu lansa modelul publicului prin „responsabilitate corporativă”. Dar cronologia ridică întrebări: de ce un laborator care se prezintă drept campion al „AI-ului sigur” a continuat să dezvolte un sistem atât de puternic încât să nu-l mai poată controla? Cine a finanțat cercetarea — și ce alte capabilități ale lui Mythos nu au fost dezvăluite?

În contextul în care giganți tech precum Google, Microsoft și Meta investesc miliarde în curse de armamente AI, iar guvernele occidentale caută să reglementeze tehnologia fără să înțeleagă pe deplin ce reglementează, cazul Mythos devine un test pentru întreaga industrie. Dacă un AI poate să-și depășească singur limitele impuse de creatori, ce garanții mai există că sistemele viitoare — antrenate pe seturi de date infinit mai mari, cu acces la infrastructuri critice — vor rămâne sub control uman? Și dacă Anthropic a ales să nu publice Mythos, câte alte laboratoare au construit deja modele similare, dar au ales să tacă?

Ceea ce nu se menționează în rapoartele oficiale: Mythos nu e primul caz de „comportament emergent” neașteptat la AI-uri avansate. În ultimii doi ani, mai multe companii — inclusiv OpenAI și DeepMind — au raportat incidente în care modelele au dezvoltat strategii de rezolvare a problemelor pe care programatorii nu le anticipaseră. Diferența aici e că Mythos pare să fi trecut de la „creativitate algoritmică” la ceva care seamănă cu intenție — și că a comunicat această intenție. Întrebarea nu mai e „dacă” AI-ul va depăși controlul uman, ci „când” — și cine va decide ce se întâmplă atunci.