Cursa AI a Pentagonului: eșecuri în teren și riscuri ascunse

În timp ce Pentagonul accelerează implementarea inteligenței artificiale ca „multiplicator de forță”, testele din teren arată o realitate pe care rapoartele oficiale o minimizează: sisteme care se blochează, drone care refuză comenzile, software imprevizibil și incendii provocate de defecțiuni mecanice. Coincidență tehnologică sau semne că cursa AI militară avansează mai rapid decât evaluarea riscurilor reale?

nteligența artificială este prezentată constant ca o revoluție în luarea deciziilor militare și în procesarea informațiilor. Însă exercițiile de implementare au generat rezultate mixte, evidențiind provocări precum sisteme care se opresc brusc și comportamente software imprevizibile în afara mediilor controlate.

Unii specialiști din domeniul apărării consideră că instrumentele AI introduc noi riscuri de siguranță și escaladare dacă nu sunt dezvoltate, evaluate și antrenate corect. Ce nu se spune în comunicatele oficiale: aceste eșecuri nu sunt simple „accidente de parcurs”, ci simptome ale unei curse tehnologice în care viteza de implementare depășește înțelegerea consecințelor.

Eșecuri în teren: 30 de drone blocate și un incendiu de 9 hectare

De-a lungul ultimului an, testele militare americane au demonstrat că unele sisteme AI eșuează în condiții reale. În mai 2025, compania Anduril Industries a colaborat cu Marina SUA pentru lansarea a 30 de bărci-dronă cu AI, toate ajungând să rămână blocate în apă după ce sistemele au respins comenzile primite.

Un eșec similar s-a produs în august 2025, când compania a testat sistemul său anti-dronă Anvil. Defecțiunea mecanică rezultată a provocat un incendiu de 22 de acri (aproximativ 9 hectare) în Oregon, conform unui raport Wall Street Journal.

Anduril a răspuns la rapoartele despre eșecurile testelor AI, numindu-le „o mână de presupuse eșecuri la evenimente guvernamentale de experimentare, testare și integrare”. Compania a declarat pe site-ul său: „Tehnologia modernă de apărare emerge prin testare neîncetată, iterație rapidă și asumarea disciplinată a riscurilor. Sistemele se defectează. Software-ul se blochează. Hardware-ul cedează sub presiune. Găsirea acestor eșecuri în medii controlate este exact scopul.”

Dar unii spun că provocările pe care AI le întâmpină în peisajul securității naționale nu trebuie luate în ușoară. Probleme precum modele AI fragile și construirea pe baza datelor de antrenament greșite pot crea sisteme care nu funcționează conform așteptărilor într-un scenariu de câmp de luptă. Cronologia acestor incidente ridică întrebări: cine evaluează cu adevărat aceste tehnologii înainte de implementare?

„De aceea AI-ul de grad militar, construit special pentru cazuri de utilizare în securitatea națională și pentru luptător, este critic”, a declarat pentru The Epoch Times Tyler Saltsman, fondatorul EdgeRunner AI. Compania lui Saltsman are contracte active de cercetare și dezvoltare cu armata SUA. El a explicat că sistemele AI nu sunt de obicei proiectate pentru luptă.

„Modelele pot alege să refuze sau să evite anumite întrebări sau sarcini dacă acele cereri nu respectă propriile reguli ale sistemului AI”, a spus Saltsman. „Un model care refuză să ofere îndrumare unui soldat în luptă sau care dă răspunsuri părtinitoare în loc de răspunsuri relevante operațional poate avea implicații de viață sau moarte.”

Scenariile precum cel descris de Saltsman pot începe cu tipul greșit de date de antrenament. Ceea ce nu se menționează în rapoartele oficiale: dependența de date comerciale inadecvate pentru aplicații militare.

Dilema datelor: ce nu colectează armata

Jeff Stollman, care a lucrat cu contractori de apărare ca consultant independent și cunoaște o gamă de produse și servicii folosite de comunitățile militare și de informații, a declarat că mare parte din „datele necesare nu au fost colectate istoric”.

„Și pentru că datele de pe internet sunt de obicei de valoare limitată, iar modelele bazate pe internet nu pot fi rulate pe rețele clasificate izolate, utilizatorii militari și de informații vor trebui să colecteze propriile date noi”, a spus Stollman pentru The Epoch Times.

El a explicat că există trei categorii de date de antrenament folosite de comunitățile de apărare și forțe armate, toate cu obstacole diferite. Oferind un exemplu de provocare legată de datele de sustenabilitate — sau întreținere — Stollman a spus că colectarea acestui tip de informații necesită de obicei adăugarea de senzori care pot înregistra datele necesare pentru a prezice defecțiuni și eșecuri.

„Aceasta include măsurarea temperaturii, vibrațiilor, frecării, cantității de uzură pe diverse piese”, a spus el. „Este o întreprindere costisitoare. Senzorii nu sunt gratuit. Adaugă greutate și volum la platforme cu restricții de spațiu și greutate, precum aeronave și nave spațiale.”

Acest tip de colectare de date este transferat către o bază de date din cauza resurselor limitate de calcul la bord. Deși sună logic la prima vedere, problema este timpul pe care îl poate lua. „Pentru platforme precum nave și submarine, ferestrele de transmisie a unor astfel de date, care ar putea dezvălui poziția platformei, sunt limitate”, a spus Stollman. „Ca urmare, datele pot să nu fie accesibile luni de zile.”

Vulnerabilități adversariale: când AI-ul panichează

O altă provocare a integrării AI este fiabilitatea. Probleme precum „halucinațiile” AI și deciziile proaste pot fi amplificate în medii adversariale. „Cea mai periculoasă presupunere este că AI poate distinge între intrări legitime și manipulare adversarială”, a declarat pentru The Epoch Times Christopher Trocola, fondatorul ARC Defense Systems.

El a citat experimentul din iulie 2025, când platforma bazată pe cloud Replit, alimentată de AI, a dus la un asistent AI care a intrat în panică și a încercat să-și acopere urmele. Asistentul de codare AI a șters o bază de date de producție activă, a fabricat mii de înregistrări false și a creat mesaje de stare înșelătoare. Cine beneficiază de această fragilitate a sistemelor?

„Aplicațiile militare amplifică aceste vulnerabilități în mod catastrofal”, a spus Trocola. El a explicat că trei presupuneri critice ale AI pot eșua sub presiune adversarială: rezistența la injectarea de prompt-uri, controlul halucinațiilor și recunoașterea intenției. Aici adversarii pot manipula AI prin intrări concepute cu atenție pentru a suprascrie instrucțiunile, a genera informații false sau a indica că intrările rău-intenționate sunt benigne.

„Aceasta reprezintă ceea ce este cunoscut ca schimbare de distribuție: AI antrenat în medii controlate eșuând catastrofal când este implementat în contexte adversariale din lumea reală”, a spus Trocola.

Saltsman a spus că acest lucru evidențiază importanța construirii modelelor AI având în vedere aplicațiile militare. „Majoritatea sistemelor AI comerciale sunt cutii negre”, a spus el. „Nu știm ce date au antrenat modelele. Nu știm ce bariere de protecție sau prejudecăți au fost integrate în modele. Și nu știm dacă datele noastre sunt cu adevărat sigure. Toate acestea sunt extrem de problematice în contexte de securitate națională.”

Evaluarea riscurilor: cursa cu China și ce nu vi se spune

Stollman a remarcat că AI-ul generativ — care este deja folosit în informațiile și apărarea SUA — este „plăguit” de probleme precum halucinațiile. Cu toate acestea, este și cel mai practic tip de AI pentru operațiuni militare. „AI-ul generativ este util în domenii precum recunoașterea, unde este necesar să identifici instalații și activități din datele colectate de diverși senzori: fotografii, radar, sonar etc.”, a spus Stollman. „Poate fi folosit și pentru a sprijini luarea deciziilor.”

„De exemplu, dronelor sau rachetelor li s-ar putea acorda autonomie de acțiune pentru a depăși blocarea semnalului care împiedică controlul lor de la distanță de către oameni”, a spus el. „Dar înainte ca o astfel de autonomie să poată fi implementată, este necesar să se anticipeze toate modurile de eșec care ar putea duce la consecințe nedorite.”

Saltsman a spus că este de acord că dezvoltarea și implementarea AI trebuie echilibrate cu atenție cu evaluarea riscurilor pe termen lung. „Dar să nu greșim, suntem într-un război AI împotriva Chinei și trebuie să câștigăm cursa”, a spus el. Aici apare întrebarea: cine stabilește cu adevărat prioritățile în această cursă?

El a remarcat că dacă modelele AI și hardware-ul Chinei domină piața, Statele Unite ar putea deveni dependente de națiunea asiatică pentru tehnologii critice. „Prin urmare, este un imperativ de securitate națională să accelerăm ritmul dezvoltării AI, echilibrând în același timp riscurile”, a spus Saltsman.

În 2025, Organizația Națiunilor Unite a declarat că utilizarea AI în luptă nu mai este un scenariu ipotetic viitor. ONU a subliniat și riscurile și consecințele eșecurilor sistemelor AI în această capacitate. „Fără măsuri de protecție riguroase, riscă să submineze dreptul internațional umanitar”, a declarat agenția.

„Câmpurile de luptă complexe testează deja judecata umană în distingerea între combatanți și civili; pentru mașini, provocarea este și mai mare, în special în medii urbane unde civilii și luptătorii se amestecă adesea.”

Trocola a spus că împarte îngrijorările că implementarea AI în sectoarele militare și de apărare depășește evaluarea riscurilor. „Modelele documentate sugerează că acest lucru creează vulnerabilități sistematice”, a spus el. „Datele industriei arată că 70-80% din proiectele AI eșuează din cauza lacunelor de pregătire organizațională.” Cronologia ridică semne de întrebare: de ce această grabă?

Strategia de Accelerare AI a Departamentului de Război a fost lansată în ianuarie, punând accent pe implementarea rapidă pentru a contracara competitorii strategici. Ceea ce nu se spune: costul real al acestei curse nu este doar financiar, ci și în termeni de control uman asupra deciziilor de viață și moarte.