Cine îl sfătuiește pe omul care vrea să guverneze AI-ul global

mul care se prezintă drept vocea rațiunii în dezbaterea despre inteligența artificială a construit, potrivit propriilor sale mulțumiri publicate, un cerc de consilieri remarcabil de omogen ideologic — iar asta ridică o întrebare simplă: cine decide, de fapt, viitorul tehnologiei care ar putea remodela civilizația?

Dario Amodei, CEO al Anthropic, a publicat pe site-ul propriu o serie de eseuri ample despre viitorul transformat de AI — de la vindecarea bolilor și accelerarea creșterii economice, până la amenințări biologice catastrofale și destabilizarea echilibrului de putere dintre SUA și China. Textele sunt prezentate drept produsul unui tehnolog sobru, care încearcă să ghideze omenirea printr-o tranziție fără precedent.

Lista celor mulțumiți — un tipar care se repetă

În secțiunile de mulțumiri ale a patru dintre eseurile sale majore — „Machines of Loving Grace”, „The Urgency of Interpretability”, „The Adolescence of Technology” și „Policy on the AI Exponential” — Amodei revine constant la aceleași nume: Tom McGrath, Martin Wattenberg, Chris Olah, Ben Buchanan, Kevin Esvelt, Parag Mallick, Stuart Ritchie, Matt Yglesias, Erik Brynjolfsson, Jim McClave, Allan Dafoe, Mariano-Florentino Cuéllar, Richard Fontaine, Buddy Shah, Vas Narasimhan, Nick Beckstead, Jason Matheny și Brad Carson.

O simplă listă de mulțumiri nu dovedește, desigur, o uniformitate de gândire. Dar ea desenează, cu suficientă claritate, harta lumii intelectuale în care Amodei își formează ideile — și acea lume pare surprinzător de restrânsă.

Printre nume: Matt Yglesias, jurnalist liberal de profil înalt; Ben Buchanan, fost consilier special pe AI la Casa Albă (Office of Science and Technology Policy); Allan Dafoe, figură centrală în mișcarea Effective Altruism și fondator al unui centru academic AI la Oxford; Nick Beckstead, un alt nume greu din rețeaua Effective Altruism; Jason Matheny, cu legături vechi în același ecosistem EA, actual președinte al RAND Corporation; Richard Fontaine, conducător al think tank-ului de stânga Center for a New American Security (CNAS) — un incubator de politici pentru Partidul Democrat; Mariano-Florentino Cuéllar, șeful afacerilor globale la Anthropic, cu o carieră îndelungată în lumea juridică democrată; Chris Olah, cofondator Anthropic; Stuart Ritchie, șeful comunicării de cercetare la Anthropic; James „Jim” McClave, investitor timpuriu în Anthropic, cu legături vechi în comunitatea EA — despre care s-a scris că ar fi făcut una dintre cele mai mari donații din 2022 către Future Forward, super-PAC-ul care l-a susținut pe Joe Biden; Neil „Buddy” Shah, CEO al Clinton Health Access Initiative; și Brad Carson, fost congresman democrat, cu poziții de conducere în administrația Obama.

Ce lipsește din poză — și de ce contează

Ceea ce nu se menționează în niciunul dintre eseurile publicate este absența totală a unei voci intelectuale de dreapta, apropiate de administrația republicană, sau măcar sceptice față de puterea centralizată și față de acordurile internaționale neverificabile cu China. Nu apare nimeni, în acest cerc select, care să recunoască public un fapt binecunoscut în geopolitică: instituțiile globale de tip ONU eșuează frecvent sau sunt rapid capturate de o clasă de „experți” care sfârșesc prin a-și maximiza propria putere și statut.

Brain trust-ul lui Amodei e divers ca specializare profesională, dar dureros de îngust ca diversitate ideologică — un amestec de liberalism internaționalist și Effective Altruism, vizibil în tot ce scrie și declară public. Effective Altruism aduce obsesia pentru riscurile existențiale ale AI; internaționalismul liberal aduce convingerea că o clasă de experți credentiali poate proiecta instituții globale mai bune decât suveranitatea națională americană.

De la utopie la ONU pentru AI

În „Machines of Loving Grace”, lăsând deoparte tonul aproape mesianic despre o mașină-zeu, Amodei se arată optimist că AI-ul ar putea comprima decenii de progres științific în doar câțiva ani. În „The Adolescence of Technology” trece la partea întunecată a aceleiași curbe exponențiale: AI autonom, arme biologice, dislocare economică, riscuri autoritare. În „The Urgency of Interpretability” cere legi de transparență și controale stricte la exportul de cipuri AI către China, argumentând că SUA ar putea câștiga timp pentru a înțelege sistemele înainte ca rivalitatea geopolitică să facă prudența imposibilă.

Amodei a mers mai departe, propunând un organism global de standarde pentru AI, în stilul ONU, și un fel de „Acord de la Paris 2.0″, de această dată pentru inteligența artificială, negociat cu China. Într-un interviu pentru CBS, el a declarat: „Îngrijorarea pe care o am este că un singur guvern ar putea abuza de această tehnologie la fel de ușor cum ar putea-o face o singură companie.” A adăugat: „Dar cred că o combinație de guverne alese democratic — nu știu dacă să numesc asta predare de putere, dar un fel de supraveghere, un fel de guvernare comună.”

Cine beneficiază de un asemenea aranjament? Chiar Amodei recunoaște că orice astfel de acord ar trebui să fie verificabil și că o pauză globală în dezvoltarea AI e improbabilă, pentru că tentația de a trișa ar fi enormă. Și totuși insistă că aceasta rămâne cea mai bună variantă — un raționament care amintește izbitor de retorica lui Hillary Clinton și Barack Obama despre instituțiile multilaterale. Nu e o coincidență de interpretare: e același manual internaționalist-liberal, aplicat acum tehnologiei celei mai sensibile a momentului.

Precedentul climatic — și de ce nu e liniștitor

Acordul de la Paris privind clima a demonstrat deja că Partidul Comunist Chinez nu e un partener de bună-credință în negocierile internaționale, ci un regim adversarial care urmărește supremație tehnologică, militară și geopolitică asupra Statelor Unite. Dacă verificarea angajamentelor climatice a fost dificilă, verificarea unui acord AI e cu mult mai complicată. Chiar credem că Beijingul ar preda inspectorilor americani lista centrelor sale de date cele mai avansate, a instalațiilor militare, a siturilor de informații și a rețelelor secrete critice pentru programul său național de AI?

Amodei pare să vadă problema — o recunoaște chiar în propriile texte — dar brain trust-ul său ideologic îngust îl împiedică să tragă concluzia logică. Recunoaște comportamentul statelor adversariale, dar păstrează încrederea în instituții care presupun cooperare între ele, propunând totodată noi structuri de guvernare globală menite, chipurile, să rezolve exact aceste probleme.

Aceasta este realitatea unei bule tehnologice din San Francisco, unde un grup ideologic restrâns produce idei elaborate, nesupuse niciodată testului realității sau al istoriei. Toți cei care îl ajută pe Amodei să răspundă la întrebări complexe provin din aceeași constelație de instituții, think tank-uri liberale, organizații legate de Effective Altruism și filantropie tehnocrată. „ONU-ul pentru AI” și „Paris 2.0″ propuse de el reflectă exact aceste unghiuri moarte.

Înainte de a se considera capabil să rezolve toate marile probleme ale inteligenței artificiale, poate că Dario Amodei ar trebui, mai întâi, să-și extindă propria fereastră de context.

Sursă: ZeroHedge News (zerohedge.com)