Camerele AI care opresc nevinovați: cine beneficiază de fapt?

eea ce compania Flock Safety prezintă drept „funcționare conform proiectului” ascunde de fapt o aritmetică incomodă: un sistem care citește 20 de miliarde de plăcuțe de înmatriculare pe lună, cu o acuratețe declarată de 99%, generează matematic aproximativ 200 de milioane de citiri greșite în fiecare lună — iar nimeni, nici măcar compania, nu poate spune câte dintre aceste erori se transformă în opriri armate ale unor oameni complet nevinovați.

Cazul care a scos la iveală problema s-a petrecut în Plymouth, Minnesota, unde jurnalistul auto Joel Feder și soția sa au fost blocați de mai mulți ofițeri de poliție într-o operațiune coordonată, în timp ce conduceau un Range Rover de 155.000 de dolari, mașină de test primită de la Jaguar Land Rover pentru presă. Polițiștii au încolțit vehiculul într-o parcare Kohl’s, s-au apropiat cu mâinile pe armă, i-au scos pe cei doi din mașină și le-au făcut percheziție corporală — înainte de a verifica, în sfârșit, legitimitatea vehiculului direct la producător. Feder a obținut ulterior înregistrările camerelor corporale ale ofițerilor și le-a publicat public.

Cronologia ridică întrebări: poliția urmărea deja mașina de câteva zile, convinsă că plăcuța de fabricant din New Jersey (34 10 DTM) ar fi furată. Sursa erorii? Un raport incomplet despre o plăcuță similară (34 03 DTM), pierdută în timpul unei ședințe foto în California, introdusă în baza națională de date NCIC ca simplu „34 DTM”. Sistemul de inteligență artificială al Flock a potrivit plăcuța lui Feder ignorând cifrele din mijloc, iar ofițerii locali nu au verificat plăcuța completă — vizibilă chiar în propriile imagini furnizate de Flock.

Problema nu s-a oprit la un singur vehicul. Săptămâna trecută, un alt jurnalist auto, Tim Esterdahl, publisher al Pickup Truck + SUV Talk, a fost oprit de doi ofițeri în Scotts Bluff, Nebraska, în timp ce își conducea copilul de 14 ani într-un Range Rover Sport de 105.000 de dolari, tot împrumutat de Jaguar Land Rover pentru recenzie. Plăcuța: New Jersey 34 08 DTM — practic aceeași secvență, doar cu o cifră diferită. Jaguar Land Rover lucrează acum pentru a corecta rapoartele care au generat aceste alerte în lanț.

Ce spune Flock Safety — și ce recunoaște, de fapt

Flock Safety susține că sistemul a funcționat exact așa cum a fost proiectat, potrivind plăcuțe parțiale conform preferințelor exprimate de agențiile de aplicare a legii pentru alertele de tip „hotlist”. Joshua Thomas, director de comunicare al companiei, a explicat pentru The Drive că sistemul a fost întrebat doar dacă acele caractere sunt prezente pe plăcuță — și a răspuns corect că sunt — dar nu a fost construit să semnaleze existența unor caractere suplimentare. Totuși, Thomas a recunoscut că, pentru alertele provenite din NCIC (spre deosebire de listele personalizate ale unei agenții), sistemul ar trebui, în mod rezonabil, să verifice o potrivire exactă, nu doar simpla prezență a cifrelor — un feedback pe care a promis să-l ducă mai departe echipei tehnice.

Compania spune că lucrează atât la corectarea raportului inițial al poliției, cât și cu oficiali FBI care administrează NCIC, pentru a găsi o metodă prin care datele incomplete să fie semnalate ca atare ofițerilor din teren. Thomas a ținut să sublinieze că o alertă de cameră „nu echivalează cu motiv întemeiat” (probable cause), comparând-o cu o alarmă care sună — sistemul depinde deopotrivă de date valide la intrare și de verificare umană la ieșire. Rămâne însă întrebarea evidentă: câți ofițeri tratează, în practică, o alertă automată ca pe un verdict, nu ca pe o simplă sugestie?

Poliția din Plymouth a recunoscut lacunele de verificare, invocând dificultatea formatelor variate de plăcuțe la nivel național. Conform propriului portal de transparență Flock al departamentului, orașul operează 18 camere care au citit peste 580.000 de plăcuțe într-o perioadă recentă de 30 de zile, generând peste 14.800 de alerte de tip hotlist — una dintre ele fiind exact cazul lui Feder.

Rețeaua care se extinde fără prea multe întrebări

Acest caz se adaugă unei liste tot mai lungi de incidente care subliniază implicațiile pentru viața privată ale desfășurării extinse a camerelor Flock Safety. Aceste rețele, active acum în mii de comunități din zeci de state americane, creează jurnale detaliate ale mișcărilor vehiculelor cu o supraveghere minimă, ridicând întrebări serioase despre monitorizarea nejustificată a unor cetățeni care nu au încălcat nicio lege. Cine beneficiază de o asemenea arhitectură de date? Companiile care vând contracte de supraveghere către municipalități, evident — dar și orice actor, public sau privat, care ar avea acces, oficial sau nu, la aceste jurnale de mișcare acumulate pe termen lung.

Criticii, inclusiv organizațiile pentru protecția vieții private, avertizează de mult timp că bazarea pe potriviri parțiale, partajarea datelor între agenții și integrarea cu alte instrumente de supraveghere pot duce la fals-pozitive, la un efect de descurajare asupra mișcării zilnice a oamenilor și la posibile abuzuri. Susținătorii evidențiază, desigur, utilitatea acestor sisteme în recuperarea vehiculelor furate și în sprijinirea anchetelor — dar agregarea datelor de localizare în timp permite, practic, o urmărire generalizată fără o suspiciune individualizată, exact genul de arhitectură pe care democrațiile occidentale spuneau că vor evita atunci când tehnologia de recunoaștere a plăcuțelor a fost introdusă prima dată.

Ce nu se menționează în comunicatele oficiale ale companiei este simplu: dacă un sistem cu „doar” 1% rată de eroare, aplicat la o scară de 20 de miliarde de citiri lunare, produce sute de milioane de erori, atunci procentul devine irelevant — ceea ce contează este numărul absolut de oameni afectați, iar acela e uriaș. Iar dacă acest tip de rețea funcționează deja fără prea multă rezistență publică în Statele Unite, întrebarea firească pentru cititorii din Europa, inclusiv din România, este cât de departe suntem de a vedea sisteme similare de recunoaștere automată a plăcuțelor integrate discret în infrastructura urbană, sub pretextul siguranței publice.

Sursă: ZeroHedge News (zerohedge.com)