Sainsbury’s și IA facială: 99,98% precizie, doi nevinovați acuzați

n lanț de supermarketuri din Anglia susține că sistemul său de recunoaștere facială are o precizie de 99,98% — și totuși, în mai puțin de un an, a etichetat public drept hoți cel puțin doi clienți nevinovați. Ceea ce compania numește „eroare umană” de fiecare dată ar putea fi, de fapt, semnul unei probleme mult mai mari: încrederea oarbă în algoritmi pe care nici măcar operatorii lor nu par să știe cum să-i verifice.

Sainsbury’s a suspendat utilizarea inteligenței artificiale pentru recunoaștere facială la magazinul din Dulwich, sud-estul Londrei, după ce Matt Arnold, în vârstă de 46 de ani, a fost acuzat pe nedrept de furt. Incidentul, relatat inițial de BBC, a avut loc pe 6 august, în timp ce bărbatul aștepta la o casă self-service aprobarea pentru achiziția unei sticle de alcool.

Un cerc roșu pe monitor și acuzații fără explicație

Arnold își scanase deja produsele și folosise cardul de fidelitate Nectar când a fost abordat de doi membri ai conducerii magazinului, care i-au spus că nu poate fi servit din cauza unui „incident petrecut la începutul săptămânii”.

„Au venit și mi-au spus că trebuie să plec. Membrul personalului a spus că am fost identificat de inteligența artificială. Mi-au zis că camerele m-au semnalat”, a declarat el pentru BBC Londra.

„Un hoț din magazine nu se plimbă cu atâtea cumpărături, nu le scanează, nu își introduce cardul Nectar. Dar ceea ce m-a supărat a fost gândul că ăsta ar putea fi viitorul. Oamenii ascultă pur și simplu ce le spune aparatul să facă fără să se gândească la consecințe”, a mai spus Arnold.

În timp ce era escortat afară din magazin, bărbatul a observat pe un monitor CCTV un cerc roșu conturat exact în jurul feței sale — imaginea pe care algoritmul o marcase drept „potrivire”.

Nu e prima dată — și asta ridică întrebări

Sediul central Sainsbury’s l-a contactat pe Arnold a doua zi pentru scuze, insistând că totul s-a datorat unei „erori umane”, nu unei defecțiuni a software-ului. Aceeași explicație — „eroare umană” — a fost folosită și în septembrie, când Warren Rajah a fost dat afară dintr-o sucursală din Elephant and Castle, semnalat greșit de același sistem, furnizat de firma Facewatch. De această dată, Facewatch a confirmat ulterior că persoana în cauză nici măcar nu exista în baza sa de date.

Coincidență sau nu, de fiecare dată vina cade pe factorul uman, niciodată pe tehnologie sau pe modul în care aceasta este integrată în operațiunile zilnice. Ceea ce nu se menționează în comunicatele oficiale este câți alți clienți ar fi putut fi semnalați similar, fără ca povestea lor să ajungă vreodată în presă.

Context extins: cazul se înscrie într-un tipar mai larg, vizibil și în alte piețe europene — companii private testează sisteme biometrice de supraveghere în spații comerciale, adesea fără o dezbatere publică reală despre ratele de eroare, despre stocarea datelor faciale sau despre cine răspunde efectiv atunci când algoritmul greșește. Cine beneficiază de extinderea acestor sisteme, dincolo de argumentul „reducerii criminalității”? Furnizorii de tehnologie de supraveghere au un interes economic direct în adoptarea pe scară largă a produselor lor — indiferent de rata reală de eroare din teren.

Ce spune compania și ce nu explică

Arnold însuși a fost surprinzător de îngăduitor față de angajați: „Chiar dacă ceea ce mi s-a întâmplat a fost oribil, îmi pare rău pentru personal. Se vor întâmpla greșeli. Nu sunt pregătiți pentru a implementa corect inteligența artificială”, a spus el.

Un purtător de cuvânt al Sainsbury’s a confirmat suspendarea tehnologiei la magazinul din Dulwich, pe durata unei anchete interne, dar a apărat sistemul în ansamblu: „L-am contactat pe domnul Arnold pentru a ne cere scuze pentru experiența sa la hipermarketul nostru din Dulwich. Incidentul a fost cauzat de o eroare umană, nu de tehnologia de recunoaștere facială. Clienții pot fi liniștiți că sistemul Facewatch are o rată de precizie de 99,98%. Fiecare potrivire este revizuită de un manager instruit.”

Un purtător de cuvânt al Facewatch a susținut, la rândul său, că tehnologia „nu a fost de vină” în acest caz. Rămâne întrebarea firească: dacă precizia declarată e de 99,98%, iar tehnologia nu greșește niciodată, de ce apar totuși cazuri repetate în care oameni nevinovați sunt escortați public afară din magazine, sub privirile celorlalți clienți? Cronologia — două incidente similare în mai puțin de un an, la același furnizor — ridică mai multe semne de întrebare decât rezolvă comunicatele de presă ale companiei.

Sursă: R3media (r3media.ro)