Orwell citit de chinezi: un soft AI de detectare a emoțiilor, testat de Beijing pe uiguri
O investigație a postului public britanic BBC dezvăluie un experiment științific șocant pus la cale în mod sistematic de cercetătorii chinezi în domeniul inteligenței artificiale. Un inginer de software care a dorit să rămână anonim susține că a instalat sisteme care cuprind mini-camere video ce utilizează inteligența artificială (AI) și soft-uri pentru recunoaștere facială, menite să detecteze stările emoționale ale subiecților, fiind testat pe etnici uiguri din Xinjiang.
Un avocat al drepturilor omului căruia i s-au arătat dovezile le-a descris drept absolut șocante.
Ambasada Chinei la Londra nu a răspuns la întrebările referitoare la utilizarea software-ului de recunoaștere emoțională în provincie, dar a transmis că „… drepturile politice, economice și sociale, precum și libertatea credinței religioase în toate grupurile etnice din Xinjiang sunt pe deplin garantate. Oamenii trăiesc în armonie indiferent de mediul lor etnic și se bucură de o viață stabilă și pașnică, fără restricții la libertatea personală.”
Populația minoritară uigură din regiunea nord-vestică Xinjiang numără circa 12 milioane de persoane, majoritatea musulmani.
Numeroase anchete ale unor publicații și posturi TV occidentale au arătat cum cetățenii din provincie sunt supravegheați zilnic. Zona găzduiește, de asemenea, ”centre de reeducare” foarte controversate, catalogate drept lagăre de detenție de maximă securitate de către grupurile de activiști pentru drepturile omului, unde se estimează că au fost reținute peste un milion de persoane.
Beijing-ul a susținut întotdeauna că supravegherea este necesară în regiune. Discursul oficialilor chinezi susține că există tendințe separatiste în regiune reprezentate de grupuri de uiguri care doresc să își înființeze propriul stat și care au ucis sute de oameni în atacuri teroriste.
”Șoareci de laborator”
Inginerul citat de BBC a arătat cinci fotografii cu deținuți uiguri, pe care a fost testat sistemul de recunoaștere a emoțiilor.
“Guvernul chinez îi folosește pe uiguri pe post de subiecți de testare pentru diferite experimente, la fel cum sunt folosiți în laboratoare șobolanii”, a spus el.
El a mai povestit și despre instalarea acelor camere în secțiile de poliție din provincia Xinjiang:
“Am plasat camere de detectare a emoțiilor la 3 metri distanță de subiect. Este similar cu un detector de minciuni, dar cu tehnologie mult mai avansată.”
În secțiile de poliție din toată China sunt instalate ”scaune de siguranță”, în care încheieturile mâinilor și gleznele subiecților sunt blocate cu ajutorul unor chingi metalice.
Sistemul de inteligența artificială este construit și reglat să detecteze și să analizeze moment cu moment schimbările faciale și mișcările porilor pielii, după care software-ul creează o diagramă, unde segmentul de culoare roșie reprezintă o stare negativă sau anxioasă.
”Un material șocant”
Fotografiile dezvăluite de inginerul de software i-au fost arătate directoarei filialei din China a organizației Human Rights Watch, Sophie Richardson:
”Este un material șocant. Nu doar că oamenii sunt reduși la o diagramă circulară, dar se află în circumstanțe extrem de coercitive, sub o presiune enormă, sunt agitați, pe bună dreptate, iar acesta este considerat un indiciu al vinovăției, ceea ce este profund problematic.”
Orice comportament suspect trebuie aflat și pedepsit
Potrivit lui Darren Byler, cercetător la Universitatea din Colorado, uigurii trebuie să furnizeze în mod frecvent mostre de ADN către oficialii locali, să fie supuși scanărilor digitale și cei mai mulți dintre ei sunt obligați să descarce o aplicație guvernamentală pe telefonul personal, prin care li se colectează datele personale și privitoare la activitatea lor zilnică, inclusiv listele de contacte și mesajele text primite sau trimise.
“Viața uigurilor este acum o perpetuă generare de date”, spune el.
Persoanele care nu poartă telefoanele asupra lor sunt pasibili să fie reținuți de autoritățile de poliție. Majoritatea datelor sunt introduse într-un sistem informatic numit ”Platforma Integrată de Operațiuni Comune”, despre care Human Rights Watch susține că generează rapoarte despre persoanele care manifestă ”un comportament presupus suspect”.
”Sistemul colectează informații despre zeci de tipuri diferite de comportamente perfect legale, inclusiv chestiuni banale, de pildă dacă ieși dintr-o clădire pe ușa din spate, nu pe cea din față, sau dacă pui benzină într-o mașină care nu îți aparține. Autoritățile amplasează coduri QR în exteriorul ușilor caselor, astfel încât să poată ști cu ușurință cine ar trebui să se afle înăuntru și cine nu”, a mai spus Sophie Richardson.
Un vis chinezesc vechi: controlul total
Lumea occidentală se întreabă de multă vreme cât de strânsă este legătura dintre companiile chineze de tehnologie și autoritățile statului comunist. Un grup de cercetare din SUA, IPVM, specializat în informații despre sisteme de supraveghere video, susține că a descoperit, în brevetele depuse de astfel de companii, indicii care sugerează că produsele de recunoaștere facială au fost concepute special pentru a identifica uigurii.
Un brevet depus în iulie 2018 de Huawei împreună cu Academia de Științe din China descrie un produs de recunoaștere facială capabil să identifice persoanele pe baza etniei lor.
În replică, gigantul chinez Huawei a răspuns că ”nu am acceptat niciodată utilizarea tehnologiei noastre în scopul de a discrimina sau a asupri membrii vreunei comunități”, aplicația funcționând permanent ”independent de guvern”.
Grupul IPVM a mai găsit și un alt document care pare să sugereze că firma dezvoltă tehnologie pentru așa-numitul sistem ”One Person, One File” (”Omul și dosarul”).
“Pentru fiecare persoană, guvernul stochează informațiile personale, activitățile sale politice, relațiile și, în general, orice ar putea să ofere o perspectivă asupra modului în care persoana respectivă s-ar comporta și ce fel de amenințare ar putea reprezenta la un moment dat. Practic, orice tip de disidență devine virtual imposibilă și dă instrumente autorităților pentru a prezice în timp real comportamentul cetățenilor. Nu cred că Orwell și-ar fi imaginat vreodată că un guvern ar putea fi capabil de acest fel de analiză”, susține Conor Healy, de la IPVM.
Huawei nu a răspuns în mod specific întrebărilor cu privire la implicarea sa în dezvoltarea tehnologiei pentru sistemul ”One Person, One File”, dar a ținut să repete că activitățile sale sunt independente de guvern.
De asemenea, ambasada Chinei la Londra a declarat că nu are cunoștință despre aceste programe.
IPVM a mai dezvăluit că a găsit o serie de materiale de promovare realizate pentru compania chineză Hikvision, care promovează o cameră AI care detectează uigurii, precum și un brevet pentru un software dezvoltat de Dahua, un alt gigant tehnologic, dezvoltat în același scop – identificarea uigurilor.
Reprezentanții Dahua au declarat că brevetul respectiv se referă la toate cele 56 de etnii recunoscute în China, fără să vizeze în mod special și deliberat pe vreuna dintre acestea. Ei au mai spus că Dahua a furnizat ”produse și servicii care au ca scop menținerea în siguranță a oamenilor” și că a respectat ”legile și reglementările fiecărei piețe” pe care își desfășoară activitatea.
De partea lor, cei de la Hikvision au transmis că detaliile de pe website erau incorecte, fiind puse online fără o revizuire adecvată. De asemenea, au adăugat că nu au vândut și nu au în oferta de produse vreo funcție de recunoaștere sau vreo tehnologie de analiză a persoanelor aparținând unor minorități.
Atât autoritățile chineze în materie de reglementare a tehnologiilor de vârf, cât și ambasada Chinei la Londra, au negat orice fel de acuzații, spunând că nu există nicio așa-numită tehnologie de recunoaștere facială care să colecteze date ale etnicilor uiguri.
Date estimative arată că în China se află circa jumătate din cele aproape 800 de milioane de camere de supraveghere aflate în funcțiune în întreaga lume.
De asemenea, a construit și adaptat mai multe orașe inteligente, așa cum este cazul metropolei Chongqing, unde elemente de inteligență artificială au fost încorporate în elemente constitutive ale mediului urban.
Jurnalistul de investigație Hu Liu, care locuiește la Chongqing, a declarat pentru BBC:
“De îndată ce ieși din casă și intri în lift, ești deja în vizorul unei camere. Există camere peste tot. Când plec de acasă ca să merg undeva, sun la un taxi, iar compania de taxiuri trimite deja datele către guvern. Dacă merg la vreo cafenea, să mă întâlnesc cu niște prieteni, autoritățile știu cu exactitate unde mă aflu, grație camerei amplasate în cafenea. Au fost ocazii în care m-am întâlnit cu niște prieteni, iar la scurt timp mă contactează cineva de la guvern. M-au avertizat: «Să nu te mai întâlnești cu cutare, nu fă cutare și cutare lucru». Cu inteligența artificială, pur și simplu nu mai ai unde să te ascunzi”, a spus el.









