BSI a publicat un nou ghid pentru a se asigura că tehnologia de recunoaștere facială (FRT) acționează ca o forță benefică în societate, cu scopul de a ajuta organizațiile să navigheze printre provocările etice asociate cu utilizarea tehnologiei și, în consecință, să construiască încrederea în utilizarea acesteia.
Utilizarea instrumentelor de recunoaștere facială bazate pe inteligență artificială (AI) este din ce în ce mai frecventă, inclusiv în scopuri de securitate, cum ar fi la încoronarea Regelui Carol sau la evenimente sportive majore, cum ar fi meciurile de fotbal, și pentru a reduce furtul din magazine. FRT cartografiază trăsăturile fizice ale unei persoane într-o imagine pentru a forma un șablon facial, care poate fi comparat cu alte imagini stocate într-o bază de date, fie pentru a verifica un nivel ridicat de asemănare, fie pentru a identifica prezența unei persoane într-un anumit loc și la un moment dat.
Cercetările recente ale BSI au arătat că 40 % dintre persoanele de la nivel global se așteaptă să utilizeze identificarea biometrică în aeroporturi până în 2030. Proliferarea sa a generat preocupări legate de utilizarea sigură și etică, inclusiv în ceea ce privește ratele de eroare legate de diferențele rasiale sau de gen, precum și cazuri juridice de profil înalt, printre care unul care implică software-ul utilizat de Uber. Un audit realizat în 2022 a evaluat utilizarea recunoașterii faciale de către poliție, constatând că desfășurarea în mod regulat nu a respectat standardele etice și juridice minime.
Noul standard a fost elaborat de BSI, în rolul său de organism național de standardizare din Regatul Unit, pentru a atenua îngrijorările, ajutând organizațiile să navigheze printre instrumente și să câștige încrederea publicului. Acesta vine în urma sondajului BSI privind încrederea în inteligența artificială, care a arătat că 77% dintre oameni consideră că încrederea în inteligența artificială este esențială pentru utilizarea acesteia în domeniul supravegherii.
Conceput atât pentru organizațiile publice, cât și pentru cele private care utilizează și/sau monitorizează sistemele de supraveghere video (VSS) și tehnologiile biometrice faciale, codul de practică se aplică întregului lanț de aprovizionare, începând cu o evaluare pentru a determina necesitatea utilizării FRT, până la achiziționarea, instalarea și utilizarea adecvată a tehnologiei. Tehnologia de recunoaștere facială – Utilizarea și desfășurarea etică în sistemele bazate pe supraveghere video – Codul de practică (BS 9347:2024)stabilește șase principii-cheie generale de „încredere”. Acestea sunt susținute de un rezumat al politicilor care sunt necesare și care trebuie menținute de către cei din lanțul de aprovizionare. Ghidul se referă la aplicabilitatea sa în ceea ce privește guvernanța și responsabilitatea, mandatul uman și supravegherea, confidențialitatea și guvernanța datelor, robustețea și siguranța tehnică, transparența și explicabilitatea, diversitatea, nediscriminarea și corectitudinea.
Având în vedere că se preconizează că această industrie va valora 13,4 miliarde de dolari la nivel global până în 2028, standardul stabilește importanța revizuirii periodice a eticii IA și a aplicării acesteia în FRT. Acesta înglobează cele mai bune practici și oferă îndrumări cu privire la liniile de gardă adecvate pentru utilizarea sigură și imparțială a FRT prin definirea a două scenarii: identificarea și verificarea. Pentru primul scenariu, cum ar fi identificarea persoanelor în mulțimi la evenimente, standardul prevede că FRT este utilizat împreună cu intervenția umană sau cu măsuri de tip „human-in-the-loop” pentru a asigura o identificare exactă înainte de a se lua măsuri.
În scenariile de verificare în care tehnologia poate funcționa în mod autonom, cum ar fi controlul accesului la clădiri, autentificarea unei tranzacții de plată sau deschiderea unui telefon, standardul pune la punct mecanismele de învățare a tehnologiei, asigurând că datele de instruire includ seturi de date provenite din diverse grupuri demografice și dintr-o varietate de niveluri de iluminare și unghiuri ale camerei, pentru a elimina inexactitățile și a reduce riscul de părtinire prin intermediul falsurilor pozitive.
Scott Steedman, director general, Standarde, BSI, a declarat: „Instrumentele de recunoaștere facială bazate pe inteligență artificială au potențialul de a fi o forță motrice pentru binele și de a aduce beneficii societății prin capacitatea lor de a detecta și monitoriza potențiale amenințări la adresa securității.
„Acest cod de practică este conceput pentru a ajuta organizațiile să navigheze printre provocările etice asociate cu utilizarea sistemelor FRT și, ca urmare, să construiască încrederea în utilizarea acestora. Acesta urmărește să încorporeze cele mai bune practici și să ofere îndrumări cu privire la liniile de gardă adecvate pe care organizațiile le pot pune în aplicare pentru a proteja drepturile civile și pentru a elimina prejudecățile și discriminarea din sistem.”
Dave Wilkinson, director al serviciilor tehnice, British Security Industry Association, a declarat: „Utilizarea FRT nu a venit fără propriile provocări, fie că acestea au fost cauzate de acuratețea tehnologiei, fie de modul și locul în care este implementată. Multe întrebări relevante au fost adresate de grupurile de protecție a vieții private, de părțile interesate din industrie și de alte părți interesate cu privire la utilizarea adecvată și proporțională a unei astfel de tehnologii. Acest cod de bune practici urmărește să insufle încredere în utilizarea FRT prin stabilirea unor principii-cheie care să acopere întregul proces, de la evaluarea necesității de a o utiliza până la asigurarea faptului că funcționarea continuă a acesteia rămâne adecvată scopului și justificată.
„Aliniat la înțelegerea reglementării în curs de dezvoltare atât aici în Regatul Unit, cât și în peisajul de reglementare internațional mai larg, codul de practică își propune să creeze încredere cu cei care dezvoltă, utilizează și sunt supuși utilizării sale.”
Sursa: bmmagazine.co.uk
