Guvernul britanic desființează în liniște consiliul consultativ privind etica AI cu doar câteva luni înainte de a găzdui o conferință globală

guvernul britanic a desființat consiliul consultativ independent al Centrului pentru etică și inovare în domeniul datelor (CDEI), fără niciun anunț, în contextul unui efort mai amplu de a poziționa Regatul Unit ca lider mondial în domeniul guvernanței IA.

Lansat în iunie 2018 pentru a impulsiona o abordare colaborativă, cu mai multe părți interesate, a guvernanței inteligenței artificiale (AI) și a altor tehnologii bazate pe date, misiunea inițială a consiliului consultativ multidisciplinar al CDEI a fost de a „anticipa lacunele din peisajul de guvernanță, de a conveni și de a stabili cele mai bune practici pentru a ghida utilizările etice și inovatoare ale datelor și de a consilia guvernul cu privire la necesitatea unor măsuri specifice de politică sau de reglementare”.

De atunci, centrul s-a concentrat în mare parte pe elaborarea de orientări practice privind modul în care organizațiile din sectorul public și privat își pot gestiona tehnologiile de inteligență artificială într-un mod etic, ceea ce include, de exemplu, publicarea unui standard de transparență algoritmică pentru toate organismele din sectorul public în noiembrie 2021 și a unui portofoliu de tehnici de asigurare a inteligenței artificiale în iunie 2023.

Decizia vine înainte de summitul global privind siguranța AI care va avea loc în Marea Britanie în noiembrie și, deși pe pagina web a consiliului consultativ se menționează că acesta a fost închis oficial la 9 septembrie 2023, Future News a declarat că guvernul a actualizat pagina în așa fel încât nu au fost trimise alerte prin e-mail celor care s-au abonat la acest subiect.

Vorbind sub anonimat cu Recorded Future, foști membri ai consiliului consultativ au explicat cum atitudinea guvernului față de acest organism s-a schimbat de-a lungul timpului, deoarece a trecut prin patru prim-miniștri diferiți și șapte secretari de stat de când membrii consiliului au fost numiți pentru prima dată în noiembrie 2018.

„La înființarea noastră, a existat o întrebare dacă vom fi mutați în afara guvernului și puși pe o bază statutară sau dacă vom fi un organism independent, iar presupunerea a fost că aceasta era direcția în care ne îndreptăm”, a declarat oficialul, adăugând că, în schimb, CDEI a fost adus în întregime în sfera de competență a Departamentului pentru Știință, Inovare și Tehnologie (DSIT) la începutul anului 2023.

„Ei nu au fost investiți în ceea ce făceam noi. Acest lucru făcea parte dintr-o stare de rău mai amplă în care Biroul pentru Inteligență Artificială se străduia, de asemenea, să câștige tracțiune în cadrul guvernului, iar cărțile albe erau amânate și amânate și amânate.”

Fostul membru al consiliului a mai adăugat că a existat, de asemenea, foarte puțină voință politică pentru a determina organismele din sectorul public să se implice în activitatea CDEI, menționând, de exemplu, că standardul de transparență algoritmică publicat în noiembrie 2021 nu a fost adoptat pe scară largă și nu a fost promovat de guvern în cartea albă privind IA din martie 2023 (care a prezentat propunerile sale de guvernanță pentru această tehnologie): „Am fost într-adevăr destul de surprins și dezamăgit de acest lucru”.

Vorbind cu Computer Weekly sub rezerva anonimatului, același fost membru al consiliului de administrație a adăugat că au fost informați de desființarea consiliilor în luna august: „Motivul invocat a fost acela că DSIT a decis să adopte o abordare mai flexibilă în ceea ce privește consultarea consilierilor, alegând dintr-un grup de persoane externe, în loc să aibă un consiliu consultativ formal.

„A existat cu siguranță o opțiune pentru ca consiliul să continue. În contextul actual, cu atât de mult interes pentru reglementarea și supravegherea utilizării inteligenței artificiale și a datelor, expertiza existentă în cadrul consiliului consultativ ar fi putut contribui mult mai mult.”

Cu toate acestea, ei au fost clari că personalul CDEI „a lucrat întotdeauna în mod extrem de profesionist cu consiliul consultativ, ținând cont de sfaturile acestuia și asigurându-se că consiliul a fost ținut la curent cu proiectele în curs de desfășurare”.

Neil Lawrence, profesor de învățare automată la Universitatea din Cambridge și președinte interimar al consiliului consultativ, a declarat, de asemenea, pentru Recorded Future că, deși a avut „suspiciuni puternice” cu privire la desființarea consiliului consultativ, „nu a existat nicio conversație cu mine” înainte de luarea deciziei.

La începutul lunii septembrie 2023, de exemplu, chiar înainte ca pagina web a consiliului consultativ să fie schimbată în liniște, guvernul a anunțat că a numit personalități din industrie, din mediul academic și din domeniul securității naționale în consiliul consultativ al grupului său operativ Frontier AI, redenumit Frontier AI Taskforce (anterior a fost AI Foundation Model Taskforce).

Obiectivul declarat al Taskforce-ului, în valoare de 100 de milioane de lire sterline, este de a promova siguranța AI și se va concentra în special pe evaluarea sistemelor „de frontieră” care prezintă riscuri semnificative pentru siguranța publică și securitatea globală.

Comentând modul în care desființarea consiliului consultativ al CDEI va afecta guvernanța britanică în materie de inteligență artificială în viitor, foștii membri ai consiliului consultativ au declarat: „Riscurile existențiale par să fie accentul actual, cel puțin în biroul premierului. S-ar putea spune că este ușor să te concentrezi asupra riscurilor „existențiale” viitoare, deoarece astfel se evită să trebuiască să iei în considerare detaliile a ceea ce se întâmplă acum și să iei măsuri.

„Este greu să decidem ce să facem în legătură cu utilizările actuale ale IA, deoarece acest lucru implică investigarea detaliilor tehnologiei și a modului în care aceasta se integrează cu procesul decizional uman. Implică, de asemenea, să ne gândim la politicile din sectorul public și la modul în care IA este utilizată pentru a le pune în aplicare. Acest lucru poate ridica probleme dificile.

„Sper că CDEI va continua și că expertiza pe care a acumulat-o va fi pusă în prim-planul eforturilor în curs de desfășurare pentru a identifica potențialul și riscurile reale ale IA și care ar trebui să fie răspunsurile adecvate în materie de guvernanță.”

Răspunzând la solicitarea de comentarii a Computer Weekly, un purtător de cuvânt al DSIT a declarat „Consiliul consultativ al CDEI a fost numit pe o perioadă determinată și, având în vedere că activitatea sa evoluează pentru a ține pasul cu evoluțiile rapide în domeniul datelor și al inteligenței artificiale, ne folosim acum de un grup mai larg de expertiză din întregul departament, dincolo de o structură formală a consiliului.

„Acest lucru va asigura că o gamă diversă de opinii și perspective, inclusiv de la foștii membri ai consiliului, poate continua să îi informeze activitatea și să sprijine prioritățile guvernului în materie de inteligență artificială și inovare.”

La 26 septembrie, o serie de foști membri ai consiliului consultativ – printre care Lawrence, Martin Hosken, Marion Oswald și Mimi Zou – au publicat un blog cu reflecții despre perioada petrecută la CDEI.

„În perioada în care am făcut parte din consiliul consultativ, CDEI a inițiat proiecte de vârf la nivel mondial, printre care AI Assurance, provocările pentru premiile PETs din Marea Britanie și SUA, Algorithmic Transparency Recording Standard (Standardul de înregistrare a transparenței algoritmice), Fairness Innovation Challenge (Provocarea pentru inovare echitabilă), printre multe altele”, a declarat Zou.

„Mergând mai departe, nu am nicio îndoială că CDEI va continua să fie un actor principal în realizarea priorităților strategice ale Regatului Unit în ceea ce privește utilizarea fiabilă a datelor și a IA și inovarea responsabilă. Aștept cu nerăbdare să sprijin această misiune importantă pentru mulți ani de acum încolo.”

Însuși CDEI a declarat: „Consiliul consultativ al CDEI a jucat un rol important în a ne ajuta să realizăm această agendă crucială. Expertiza și intuiția lor au fost de neprețuit pentru a ne ajuta să stabilim direcția și să realizăm programele noastre de lucru privind accesul responsabil la date, asigurarea inteligenței artificiale și transparența algoritmică.

„Având în vedere că mandatele consiliului s-au încheiat, am dori să profităm de această ocazie pentru a le mulțumi membrilor consiliului pentru că au sprijinit unele dintre proiectele noastre cheie în timpul mandatului lor.”

Reflectând interesul larg răspândit față de reglementarea și guvernanța IA, în ultimul an au fost lansate mai multe anchete parlamentare pentru a investiga diverse aspecte ale tehnologiei.

Printre acestea se numără o anchetă privind o anchetă privind guvernanța IA lansată în octombrie 2022; o anchetă privind sistemul de arme autonome lansată în ianuarie 2023; o alta privind IA generativă lansată în iulie 2023; și încă una privind modelele lingvistice mari lansată în septembrie 2023.

O anchetă a Lorzilor privind utilizarea inteligenței artificiale și a tehnologiilor algoritmice de către poliția britanică a concluzionat, în martie 2022, că aceste tehnologii sunt utilizate de către organismele de aplicare a legii fără o examinare aprofundată a eficacității sau a rezultatelor lor și că cei care se ocupă de aceste implementări „inventează în esență pe parcurs”.