Primiți gratuit actualizări tehnologice
Vă vom trimite un myFT Daily Digest e-mail rotunjind cele mai recente Tehnologie știri în fiecare dimineață.
Scriitorul este fostul director de cibernetică la GCHQ și acum lucrează ca consultant în domeniul tehnologiei și al conducerii
Sir Richard Moore, șeful agenției britanice de informații MI6, a susținut într-un discurs în această săptămână că, indiferent de beneficiile inteligenței artificiale, nimic nu va înlocui „factorul uman” al spionajului – legătura unică de încredere dintre agenții de peste mări și ofițerii care lucrează cu ei. Pe de altă parte, inteligența artificială are un potențial uriaș de a stimula operațiunile spionilor, pe măsură ce amenințările la adresa securității se înmulțesc. Într-o lume în care informațiile sunt din ce în ce mai contestate, ce ar putea însemna să avem un sistem de inteligență augmentată – sau chiar artificială – în centrul securității naționale?
În esența sa, IA face recunoașterea modelelor. Ea poate învăța și genera tipare cu o viteză de neînțeles, depinzând de accesul la date de antrenament de încredere. IA poate ajuta un analist să proceseze informațiile, să identifice tendințele și, în cele din urmă, să ajute la luarea deciziilor. GCHQ, care a condus activitatea agențiilor de informații din Regatul Unit în acest domeniu, a dezvăluit că AI sprijină investigatorii umani prin capturarea și interceptarea de imagini, mesaje și lanțuri de contact pentru a ajuta la identificarea infractorilor. De asemenea, ar putea fi folosită pentru a căuta „persoane ascunse și servicii ilegale” pe dark web.
Agențiile de informații – indiferent dacă se concentrează pe recrutarea de surse umane sau pe interceptarea comunicațiilor – există pentru a da sens complexității. Pentru a interpreta evenimentele din puzzle-uri incomplete de date fragmentate și pentru a oferi informații care să ajute guvernele să își planifice politica externă și să răspundă la crize. Într-o muncă care implică atât de des căutarea acului în carul cu fân, AI va avea în mod inevitabil un rol de jucat.
Cu toate acestea, există obstacole semnificative. Agențiile de informații occidentale, cum ar fi alianța Five Eyes (SUA, Regatul Unit, Canada, Australia și Noua Zeelandă), acordă o mare importanță reputației lor de entități de încredere, care lucrează într-un mod legal, etic, proporțional și responsabil. Provocarea va consta în menținerea acestei reputații de încredere, adaptându-se în același timp la o nouă capacitate digitală.
Inteligența artificială este mai puțin fiabilă în scenarii complexe și în schimbare. A fost destul de greu de dezvoltat și implementat în condiții de siguranță și securitate într-un mediu controlat, cum ar fi un spital. Să cauți ceva care s-ar putea să nu fi fost văzut niciodată înainte, în medii contestate în care adversarii (cum ar fi teroriștii sau statele ostile) caută în mod activ să îți ascundă vederea, este încă o muncă în desfășurare.
IA este foarte capabilă să se ocupe de poziția medie: varietatea de analiză „ceea ce ar face majoritatea oamenilor”. Se descurcă prost cu valorile aberante. Dar valorile aberante sunt chiar punctul central al comunității serviciilor de informații, care caută mai degrabă extremiștii, decât cetățeanul mediu. Inteligența artificială este excelentă la extrapolarea din ceea ce este cunoscut, dar se luptă cu determinarea necunoscutului, sau a ceea ce nu s-a mai văzut niciodată.
Tehnologia nu poate, deocamdată, să adauge o înțelegere contextuală, să corecteze intrările eronate sau să verifice veridicitatea informațiilor sale sursă. O fotografie a unei clădiri în flăcări cu data de astăzi este, pentru un sistem de inteligență artificială, o clădire în flăcări astăzi – nu un artefact istoric. Pentru un sistem de inteligență artificială, declarațiile despre schimbările climatice din sub-filele unei dezbateri online reprezintă un set de opinii la fel de exacte: nu poate să le elimine pe cele extrem de inexacte sau să separe teza de doctorat de divagațiile unui adept al teoriei conspirației, decât dacă este codificat în acest sens de către un specialist în știința datelor, care, la rândul său, își poate impune propriile prejudecăți asupra întregului set de date.
Nu numai că intrările de date ale IA sunt susceptibile de interferențe umane – răspunsurile sale sunt, de asemenea, relativ ușor de manipulat. Întotdeauna au existat cei cărora le place să construiască tehnologie și cei cărora le place să o spargă – sediul GCHQ din al doilea război mondial de la Bletchley Park a angajat atât codificatori, cât și spărgători de coduri. Inteligența artificială nu este diferită. Cele mai avansate vehicule fără șofer din San Francisco pot fi întrerupte de farsori care le pun un con de trafic pe capotă, lăsând mașina în pană. Vehiculul nu are capacitatea de a face față evenimentelor neprevăzute la care un om poate răspunde instinctiv.
În cadrul științei și industriei britanice, cercetătorii investighează siguranța și securitatea IA pentru a construi standarde solide pentru viitor. Acești experți depun eforturi pentru a se asigura că caracteristicile care să contracareze practicile adversative sunt incluse în proiectarea IA încă de la început. Otrăvirea unui sistem de inteligență artificială prin coruperea datelor de instruire, fie în mod deliberat sau accidental, rămâne un risc critic.
Aplicația evidentă a IA, atât pentru spioni, cât și pentru multe alte profesii, este gestionarea datelor în masă create în viața de zi cu zi. Societatea noastră modernă produce mai multe date pe minut decât au stocat grecii antici în întreaga lor civilizație. Avem o bibliotecă fără bibliotecari. Provocarea cantitativă este una în care IA oferă noi oportunități.
Dar, într-o lume în care adversarii pompează constant dezinformări în marea de date, provocarea calității rămâne reală. Acesta este motivul pentru care agențiile de informații, la fel ca toate acele profesii care se ocupă cu căutarea adevărului, au încă nevoie de oameni în buclă.
„Pe măsură ce IA cercetează oceanul de surse deschise … caracteristicile unice ale agenților umani în locurile potrivite vor deveni și mai importante”, a declarat Moore în fața audienței sale din Praga. „Ei nu sunt niciodată doar colectori pasivi de informații … uneori pot influența deciziile în interiorul unui guvern sau al unui grup terorist”. Pentru asta, cel puțin, nu există încă nicio scurtătură automată.
Sursa: www.ft.com
