Inteligența artificială ar putea fi utilizată pentru a proiecta sau modifica virusuri periculoase, accelerând crearea unor agenți biologici transmisibili. Acesta este avertismentul lansat de peste 100 de cercetători de la universități de prestigiu, care cer reguli mai clare pentru protejarea datelor biologice sensibile.
Într-o scrisoare deschisă, experți de la instituții precum Universitățile Johns Hopkins, Oxford, Fordham și Stanford solicită măsuri suplimentare de protecție pentru anumite baze de date biologice cu risc ridicat. Potrivit News, autorii atrag atenția că accesul neîngrădit la unele tipuri de informații ar putea oferi sistemelor AI capacitatea de a contribui la dezvoltarea unor agenți patogeni cu potențial pandemic.
De la progres științific la risc biologic
Accesul deschis la date științifice a accelerat cercetarea biomedicală în ultimele decenii, însă dezvoltarea rapidă a inteligenței artificiale a schimbat paradigma. Modelele de AI folosite în biologie sunt antrenate pe volume uriașe de date, inclusiv secvențe genetice și informații detaliate despre caracteristicile agenților patogeni.
Aceste sisteme avansate pot prezice mutații, pot identifica tipare complexe și chiar pot genera variante mai transmisibile ale unor virusuri. Autorii scrisorii descriu această capacitate drept una îngrijorătoare, deoarece ar putea simplifica și accelera crearea unor agenți biologici ce pot afecta oamenii, animalele, plantele sau mediul înconjurător.
Ce soluții propun experții? Un sistem pe cinci niveluri
Cercetătorii subliniază că majoritatea datelor biologice ar trebui să rămână accesibile publicului pentru a nu frâna inovația. Ei propun însă controale suplimentare de securitate pentru informațiile considerate sensibile, pe care le denumesc „date despre agenţi patogeni periculoşi”.
Soluția lor constă în definirea clară și reglementarea celor mai riscante seturi de date înainte ca acestea să devină disponibile pentru dezvoltatorii de modele AI. În prezent, nu există un cadru universal care să reglementeze aceste baze de date. Experții propun un sistem de clasificare în cinci trepte, denumit Biosecurity Data Level (Nivel de biosecuritate al datelor), care să evalueze riscul asociat fiecărui tip de informație. Pentru a garanta că accesul rămâne limitat la utilizatori legitimi, ei recomandă introducerea unor instrumente tehnice dedicate de control și monitorizare.
Primii pași: Cum unii dezvoltatori AI elimină deja datele periculoase
În lipsa unor reguli clare, unii dezvoltatori au început deja să acționeze din proprie inițiativă. De exemplu, creatorii modelelor biologice de inteligență artificială Evo și ESM3 au eliminat anumite secvențe virale din datele folosite la antrenare. Echipa din spatele Evo este formată din cercetători de la Arc Institute, Stanford și TogetherAI, în timp ce ESM3 este dezvoltat de EvolutionaryScale.
În februarie 2025, echipa EVO 2 a anunțat că a exclus din seturile sale de date agenți patogeni care infectează oameni și alte organisme complexe. Motivația a fost legată de riscuri etice și de siguranță, dar și de dorința de a preveni utilizarea modelului pentru dezvoltarea de arme biologice. EVO 2 este un model open source capabil să prezică efectele mutațiilor ADN, să proiecteze genomuri noi și să identifice tipare în codul genetic.
Semnatarii scrisorii insistă că menţinerea unui echilibru riguros între accesul deschis la datele ştiinţifice şi aplicarea unor restricţii ferme pentru informaţiile cu risc ridicat devine crucială pe măsură ce modelele de AI devin tot mai performante şi mai răspândite.
