OpenAI a emis recent un avertisment privind riscurile de securitate cibernetică asociate cu modelele sale de inteligență artificială. Compania, cunoscută pentru dezvoltarea ChatGPT, a indicat că, pe măsură ce tehnologiile avansează, modelele AI ar putea dezvolta capabilități periculoase. Aceste capabilități includ crearea de exploatări de tip zero-day, care ar putea afecta sistemele de securitate bine protejate sau facilitarea intruziunilor complexe în rețelele industriale.
Progresul rapid al capacităților de hacking
Un raport intern al OpenAI, obținut de Axios, sugerează că modelele sale de inteligență artificială devin din ce în ce mai sofisticate în privința securității cibernetice. De exemplu, GPT-5 a obținut un scor de 27% într-un test de securitate de tip „capture-the-flag” în luna august. În luna precedentă, GPT-5.1-Codex-Max a înregistrat o performanță semnificativ mai bună, atingând un scor de 76%. Aceasta reprezintă o creștere considerabilă în doar trei luni.
OpenAI a menționat că se așteaptă ca modelele viitoare să continue să evolueze în această direcție. Compania își planifică evaluările astfel încât să considere fiecare model nou ca având potențial „ridicat” în ceea ce privește abilitățile de securitate cibernetică.
Definiția riscului „ridicat”
Un risc „ridicat” înseamnă că modelele AI pot genera exploatări de tip zero-day. Aceste vulnerabilități sunt neidentificate de dezvoltatori, ceea ce le face extrem de periculoase. Aceste capacități ar putea permite unui număr mai mare de indivizi să efectueze atacuri cibernetice, reducând bariera de intrare pentru atacurile sofisticate.
OpenAI a subliniat că atacurile bazate pe forță brută, care ar putea fi facilitate de aceste tehnologii, ar putea fi detectate relativ ușor în medii protejate. Totuși, compania nu a oferit detalii precise despre momentul în care ar putea apărea modelele considerate „ridicate” sau despre tipurile de modele care ar putea genera aceste amenințări.
Măsuri de apărare implementate de OpenAI
Pentru a contracara amenințările emergente, OpenAI a anunțat un set de măsuri de securitate. Acestea includ controale de acces, întărirea infrastructurii, controale de ieșire și monitorizare. Compania investește în fortificarea modelelor pentru a îmbunătăți securitatea cibernetică. De asemenea, dezvoltă instrumente care să ajute profesioniștii în domeniul securității să realizeze audituri de cod și să remedieze vulnerabilitățile mai ușor.
În curând, OpenAI va lansa un program destinat utilizatorilor și clienților calificați din domeniul apărării cibernetice. Acest program va oferi acces la capabilități îmbunătățite, permițând specialiștilor în securitate să utilizeze aceste instrumente avansate în scopuri defensive.
Consiliul pentru riscuri de frontieră
OpenAI a înființat un grup consultativ numit Consiliul pentru Riscuri de Frontieră, care va reuni experți în securitate cibernetică. Consiliul va colabora strâns cu echipele interne ale companiei, având ca obiectiv inițial securitatea cibernetică. În viitor, se preconizează extinderea activității pentru a aborda și alte domenii în care sistemele AI avansate ar putea genera probleme de siguranță.
De asemenea, OpenAI testează Aardvark, un instrument care ajută dezvoltatorii să identifice lacunele de securitate în produsele lor. Conform companiei, Aardvark a descoperit deja vulnerabilități critice.
Contextul geopolitic al amenințărilor de securitate
Avertismentul OpenAI apare într-un moment în care tensiunile geopolitice amplifică preocupările legate de securitatea cibernetică. Compania a observat o utilizare tot mai mare a instrumentelor AI de către adversari străini pentru a sprijini operațiuni de hacking. Recent, OpenAI a interzis conturi asociate cu entități guvernamentale din China, care solicitau generarea de propuneri pentru sisteme destinate monitorizării conversațiilor pe rețelele sociale.
Tehnologia care face modelele AI periculoase pentru atacatori le conferă, în același timp, și valoare apărătorilor. OpenAI recunoaște această dualitate a capabilităților sale în continuă expansiune.
Colaborarea cu industria pentru securitate
OpenAI își intensifică eforturile de colaborare cu alte entități din industrie pentru a aborda amenințările de securitate cibernetică. Compania face parte din Forumul Modelelor de Frontieră, creat împreună cu alte laboratoare de top în 2023. Aceste inițiative subliniază importanța echilibrării beneficiilor modelelor avansate cu necesitatea de a preveni exploatarea lor de către actori rău intenționați.
Avertismentul recent al OpenAI marchează un moment de maturizare pentru industria inteligenței artificiale. Discuțiile anterioare s-au concentrat pe riscuri existențiale și impactul asupra locurilor de muncă. Acum, amenințările concrete și imediate la adresa securității cibernetice devin o prioritate.
Pentru utilizatori, dezvoltările recente sugerează că peisajul amenințărilor cibernetice va suferi schimbări semnificative. Este esențial să se acorde o atenție deosebită protecției datelor personale și dispozitivelor, dat fiind că instrumentele de atac devin tot mai accesibile.
