Africa de Sud retrage politica AI după ce 6 citări au fost inventate de un robot

O greșeală care a compromis credibilitatea

Proiectul de politică, prezentat pentru consultare publică, avea ambiția de a poziționa țara ca lider în inovația AI, abordând în același timp provocările etice și sociale. Numai că lucrurile au luat o turnură neașteptată. Ministrul Solly Malatsi a recunoscut public eroarea. „Cea mai plauzibilă explicație este că au fost incluse citări generate de AI fără o verificare corespunzătoare. Acest lucru nu ar fi trebuit să se întâmple”, a declarat Malatsi. Acesta a adăugat că problema este mult mai gravă decât pare la prima vedere.

„Acest eșec nu este o simplă problemă tehnică, ci a compromis integritatea și credibilitatea proiectului de politică”, a scris oficialul pe platforma X. Documentul prevedea înființarea unor noi instituții, inclusiv o comisie națională pentru AI, un consiliu de etică AI și o autoritate de reglementare. Ba chiar propunea scutiri de taxe, granturi și subvenții pentru a încuraja colaborarea sectorului privat în construirea infrastructurii AI.

Cum s-a ajuns aici, pe bune?

Dar cum a fost descoperită problema? Jurnalele academice citate în document, precum South African Journal of Philosophy, AI & Society sau Journal of Ethics and Social Philosophy, sunt cât se poate de reale. Problema e că articolele la care se făcea referire pur și simplu nu există, lucru confirmat independent de editorii publicațiilor respective. inteligența artificială a „halucinat” referințe care sunau autoritar, dar erau complet false.

O situație de-a dreptul bizară.

Modelele lingvistice mari, precum ChatGPT de la OpenAI sau Gemini de la Google, sunt concepute să prezică următorul cuvânt probabil într-un șir, nu să verifice veridicitatea informațiilor. Astfel, când datele sunt insuficiente, AI-ul umple golurile cu informații plauzibile, dar incorecte. Folosește datele de antrenament pentru a prezice cum arată o citare și produce referințe care par legitime, dar nu duc nicăieri.

Lecția umilinței și supravegherea umană

Ministrul Malatsi a promis că vor exista consecințe pentru cei responsabili de elaborarea documentului. V-ați fi imaginat vreodată că un document oficial de o asemenea importanță poate fi compromis atât de ușor? „Acest derapaj inacceptabil demonstrează de ce este critică o supraveghere umană vigilentă asupra utilizării inteligenței artificiale. Este o lecție pe care o primim cu umilință”, a mai scris el pe X.

O problemă mai mare decât pare

Iar problema depășește cu mult granițele Africii de Sud, devenind un fenomen în mediul academic. Un studiu publicat în prestigioasa revistă Nature a constatat că peste 2,5% din lucrările academice publicate în 2025 (o proiecție bazată pe tendințele actuale) conțineau cel puțin o citare potențial „halucinată” de AI. Cifra este în creștere alarmantă de la doar 0,3% în 2024. Asta înseamnă că peste 110.000 de lucrări publicate în 2025 ar putea conține referințe invalide.

Incidentul subliniază nevoia urgentă de supraveghere umană atentă a răspunsurilor generate de AI, în special atunci când tehnologia este utilizată de academicieni și autorități. Proiectul de politică din Africa de Sud urmează să fie revizuit. Ulterior, va fi republicat pentru consultare publică.