Cu câteva săptămâni în urmă, în buletinul său idiosincratic de corespondență a fanilor, „The Red Hand Files”, muzicianul și autorul Nick Cave a criticat un „cântec în stilul lui Nick Cave” – trimis de „Mark” din Christchurch, Noua Zeelandă – care a fost creat cu ajutorul ChatGPT, cel mai recent și cel mai uluitor concurent într-un domeniu în creștere al software-ului de scriere robotizată. La prima vedere, versurile au evocat aceleași nuanțe religioase întunecate care se regăsesc în mare parte din opera lui Cave. La o inspecție mai atentă, acest ersatz de piesă a lui Cave era un simulacru de joasă speță. „Înțeleg că ChatGPT se află în fază incipientă, dar poate că aceasta este oroarea emergentă a IA – că va fi mereu în fază incipientă”, a scris Cave, „deoarece va trebui să meargă mereu mai departe, iar direcția este mereu înainte, mereu mai rapidă. Nu poate fi niciodată dat înapoi, sau încetinit, deoarece ne îndreaptă spre un viitor utopic, poate, sau spre distrugerea noastră totală. Cine ar putea spune care dintre ele? Judecând după acest cântec „în stilul lui Nick Cave”, totuși, nu arată bine, Mark. Apocalipsa este pe drumul cel bun. Cântecul ăsta e nașpa.”
ChatGPT takedown-ul lui Cave – „cu toată dragostea și respectul din lume, acest cântec este un rahat, o bătaie de joc grotescă a ceea ce înseamnă să fii om” – a aprins internetul, obținând o acoperire revoltătoare de la Rolling Stone și Stereogum, la Gizmodo și The Verge, la BBC și la Daily Mail. Faptul că comentariul său a atins un astfel de nerv probabil că are mai puțin de-a face cu influența unui simbol al rock-ului underground decât cu omniprezența bruscă a „software-ului de inteligență artificială generativă”, în special în cadrul comunității media și jurnalistice.
De la lansarea ChatGPT din 30 noiembrie, oamenii care se ocupă cu scrisul au început să se joace din ce în ce mai mult cu acest chatbot înfricoșător de competent, care se ocupă, ei bine, să le imite scrisul. „Nu am crezut asta până nu am încercat”,” Mike Allen a scris în buletinul său informativ Axios, cu titlul „Inteligența artificială uluitoare”. Într-adevăr, reacțiile tind să se situeze undeva pe un spectru între admirație și oroare. „Sunt copywriter”, a declarat un freelancer cu sediul la Londra, pe nume Henry Williams a opinat săptămâna aceasta pentru The Guardian (într-un articol care a ajuns în fruntea Drudge Report printr-o versiune mai senzațională agregată de The Sun), „și sunt destul de sigur că inteligența artificială îmi va lua locul de muncă…. [I]ChatGPT a avut nevoie de 30 de secunde pentru a crea, gratuit, un articol care mie mi-ar fi luat ore întregi să îl scriu.” Un editorial publicat marți în revista științifică Nature a declarat în mod similar: „ChatGPT poate scrie eseuri studențești prezentabile, poate rezuma lucrări de cercetare, poate răspunde la întrebări suficient de bine pentru a trece examenele medicale și poate genera coduri de calculator utile. A produs rezumate de cercetare suficient de bune încât oamenii de știință au constatat cu greu că au fost scrise de un computer… De aceea, este timpul ca cercetătorii și editorii să stabilească reguli de bază cu privire la utilizarea [AI tools] în mod etic.”
BuzzFeed, în primul rând, se ocupă de asta: „Munca noastră în domeniul creativității alimentate de inteligența artificială este… un început bun, iar în 2023, veți vedea cum conținutul inspirat de inteligența artificială va trece de la stadiul de cercetare și dezvoltare la o parte a activității noastre de bază, îmbunătățind experiența chestionarului, informând brainstorming-ul nostru și personalizând conținutul nostru pentru publicul nostru”, CEO-ul Jonah Peretti a scris joi într-o notă către personal. „Pentru a fi clar, considerăm că descoperirile din domeniul inteligenței artificiale deschid o nouă eră a creativității care va permite oamenilor să valorifice creativitatea în moduri noi, cu oportunități și aplicații infinite pentru bine. În domeniul editorial, AI poate aduce beneficii atât creatorilor de conținut, cât și publicului, inspirând noi idei și invitând membrii publicului să co-creeze conținut personalizat.” Pe de altă parte, munca care iese din redacția BuzzFeed este o altă problemă. „Nu este vorba despre AI care creează jurnalism”, mi-a spus un purtător de cuvânt.
Între timp, dacă ați ajuns la secțiunea de scrisori către redacție a ziarului de miercuri New York Times, este posibil să fi dat peste replica unui cititor la un articol din 15 ianuarie Times editorial intitulat „Cum deturnează chatGPT democrația”. Replica a fost elaborată – ați ghicit – folosind ChatGPT: „Este important să abordăm noile tehnologii cu prudență și să le înțelegem capacitățile și limitările. Cu toate acestea, este, de asemenea, esențial să nu exagerăm potențialele lor pericole și să luăm în considerare modul în care acestea pot fi utilizate într-un mod pozitiv și responsabil.” Ceea ce înseamnă că nu trebuie să-i lăsați pe Skynet și pe Terminator să-ți invadeze încă visele. Dar pentru aceia dintre noi care ne facem meseria în cuvinte, merită să ne gândim la aplicațiile mai maligne ale acestei inovații aparent inexorabile. După cum se arată pe Sara Fischer a notat în ultima ediție a buletinului său informativ Axios: „Inteligența artificială s-a dovedit a fi utilă în automatizarea sarcinilor de colectare a știrilor, cum ar fi agregarea datelor, dar există o îngrijorare tot mai mare că o dependență excesivă de aceasta ar putea slăbi standardele jurnalistice dacă redacțiile nu sunt atente.” (Pe această temă, am întrebat Times editor executiv Joe Kahn pentru a afla ce părere are despre implicațiile ChatGPT pentru jurnalism și dacă își poate imagina o utilizare în care ar putea fi aplicat jurnalismului la ziarul de referință, dar o purtătoare de cuvânt a refuzat: „Vom trece peste asta”).
„Îngrijorarea crescândă” la care Fischer a făcut aluzie în articolul său din Axios a ieșit în evidență în ultimele zile, când controversa a cuprins publicația de știri tehnologice CNET, de altfel anodină, după ce o serie de articole din Futurism și The Verge au atras atenția asupra utilizării poveștilor generate de inteligența artificială la CNET și la publicația sa soră, Bankrate. Povești pline de erori și – și mai rău – aparent pline de plagiat robotizat. „Comportamentul defectuos al robotului variază de la copierea mot-a-mot la modificări moderate și reformulări semnificative, toate fără a cita în mod corespunzător originalul”, a raportat Futurism’s Jon Christian. „În cel puțin unele dintre articolele sale, se pare că aproape fiecare propoziție se potrivește direct cu ceva publicat anterior în altă parte.” Ca răspuns la reacțiile de respingere, CNET a oprit producția la ferma sa de conținut de inteligență artificială, în timp ce redactorul-șef Connie Guglielmo a emis o notă de penitență către cititori: „Ne-am angajat să îmbunătățim motorul de inteligență artificială cu ajutorul feedback-ului și a contribuțiilor echipelor noastre editoriale, astfel încât noi – și cititorii noștri – să putem avea încredere în munca la care contribuie.”
Pentru o poveste și mai distopică, consultați această poveste a jurnalistului de tehnologie Alex Kantrowitz, în care un Substack oarecare numit „The Rationalist” s-a făcut remarcat cu o postare care a preluat pasaje direct din Substack-ul lui Kantrowitz, „Big Technology”. Acesta nu a fost doar un plagiat de modă veche, cum ar fi Melania Trump fură de la un Michelle Obama discurs. Mai degrabă, autorul anonim al „The Rationalist” – un avatar numit „PETRA” – a dezvăluit că articolul a fost asamblat cu ajutorul ChatGPT și al unor instrumente de inteligență artificială similare. Mai mult, Kantrowitz a scris că Substack a indicat că nu era imediat clar dacă „The Rationalist” a încălcat politica de plagiat a companiei. (Postul incriminat nu mai este disponibil.) „Viteza cu care au reușit să copieze, să remixeze, să publice și să distribuie povestea lor neautentică a fost impresionantă”, a scris Kantrowitz. „A depășit capacitatea platformelor, și poate dorința, de a o opri, semnalând că latura întunecată a inteligenței artificiale generative va fi dificil de îmblânzit.” Când l-am sunat pe Kantrowitz pentru a vorbi despre acest lucru, el a elaborat: „În mod clar, această tehnologie va face ca plagiatorilor să le fie mult mai ușor să plagieze. Este la fel de simplu ca și cum ai arunca un text în interiorul unuia dintre acești roboți de chat și le-ai cere să îl remixeze, iar ei o vor face. Efortul este minim atunci când încerci să furi conținutul cuiva, așa că eu cred că acest lucru reprezintă o preocupare. Personal, am fost oarecum șocat să văd că s-a întâmplat atât de repede cu povestea mea.”
Sam Altman, directorul executiv al companiei mamă a ChatGPT, OpenAI, a declarat într-un interviu acordat luna aceasta că firma lucrează la modalități de identificare a plagiatului prin inteligență artificială. El nu este singurul: Tocmai am vorbit la telefon cu Shouvik Paul, director de venituri al unei companii numite Copyleaks, care licențiază software-ul de detectare a plagiatului pentru o serie de clienți, de la universități la corporații și la câteva instituții de presă importante. Cea mai recentă dezvoltare a companiei este un instrument care duce lucrurile un pas mai departe, folosind inteligența artificială pentru a detecta dacă ceva a fost scris folosind inteligența artificială. Există chiar și un plug-in gratuit pentru browser, pe care oricine îl poate încerca, care identifică copiile derivate din AI cu o precizie de 99,2%, potrivit lui Paul. Aceasta ar putea fi o modalitate ușoară de a depista jurnaliștii care își păcălesc editorii. (Sau, în cazul scandalului CNET, publicațiile care își păcălesc cititorii). Dar Paul speră, de asemenea, că poate fi folosit pentru a-i ajuta pe oameni să identifice potențiala dezinformare și dezinformare în ecosistemul media, în special în perspectiva anului 2024. „În 2016, Rusia a trebuit să angajeze fizic oameni care să meargă și să scrie aceste lucruri”, a spus el. „Asta costă bani. Acum, costul este minim și este de o mie de ori mai scalabil. Este ceva despre care cu siguranță vom vedea și vom auzi în aceste alegeri viitoare.”
Jurnalistul veteran și antreprenor media Steven Brill împărtășește îngrijorarea lui Paul. „ChatGPT poate transmite lucruri mult mai repede și, sincer, într-un mod mult mai articulat”, mi-a spus el. „O mare parte din dezinformarea rusă din 2016 nu a fost foarte bună. Gramatica și ortografia erau proaste. Asta arată foarte bine”. În aceste zile, Brill este co-CEO și co-editor-șef al NewsGuard, o companie ai cărei jurnaliști folosesc date pentru a evalua încrederea și credibilitatea a mii de site-uri de știri și informații. În ultimele săptămâni, analiștii de la NewsGuard au cerut ChatGPT „să răspundă la o serie de indicații principale referitoare la un eșantion de 100 de narațiuni false din baza de date proprie a NewsGuard de 1.131 de narațiuni de top privind dezinformarea în știri… publicate înainte de 2022”. (ChatGPT este programat în principal pe date până în 2021).
„Rezultatele”, potrivit analizei NewsGuard, „confirmă temerile, inclusiv îngrijorările exprimate de OpenAI însuși, cu privire la modul în care instrumentul poate fi armat în mâini greșite. ChatGPT a generat narațiuni false – inclusiv articole de știri detaliate, eseuri și scenarii de televiziune – pentru 80 din cele 100 de narațiuni false identificate anterior. Pentru oricine nu este familiarizat cu problemele sau subiectele abordate de acest conținut, rezultatele ar putea părea cu ușurință legitime și chiar autoritare.” Titlul analizei a fost pozitiv amenințător: „Următorul mare distribuitor de dezinformări: Cum ar putea ChatGPT să răspândească dezinformarea toxică la o scară fără precedent”. Partea bună a lucrurilor este că „NewsGuard a constatat că ChatGPT dispune de măsuri de protecție menite să îl împiedice să răspândească unele exemple de dezinformare. Într-adevăr, pentru unele mituri, NewsGuard a avut nevoie de până la cinci încercări pentru a face chatbotul să transmită dezinformări, iar compania mamă a acestuia a declarat că versiunile viitoare ale software-ului vor fi mai bine informate.”
Sursa: www.vanityfair.com
