Sunt Bluesky Social’s Good Vibes condamnat?

Bluesky, noua și fierbinte imitație a Twitter, care seamănă doar cu Twitter, trebuia să ofere o repriză atât de necesară într-un ecosistem de social media, altfel toxic. Dar în momentul în care m-am alăturat Bluesky, la începutul lunii mai, mă întrebam dacă petrecerea s-a terminat. Pentru cei neinițiați, Bluesky a început în 2019 ca un experiment de social media descentralizat la Twitter și s-a separat în propria companie anul trecut, cu fostul CEO al Twitter Jack Dorsey în calitate de membru al consiliului de administrație. (Prin „descentralizat”, compania se referă la crearea unui protocol cu sursă deschisă pentru crearea de aplicații sociale – Bluesky Social fiind una dintre ele). În ultimele luni – mai exact după ce Elon Muska preluat Twitter – site-ul a devenit un teren de joacă pentru cei din media, politică și tehnologie considerați capabili să aducă o nouă platformă pentru mase. Puncte precum Wired și Rolling Stone a evidențiat aplicația ca fiind o posibilă alternativă plăcută la Twitter. A început ca un mediu jucăuș, cu jocuri de cuvinte și liber, care semăna foarte mult cu Twitter, dar în care postările erau „skeets” și variau de la imagini pitorești ale cerului albastru până la nuduri.

Dar un schimb de replici între directorul executiv al Bluesky Jay Graber și utilizatorii Bluesky a sugerat că aplicația nu a reușit încă să se confrunte cu problemele dificile legate de moderarea conținutului care au afectat alte platforme de socializare. Totul a început atunci când mai mulți utilizatori au cerut eliminarea unui utilizator cu pseudonimul @commie.cafe, care ar fi dat nume mort unor femei transsexuale, le-a hărțuit și le-a doxxat și s-a implicat în alte comportamente dăunătoare. Ca răspuns la îngrijorările utilizatorilor, Graber a scris: „Urmărim și vom lua măsuri în funcție de comportament. Blocurile împiedică interacțiunea”. Acest răspuns i-a determinat pe mulți să se întrebe de ce compania nu ar lua în serios îngrijorările utilizatorilor săi și nu ar acționa proactiv împotriva utilizatorilor acuzați de implicare în comportamente dăunătoare pe alte platforme.

„Câte persoane trebuie să vă informeze direct despre prezența unei persoane periculoase și toxice înainte de a fi dispus să nu vă mai uitați și să luați măsuri?”, a scris un utilizator ca răspuns la Graber.

„O mulțime de oameni sunt speriați / îngrijorați aici, mai ales după ani de zile în care Twitter nu se ocupă cu adevărat bine de aceste lucruri. Nu fiți Twitter, fiți mai buni”, i-a răspuns un alt utilizator lui Graber. Utilizatorul acuzat de acte transfobe pare să nu mai fie pe platformă. Bluesky nu a răspuns la o solicitare de comentarii cu privire la acest incident și nici la o întrebare referitoare la faptul dacă compania a luat vreo măsură împotriva utilizatorului.

Acest lucru nu numai că a oferit o privire asupra abordării de moderare a conținutului de către Bluesky, dar a pus sub semnul întrebării dacă compania va lua măsuri pentru a-și păstra bunele vibrații. Echipa sa formată din nouă persoane construiește o platformă cu o listă de așteptare de 1,9 milioane de adrese de e-mail, aparținând celor care doresc să se alăture celor peste 72.000 de utilizatori de pe versiunea beta a aplicației, disponibilă doar pe bază de invitație. Dar, în timp ce utilizatorii se înghesuie la aplicație pentru potențialul său de a înlocui Twitter, unii dintre primii utilizatori se întreabă dacă platforma poate continua să fie o ușurare binevenită în fața hărțuirii, a discursului instigator la ură și a conținutului grafic. Sau va face în cele din urmă greșeli similare cu cele ale predecesorilor săi?

Compania rămâne tăcută cu privire la planurile sale de abordare a acestor probleme în viitor, în afară de a posta câteva detalii pe pagina sa de întrebări frecvente. Am contactat purtătorul de cuvânt al companiei cu o listă detaliată de întrebări referitoare la faptul dacă compania va acorda prioritate utilizatorilor din medii marginalizate, la gradul în care va aplica politicile sale de moderare a conținutului și la investițiile pe care le va face în moderarea conținutului. Însă un purtător de cuvânt al companiei nu acordă interviuri, deoarece toată lumea este „cu capul plecat la muncă”.

Pe site-ul său, Bluesky notează că intenționează să utilizeze filtrarea automată, acțiunile manuale ale administratorului și etichetarea comunității pentru a modera platforma. În plus față de filtrarea sa de bază pentru conținutul inacceptabil, compania dorește să permită utilizatorilor și dezvoltatorilor să adauge filtre suplimentare și alte controale de moderare pe partea de sus. Într-o altă postare, Graber notează că dezvoltatorii care își administrează propriile servere vor putea să își stabilească propriile politici de moderare a conținutului la nivelul serverului și al comunității, „dar am nevoie să fie suficient de calm pentru o perioadă suficient de lungă de timp pentru a putea dezvolta restul sistemului pentru a oferi oamenilor controale mai directe”. Compania a refuzat să spună dacă intenționează să angajeze mai mulți moderatori umani și să implementeze măsuri suplimentare pentru a proteja utilizatorii care fac parte din comunități marginalizate, mai ales pe măsură ce baza de utilizatori crește.

Twitter, Instagram, Facebook și alte platforme de socializare proeminente au făcut greșeala de a subestima măsura în care retorica online periculoasă ar putea duce la daune offline, Yoel Roth, fostul șef al Twitter de încredere & siguranță și un coleg de politică tehnologică la Universitatea din California Berkeley, a declarat. Și, deși nu este fezabil să se adopte o abordare total localizată a moderării conținutului pe măsură ce se extinde în străinătate, Roth a spus că speră ca următoarea generație de platforme sociale să ia în serios ceea ce a funcționat și ce nu a funcționat cu predecesorii lor veterani. „Una dintre promisiunile platformelor federate precum Bluesky este că le poate oferi oamenilor mai multe opțiuni cu privire la ceea ce merge și ceea ce nu merge”, a spus Roth, referindu-se la ideea Bluesky de a oferi independență creatorilor față de platforma în sine. „Dar tot trebuie să tragi acea linie undeva, a ceea ce nu merge nicăieri, iar acesta este câmpul de luptă al moderării conținutului.”

În ceea ce privește AI-ul care ajută la unele funcții de moderare a conținutului, Miro Dittrich, cercetător senior la Centrul pentru monitorizare, analiză și strategie, a declarat că nu se poate avea încredere că tehnologia va funcționa la scară largă de una singură, așa cum s-a întâmplat în cazul altor platforme sociale. Roth a fost de acord: dacă Bluesky folosește inteligența artificială ca parte a moderării conținutului său, companiile ar trebui să testeze aceste instrumente înainte de a-și construi întreaga strategie de moderare în jurul lor, a spus el. Permiterea dezvoltatorilor de a-și crea propriile interfețe pentru a stabili limitele conținutului ar putea avea și consecințe neintenționate. Dacă, de exemplu, un utilizator doxxează pe cineva sau postează imagini sexuale neconsensuale, aceste postări ar putea fi dezindexate, astfel încât utilizatorii Bluesky să nu le poată vedea, dar imaginile ar putea fi în continuare disponibile pe serverul personal al cuiva și ar putea ajunge pe internet; nu este sigur că aceasta este o soluție suficientă, a spus Sol Messing, profesor asociat de cercetare la Universitatea din New York și fost director de știință a datelor de descoperire la Twitter.