Cum pot IMM-urile să profite la maximum de LLM-uri?

Întreprinderile de toate dimensiunile nu au putut scăpa de impactul incredibil pe care AI l-a avut asupra modului în care facem afaceri în ultima vreme.

De la conglomerat la IMM-uri, organizațiile devin mai rapide, mai agile și mai robuste pe măsură ce externalizăm sarcinile administrative și repetitive către colegii noștri din domeniul IA.

Una dintre cele mai noi tendințe în materie de inteligență artificială este crearea de modele lingvistice de mari dimensiuni (LLM) în domeniul public: algoritmi de învățare automată instruiți pe volume colosale de date pentru a recunoaște structurile și modelele limbajului natural. Acestea sunt capabile să proceseze limbajul natural (NLP), ceea ce ne permite să explorăm seturi uriașe de date prin întrebări sau comenzi cotidiene.

Ca atare, LLM-urile sunt cea mai comună modalitate de a face inteligibilă inteligența artificială – pentru a cita cel mai cunoscut exemplu, LLM-urile sunt mijloacele prin care ChatGPT vă poate răspunde la întrebări. Dar există un dezavantaj convențional pentru această inteligență: este blocată într-un fel de capsulă a timpului.

LLM-urile sunt antrenate intensiv, cu milioane și milioane de puncte de date trimise către ele într-o buclă de feedback constantă pentru a învăța fiecare model cum să înțeleagă anumite puncte de date sau tipare. Dar „operaționalizarea” unui LLM – scoaterea sa din circuitul de formare și aducerea sa online ca parte a infrastructurii dumneavoastră – îl împiedică în mod evident să învețe ceva nou. Chiar și unele dintre primele versiuni ale ChatGPT, dacă puneți o întrebare despre evenimente foarte recente, vă vor explica politicos propriile sale limitări temporale.

Asta înseamnă că trebuie să vă asigurați că LLM se poate baza pe sistemele pe care le va explora și pe datele pe care le are la dispoziție. Și, în timp ce gigantul corporativ ar putea avea finanțarea și pachetul tehnologic pentru a face acest lucru posibil, este o presupunere curajoasă să faci despre un IMM.

Mișcați-vă sau pierdeți-l

Din punct de vedere istoric, am avut tendința de a considera datele ca fiind statice. Atunci când un profan descarcă un fișier pe PC-ul său, fișierul nu este „acolo” până când nu apare în documentele dumneavoastră, chiar dacă milioane de octeți de date individuale se coase în liniște în ceva infinit mai sofisticat.

Având în vedere această mentalitate, puteți înțelege de ce întreprinderile au optat adesea pentru a capta cât mai multe date și abia apoi să stabilească ce au colectat de fapt. Convenția ne-ar cere să turnăm datele într-un depozit sau lac de date uriaș, să petrecem o veșnicie curățând și pregătind aceste date, iar apoi să extragem diferite părți pentru analiză – o metodă cunoscută sub denumirea de procesare pe loturi.

Acest lucru este la fel de eficient pe cât pare. Lupta cu un întreg set de date dublează munca, camuflează perspectivele și solicită enorm hardware-ul și consumul de energie – toate acestea întârziind în același timp luarea unor decizii de afaceri esențiale. Pentru IMM-urile care încearcă să găsească modalități de a compensa fondurile și personalul limitate, această metodă subminează agilitatea și viteza care ar trebui să fie avantajul lor natural.

Având în vedere că până acum nu era necesar ca informațiile să fie consumate în timp real sau chiar colectate în timp real, acest lucru nu a reprezentat o problemă până acum. Dar, având în vedere că multe dintre propunerile de valoare pentru clienții finali ale noilor companii se bazează pe date în timp real (de exemplu, gândiți-vă să apelați un taxi cu Uber sau o aplicație similară și imaginați-vă că nu vedeți harta „live” cu locația șoferului), acest lucru este acum un „must-have”, nu un „nice-to-have”.

Din fericire, LLM-urile nu funcționează doar pe bază de procesare pe loturi. Ele pot interacționa cu datele în diferite moduri – iar unele dintre aceste moduri nu necesită ca datele să stea pe loc.

Cereți și veți primi

La fel cum IMM-urile disruptive încearcă să răstoarne companiile mai vechi și mai bine stabilite, fluxul de date înlocuiește procesarea pe loturi.

Platformele de streaming de date utilizează „conducte” de date în timp real pentru a colecta, stoca și utiliza date – continuu și în timp real. Procesarea, stocarea și analiza pe care procesarea pe loturi vă face să le așteptați pot fi realizate brusc, acum, imediat.

Streaming-ul gestionează acest lucru prin ceea ce numim principii bazate pe evenimente, care în esență tratează fiecare schimbare dintr-un set de date ca pe un „eveniment” în sine. Fiecare eveniment include un declanșator pentru a primi mai multe date, creând o cascadă constantă de informații noi. În loc să trebuiască să se ducă și să extragă datele (de obicei stocate într-un tabel undeva într-o bază de date), sursele de date își „publică” datele în timp real, în orice moment, pentru oricine dorește să le consume, pur și simplu „abonându-se” la datele respective.

Toate acestea pot elibera LLM-urile de distincția dintre formare și operare. În plus, dacă fiecare punct de date poate face obiectul unei acțiuni, este posibil ca LLM să se antreneze singur; să utilizeze corectitudinea acțiunilor sale pentru a rafina constant algoritmii de bază care îi definesc scopul.

Aceasta înseamnă că LLM se poate baza pe un set de date actualizat și conservat în mod constant, îmbunătățind în același timp în mod constant mecanismele care furnizează și contextualizează aceste date. Datele nu sunt în pericol de redundanță sau abandonate într-un siloz uitat – tot ce trebuie să faceți este să le solicitați!

Tăiat din stofa IMM-urilor

Deci: ce înseamnă asta pentru IMM-uri?

În primul rând, scoate frâna de mână proverbială. Viteza cu care LLM pot furniza informații prin intermediul unei infrastructuri bazate pe flux permite factorilor de decizie să conducă afacerea în ritmul dorit, fără ca procesarea pe loturi să îi țină în viteza a doua. Agilitatea care permite IMM-urilor să depășească jucătorii mai mari a revenit în abundență.

Aceste decizii sunt luate cu mai puține îndoieli și într-un context mai relevant decât înainte. Este atât de simplu să accesezi o perspectivă specifică, datorită limbajului natural recunoscut de LLM-uri, încât fluxul de date poate încuraja un entuziasm real pentru transparența în afaceri la nivel general.

Nu numai că rezultatul este mai rapid și mai precis, dar IMM-urile se pot elibera și de tehnologia moștenită. Fluxul de date poate avea loc în întregime la sediu, în întregime în cloud sau într-o combinație a celor două. Hardware-ul greu, adesea necesar pentru procesarea pe loturi, pur și simplu nu mai este necesar dacă puteți solicita unui LLM același rezultat în timp record. De asemenea, există mai mulți furnizori care oferă soluții complet gestionate (la cheie) care nu necesită nicio investiție de capital din partea IMM-urilor.

Prin urmare, pentru ca IMM-urile să profite la maximum de LLM, acestea trebuie să se gândească la modul în care abordează datele companiei. Dacă o companie este pregătită să se angajeze să trateze datele ca pe un flux constant de informații, va fi mult mai bine plasată pentru a maximiza potențialul pe care datele în mișcare îl au pentru a o ajuta să evolueze.

Carlos Roman

Un lider pasionat, cu peste douăzeci și cinci de ani de experiență în lansarea echipelor de cloud, software și hardware pe piețele emergente și mature, Carlos este specializat în sprijinirea întreprinderilor emergente care își depășesc ambițiile. El s-a alăturat Confluent în 2021, după ce a petrecut mai mult de două decenii ca parte esențială a echipelor de vânzări cloud ale Oracle.