AI - Cutia neagră a sensului
AI - Inteligența străină
Yuval Noah Harari spune că acronimul AI ar putea fi de la Alien Intelligence - inteligență străină. Și în limba română avem verbul alienare cu sensul de înstrăinare. Într-un fel ar putea să aibă dreptate, întrucât LLM-urile spre exemplu agregă volume mari de informații umane și reușesc sa producă răspunsuri precise în aproape orice domeniu. Nici un om nu ar reuși să aibă atât de multă memorie. Doar o inteligență „străină" ar putea face așa ceva. Oamenii din acest punct de vedere sunt instanțe de cunoaștere limitată.
Această stranietate nu e doar „cantitativă”. Un om care știe multe rămâne totuși uman — are lacune, obosește, uită, are domenii de pasiune și zone de ignoranță. AI nu are niciuna din aceste limite organice, ci furnizează răspunsuri instant. Și totuși ceva rămâne incomod în această imagine. Când spunem că AI știe mai mult decât orice om, presupunem că e vorba de același tip de „a ști". Dar un om care știe multe a trăit, a greșit, a uitat, a reînvățat. Cunoașterea lui e biografică. A AI-ului este a tot și a nimic în același timp. De aceea „străin" e poate cel mai onest cuvânt: provine dintr-o sursă de cunoaștere neaccesibilă până acum omului.
Limbajul - Protocolul uman
Limbajul este interfața prin care oamenii își transferă cunoașterea. Timp de mii de ani doar oamenii au putut utiliza această interfață. AI a spart protocolul uman (Human API) care este dat de bariera limbajului și a reușit să ne înțeleagă. Modelele lingvistice sunt poate prima tehnologie care a reușit să se conecteze la acest protocol și să îl utilizeze fluent.
Inițial calculatoarele au început să gândească limbajul uman prin compilatoare - vezi gramaticile lui Chomsky. Am construit limbaje de programare care au ca fundament CUVÂNTUL, apoi fraze, sintaxa lor, etc. Am construit un instrument ca imaginea noastră. Dar limbajul are și erori, tonalități, bâlbâieli, ironii, sarcasm etc. Prin faptul că acestei imense mașini i-a fost furnizat seturi imense de date aceasta a reușit sa facă pattern matching iar rata de eroare s-a micșorat considerabil.
Ironia istorică este că Chomsky însuși — cel ale cărui idei despre gramatică universală au stat la baza primelor tentative de a formaliza limbajul — este unul dintre cei mai vocali critici ai LLM-urilor. El susține că aceste modele nu înțeleg nimic în sens profund: reproduc tipare fără să aibă acces la sensul din spatele lor. E o dezbatere nefinalizată, dar tensiunea e revelatoare. Am construit ceva pornind de la teoriile lui Chomsky care acum îl contrazice pe Chomsky. Unealta a depășit intenția.
Totuși, LLM-urile moderne provin mai degrabă din statistică, teoria informației și deep learning decât din gramatică generativă.
Cutia neagră
Pentru noi este o cutie neagră care furnizează răspunsuri dar nu știm de ce răspunde corect. Și nu doar pentru noi, cei profani. Terence Tao, cel mai bun matematician al planetei spune că matematica din spate ar fi simplă, (și un licențiat în matematică cu ghidaj ar putea să înțeleagă transformările matriceale) dar aproape nimeni nu înțelege de ce ea funcționează. De ce scalează atât de bine și generalizează așa cum o face rămâne misterios chiar și pentru experți. Asta ține de o proprietate emergentă profundă a lumii (și a datelor umane) pe care încă n-o înțelegem. Așadar și pentru specialiști e ca o cutie neagră. Au dezvoltat un set de reguli care produce rezultate așteptate dar acest algoritm poate fi înțeles doar prin experimentare. I se furnizează seturi de date și specialiștii văd cum reacționează.
Nu e pentru prima dată în istorie când folosim ceva ce nu înțelegem. Aici fac referire și la articolul despre lanțuri de încredere. În societate apelăm deseori la 3rd party sources. De exemplu, nici un medic din secolul al XIX-lea nu știa de ce aspirina funcționează — a fost folosită zeci de ani înainte ca mecanismul să fie descoperit. Electricitatea a fost domesticită înainte să fie înțeleasă. Dar cu AI miza e diferită: cutia neagră nu procesează molecule sau electroni — procesează sens, limbaj, decizie. Când nu înțelegi de ce un motor funcționează, riscul e mecanic. Când nu înțelegi de ce o inteligență dă anumite răspunsuri, riscul este să ajungi să o crezi mai mult sau mai puțin decât merită — adică să îți fie afectată înțelegerea despre ce este adevărat și cum funcționează lucrurile.
Nu știm ce nu știm despre ea.