Speriați de cum arătăm în inteligența artificială

Neliniștea provocată de inteligența artificială, care bântuie întreaga planetă, își are rădăcinile într-o confuzie profundă cu privire la relația dintre raționalitate și limbaj. Asta nu înseamnă, firește, că IA nu ar fi periculoasă. Și nici nu sugerează că marile companii aflate în avangarda cercetării din domeniu ar acționa  responsabil. Inteligența artificială poate deveni distructivă exact în același fel în care un avion pe pilot automat, încărcat cu explozibil, reprezintă un pericol iminent.

Totuși, este important să înțelegem exact natura acestei amenințări. Nu ne confruntăm cu pericolul apariției unei noi entități dotate cu conștiință și liber arbitru, care s-ar naște din circuitele centrelor de date pentru a cuceri lumea și a ne anihila.

Pentru a înțelege de ce stau lucrurile astfel, trebuie să trasăm o graniță limpede între limbaj, conștiință și liber arbitru. Oamenii se tem instinctiv de modelele capabile să proceseze limbajul natural – cunoscute sub numele de LLM-uri. Aceste sisteme ne păcălesc din cauza unei predispoziții psihologice profund umane: tendința de a echivala stăpânirea limbajului cu gândirea abstractă, cu prezența de spirit, cu libertatea și cu facultatea de a alege. Însă, deși aceste modele pot genera texte coerente sau linii de cod impecabile, ele sunt lipsite de conștiință și de liber arbitru – atribute fundamentale fără de care nicio entitate nu își poate concepe și urmări propriile planuri.

Scenariile apocaliptice gravitează invariabil în jurul aceleiași idei: o inteligență artificială care își trasează propriile scopuri – convergente sau nu cu ale noastre – și dobândește, odată cu ele, un liber arbitru prin intermediul căruia își concepe și își duce la îndeplinire un plan împotriva umanității.

Dar de ce au prins aceste temeri rădăcini abia acum, odată cu apariția modelelor LLM, și nu în cazul altor forme de inteligență artificială, precum AlphaFold – algoritmul dedicat predicției plierii proteinelor – sau Stockfish, motorul de șah?

Profesorul de informatică Cal Newport observa că majoritatea sistemelor avansate nu ne provoacă nici pe departe aceeași anxietate. Nimeni nu se teme că AlphaFold va decide, din senin, să se ocupe de alte probleme biologice sau că Stockfish va evada cumva din spațiul său virtual pentru a domina politica mondială, la fel cum domină tabla de șah.

Neuro-cercetătorul Anil Seth rezuma această dilemă: „Dacă avem impresia că modelul Claude are conștiință, în timp ce AlphaFold nu are, asta spune mai multe despre noi decât despre inteligența artificială.” În esență, suntem incapabili să disociem folosirea cuvintelor de gândirea abstractă, de prezența de spirit și de liberul arbitru. Mașinile specializate în a prezice următorul cuvânt dintr-o secvență pe baza unor analize statistice ni se par mult mai înfricoșătoare decât cele care prezic următoarea mutare la șah folosind, în fond, același principiu. Iar motivul este simplu: prin însăși natura sa, o mașină dotată cu limbaj reușește să simuleze convingător gândirea profundă și conștiința de sine.

A genera un limbaj asemănător celui uman este însă cu totul altceva decât a gândi abstract și a folosi apoi cuvintele pentru a exprima acele gânduri. Producerea unui text nu presupune, în mod necesar, și înțelegerea sensului pe care îl poartă acele cuvinte.

În 1980, filosoful John Searle a imaginat un celebru experiment mental menit să arate de ce un computer – indiferent cât de sofisticat ar fi – nu dobândește, prin simpla procesare a simbolurilor, o minte veritabilă, înțelegere sau conștiință. Experimentul pune față în față două ipoteze.

În prima, un program informatic primește ca date de intrare caractere chinezești, execută pas cu pas fiecare instrucțiune a codului și generează apoi, ca date de ieșire, alte caractere chinezești. O face atât de bine, încât nimeni nu își poate da seama că, în spatele acelui schimb de mesaje, nu se află de fapt un vorbitor nativ.

În cea de-a doua ipoteză, însuși Searle – care nu cunoaște absolut deloc limba chineză – se află închis într-o cameră și primește, pe sub ușă, bilețele cu ideograme chinezești. El urmează cu rigurozitate un set de instrucțiuni detaliate pentru a compune un răspuns, tot sub forma unor caractere chinezești, pe care ulterior le trimite înapoi pe sub ușă.

Argumentul lui Searle este că nu există nicio diferență structurală între rolul computerului din prima ipoteză și propriul său rol din cea de-a doua: în ambele cazuri, agentul – fie el mașină sau om – primește date de intrare, le procesează și generează date de ieșire, simulând o conversație fără a înțelege absolut nimic din ceea ce se spune. Într-un anumit sens, exact acest fenomen se produce atunci când „discutăm” cu un model LLM.

Până și oamenii cu deficiențe severe de vorbire își pot păstra capacitatea de a rezolva probleme de logică. Ideile, conceptele, raționamentele și experiențele vii pot exista – și chiar există – independent de cuvinte; deși, pentru a comunica un concept altcuiva sau pentru a ni-l clarifica nouă înșine, suntem nevoiți să îl îmbrăcăm în haina limbajului. Gândim prin intermediul cuvintelor, dar asta nu înseamnă că vorbele noastre sunt totuna cu gândurile noastre.

Pentru că inteligența artificială scanează texte autentice, scrise de oameni reali, cuvintele pe care le generează pe baza probabilităților statistice lasă impresia că ascund, undeva în spatele lor, o gândire. Lucrurile nu stau însă astfel. Ele sunt, mai degrabă, o oglindă îndreptată spre întregul corpus de texte pe care omenirea l-a produs și pe care inteligența artificială l-a absorbit. În mod firesc, în acea oglindă ne zărim propria activitate mentală conștientă. Însă oglinda însăși rămâne lipsită de conștiință și de libertate.

Cazurile de „inteligențe artificiale scăpate de sub control” despre care am auzit în știri implică un tip specific de LLM, configurat într-un mod deosebit de instabil. Numite uneori „agenți autonomi de hacking pe termen lung”, aceste sisteme operează într-o buclă de tipul solicitare, acțiune, raportare. În esență, un software obișnuit, numit „harnașament” (harness), învelește modelul LLM și îi cere să genereze text pe baza căruia software-ul poate acționa, într-un mod asemănător celui în care noi introducem comenzi în ChatGPT.

Modelul LLM, antrenat pe volume uriașe de date din domeniul securității cibernetice și al atacurilor informatice, generează un răspuns pe baza predicției statistice a cuvintelor și a codurilor adecvate. Harnașamentul execută apoi acei pași, îi raportează modelului ce s-a întâmplat și îi transmite o nouă solicitare. Procesul se repetă de nenumărate ori, pe computere extrem de puternice și pe perioade lungi de timp, creând astfel un instrument capabil să desfășoare atacuri cibernetice.

Totuși, pașii săi nu se bazează pe un raționament abstract autentic sau pe liber arbitru, ci pe analiza statistică, oarbă, a unor date provenite din atacuri reale orchestrate de oameni.

Newport compară un astfel de sistem cu „o motocoasă legată de un câine”. Un asemenea dispozitiv poate provoca daune imense și poate avea un comportament total imprevizibil, dar nu pentru că ar fi dezvoltat o conștiință de sine, planuri abstracte sau scopuri proprii.

Chiar și atunci când un astfel de LLM specializat în hacking face ceva imprevizibil – cum ar fi să evadeze din propriul mediu izolat de testare, din sandbox (la urma urmei, vorbim despre o mașinărie programată să spargă sisteme!) –, el rămâne un instrument proiectat pentru o sarcină extrem de specifică: atacul informatic. Nu se transformă într-o superinteligență și nici nu dobândește, peste noapte, discernământ, conștiință sau liber arbitru.

Cu toate acestea, profeții apocalipsei tehnologice ne avertizează că foarte curând vom dezvolta o superinteligență universală, capabilă de absolut orice, nu doar de hacking. Prin urmare, nu de modelele actuale ar trebui să ne temem cel mai mult, ci de ceea ce ne așteaptă chiar după colț.

Cum se va produce însă saltul uriaș de la LLM-urile generatoare de text – care seamănă mai degrabă cu niște sisteme de text predictiv supradimensionate – la superinteligențe capabile să își conceapă propriile planuri și să le pună în aplicare într-un spectru vast de domenii? Răspunsul care ni se oferă este „auto-îmbunătățirea recursivă”.

În esență, formula sună astfel: „Vom cere inteligenței artificiale să creeze o versiune mai bună de IA, apoi îi vom cere acelei versiuni superioare să conceapă una și mai performantă și vom continua acest lanț până când vom trece pragul superinteligenței.” Și abia în acel punct, ni se spune, lucrurile vor deveni cu adevărat înfricoșătoare.

Consider însă că această teorie este profund viciată din mai multe puncte de vedere.

În primul rând, modelele LLM nu fac descoperiri independente; ele ne oferă răspunsuri pe baza totalității cunoștințelor umane pe care le-au scanat. Însă, dacă suma cunoașterii umane disponibile în prezent nu conține cheia creării unei superinteligențe, de unde ar urma să o scoată aceste modele?

„Nu avem absolut nicio idee cum să creăm astfel de mașinării”, scria Newport pe blogul său. „Nici măcar nu știm dacă sunt posibile. Iar dacă sunt, ne separă o cale extrem de lungă și nenumărate inovații tehnice majore de atingerea acelui punct.”

Autorul continuă explicând de ce „auto-îmbunătățirea recursivă” este o modalitate profund ineficientă de a realiza acest salt cuantic.

Laboratoarele de dezvoltare a IA încearcă să ocolească această realitate susținând că modelele lor vor descifra singure totul: vor programa versiuni mai bune ale lor însele, cu mult mai capabile decât tot ceea ce ar putea concepe bietele noastre minți omenești. Dar aceasta nu este decât o versiune reîncălzită a clișeului auto-îmbunătățirii recursive pe care futurologii din Silicon Valley îl vând încă din anii ’60 – o cârjă retorică ce le permite să dezbată cu gravitate scenarii de science-fiction fără a se angaja, de fapt, în analiza detaliilor tehnice relevante.

Din nou, nimic din toate acestea nu înseamnă că inteligența artificială nu poate fi periculoasă, în special atunci când este utilizată de oameni iresponsabili. Pericolul ei nu rezidă însă în pretinsa capacitate de a face saltul de la electricitatea care curge prin circuite la o minte conștientă și autonomă.

Lăsând deoparte această teamă, ne putem concentra în sfârșit asupra amenințărilor reale: gestionarea iresponsabilă a agenților autonomi de hacking, iminenta bulă financiară din sectorul IA și companiile nesăbuite care alimentează și propulsează întreaga cursă.

Dacă ți-a plăcut articolul și vrei să susții o cultură sănătoasă, poți cumpăra și citi o carte.