Fluența IA și încrederea noastră

Pornind de la această invitație la reflecție, m-am întrebat dacă nu cumva ar putea fi o legătură între lejeritatea cognitivă, o tendință umană firească, și modul în care funcționează sistemele conversaționale bazate pe modele lingvistice mari.

În acest articol explorez această posibilă legătură, pornind de la conceptul formulat de Daniel Kahneman în cartea Gândire rapidă, gândire lentă, și ajungând la felul în care operează sisteme precum ChatGPT, Claude sau Gemini. Este o observație personală, bazată pe conceptele lui Kahneman și pe modul în care modelele lingvistice mari sunt dezvoltate și funcționează. Cred că această perspectivă ne poate ajuta să le folosim mai conștient și mai eficient.

Ce este lejeritatea cognitivă?

Daniel Kahneman explică faptul că mintea umană funcționează prin două sisteme:

• Sistemul 1 este automat, rapid și funcționează cu efort redus, fără senzația de control conștient. Este responsabil pentru reacții rapide și răspunsuri intuitive. Exemple: răspunzi la 2+2 = ?, completezi fraza “pâine și ...” sau conduci mașina pe un drum cunoscut fără să te gândești activ la fiecare mișcare.

• Sistemul 2 este lent, deliberativ și necesită efort. Este folosit când trebuie să analizăm, să facem alegeri sau să rezolvăm probleme complexe. Exemple: cauți în memorie să identifici un nume, completezi o declarație fiscală sau parchezi într-un loc îngust.

Când folosim Sistemul 1, adesea nu suntem conștienți de motivele gândurilor sau acțiunilor noastre. Acestea apar automat. În schimb, Sistemul 2 presupune un efort conștient și un proces de gândire mai lent și logic.

Lejeritatea cognitivă este senzația de ușurință mentală în înțelegerea sau procesarea unei informații. Este cunoscută și ca fluență și reflectă cât de mult efort mental e necesar pentru a înțelege ceva. Lejeritatea cognitivă este strâns legată de Sistemul 1, pentru că se manifestă atunci când procesăm ceva automat, fără efort.

Cuvântul cognitiv este definit ca acțiunea mentală sau procesul de dobândire a cunoștințelor și înțelegerii prin gânduri, experiențe și simțuri. Derivă din termenul latin cognoscere, care înseamnă “a cunoaște”.

Kahneman spune că atunci când ne aflăm într-o stare de lejeritate cognitivă suntem mai înclinați să fim de acord cu ce vedem sau auzim și mai încrezători în intuițiile noastre. Totul pare familiar și ușor. Pe de altă parte, când suntem încordați cognitiv, devenim mai vigilenți și mai atenți, dar și mai sceptici, mai puțin creativi și mai puțin confortabili cu luarea deciziilor.

Ce determină lejeritatea cognitivă?

Mai mulți factori contribuie la starea de lejeritate cognitivă și pot influența felul în care percepem sau credem o informație.

1. Repetiția

Un mod prin care oamenii ajung să creadă că ceva este adevărat constă în repetarea acelei idei. Potrivit lui Kahneman, familiaritatea nu se deosebește ușor de adevăr. Citând alte cercetări, el arată că simpla recunoaștere a unei părți dintr-o afirmație poate face ca întreaga afirmație să pară cunoscută și, în consecință, credibilă. Gândirea Sistemului 1 are dificultăți în a face diferența între ce e cunoscut și ce este corect. Impresia de familiaritate vine din Sistemul 1. Sistemul 2, care ar trebui să judece dacă ceva este adevărat sau fals, de multe ori preia această impresie și o folosește ca punct de plecare. Cu alte cuvinte, dacă ceva pare cunoscut, avem tendința să-l tratăm ca fiind adevărat, chiar și atunci când nu este.

2. Prezentarea clară

Un font ușor de citit, un contrast vizual bun și un mesaj formulat clar fac ca o idee să pară mai credibilă. Denumirile care sunt ușor de pronunțat sau un text cu un ritm plăcut dau impresia că totul e mai simplu și mai familiar. La fel, instrucțiunile simple, însoțite de imagini, cer mai puțin efort mental. Toate acestea contribuie la senzația de lejeritate cognitivă.

3. Ideea amorsată

Atunci când ai mai văzut un cuvânt sau un nume, îl recunoști mai ușor data viitoare. Cuvintele cunoscute se citesc mai rapid și cu mai puțin efort, iar acest lucru creează o stare de lejeritate cognitivă. Mintea simte că “merge mai ușor”, iar asta poate face ca ideea să pară mai familiară și mai credibilă, chiar dacă nu e analizată în profunzime.

4. Buna dispoziție

Un mediu plăcut sau o stare de bine contribuie la lejeritatea cognitivă. Atunci când ne simțim bine, avem impresia că totul e în regulă, că mediul e sigur și că nu e nevoie să fim vigilenți. Gândirea curge mai ușor. Lejeritatea cognitivă poate fi atât un efect al bunei dispoziții, cât și o cauză. Cele două se întăresc reciproc.

Starea de lejeritate cognitivă poate avea la bază mai mulți factori, cum ar fi repetiția, prezentarea clară, buna dispoziție sau simpla recunoaștere a unor cuvinte. Ceea ce spun psihologii este că, deși simțim clar această stare, nu știm ce o declanșează. Mintea nu ne spune: “simți asta pentru că fontul e ușor de citit” sau “pentru că ai mai auzit ideea înainte”. Sistemul 1 doar reacționează, iar Sistemul 2 preia senzația ca pe un semnal de încredere.

Cum ne influențează lejeriatatea cognitivă?

Consecințele lejerității cognitive pot fi subtile, dar importante: senzație de familiaritate, senzație de adevăr, senzație de bine și senzație de ușurință.

1. Senzația de familiaritate

Ideile și conceptele cunoscute sunt procesate cognitiv mai ușor decât informațiile noi. Este posibil să ai tendința de a fi mai tolerant atunci când ceva se potrivește cu percepția sau punctul tău de vedere.

2. Senzația de adevăr

Lucrurile care se aliniază cu opiniile și percepțiile tale actuale vor părea mai adevărate și, prin urmare, vor necesita mai puțin efort mental în procesarea lor.

3. Senzația de bine

Experiențele plăcute sunt considerate mai ușoare decât sarcinile care ar putea implica un sentiment negativ.

4. Senzația de ușurință

Ceva prezentat clar și ușor de înțeles creează lejeritate cognitivă.

Psihologii cred că o mare parte din viața noastră este ghidată de acest Sistem rapid, intuitiv, dar ușor de influențat. Atunci când procesăm informații ușor, cu ajutorul Sistemului 1, tindem să le considerăm adevărate, familiare, de încredere.

Același tip de reacție apare și atunci când interacționăm cu modelele lingvistice mari. ChatGPT, Claude, Gemini sunt sisteme concepute să genereze conținut clar, fluent, convingător. Sunt, într-un fel, mașini de lejeritate cognitivă. Și asta le face atât utile, însă și potențial înșelătoare.

Cum sunt dezvoltate modelele ligvistice mari?

Antrenate pe seturi imense de texte scrise de autori reali, în mare parte preluate de pe internet, modelele lingvistice mari învață să recunoască și să reproducă tipare statistice din limbaj. Funcția lor principală este să anticipeze următorul cuvânt, expresie sau chiar construcții complexe, cu o fluență remarcabilă, nu să transmită informații verificate sau adevăruri.

Scopul principal al modelelor ligvistice este să ofere un răspuns care pare plauzibil în context, nu neapărat unul corect. Ele generează texte care sună bine, par familiare și potrivite, adică exact tipul de conținut care declanșează lejeritate cognitivă. La fel ca Sistemul 1 descris de Kahneman, modelele lingvistice mari preferă secvențele de cuvinte cu probabilitate mare. Asta le face eficiente, dar și opace.

În plus, modelele lingvistice sunt predispuse să inventeze lucruri. Faptul că modelele lingvistice sunt predispuse să inventeze lucruri ridică o întrebare centrală pentru cei care le studiază: care este natura textului generat și ce legătură are acesta cu adevărul?

Halucinații, confabulații și bullshit

Atunci când generează conținut fals, modelele lingvistice mari nu “mint” în sensul uman al cuvîntului, dar nici nu verifică ce generează și nici nu au o “defecțiune”. Aceste sisteme fac ceea ce au fost proiectate să facă, să producă răspunsuri plauzibile, pe baza datelor de antrenament, și să le prezinte într-un mod convingător.

Unii cercetătorii numesc acest conținut incorect, halucinații (“hallucinations”), afirmații false, dar livrate cu încredere, care nu se bazează direct pe datele din seturile de antrenament. Alții preferă termenul confabulație (“confabulation”), inspirat din psihologie. O confabulație are loc atunci când o persoană își “umple” involuntar golurile de memorie cu amintiri fabricate. În mod similar, un model lingvistic generează informații aparent coerente pentru a completa lipsurile din datele sale, când se confruntă cu întrebări sau situații pe care nu le poate acoperi direct.

Totuși, atât halucinație, cât și confabulație sunt metafore împrumutate din sfera umană, iar modelele IA nu percep, nu-și amintesc și nu înțeleg în sensul uman. De aceea, unii autori propun un termen mai potrivit: bullshit, în sensul filozofului Harry Frankfurt.

Frankfurt, face o distincție clară: mincinosul, care știe adevărul și încearcă să te conducă în direcția opusă, și “bullshiter-ul”, care în schimb, nu cunoaște și nici nu-l interesează adevărul. Scopul său este doar să pară convingător. Modelele lingvistice mari funcționează exact în acest mod, nu știu dacă ceea ce spun e adevărat și nici nu sunt construite să țină cont de acest lucru.¹

Când un chatbot greșește, nu încearcă să ne mintă. Pur și simplu nu are o reprezentare a adevărului, dar răspunsul său e scris clar, cu încredere și logică aparentă. Asta îl face convingător, chiar și în situații în care e complet greșit.

Legătura finală: fluența ca vulnerabilite

Aici intervine legătura cu lejeritatea cognitivă. Modelele lingvistice mari sunt proiectate să producă texte ușor de procesat, clare și familiare. Cu alte cuvinte, optimizează pentru fluență și familiaritate, exact ceea ce preferă Sistemul 1.

Această fluență este cheia. Pentru creierul nostru, un mesaj care curge bine pare adevărat. În mod ironic, tocmai acest design orientat spre ușurință, accesibilitate, ton politicos și familiaritate în limbaj, face aceste sisteme atrăgătoare și utile.

Dar exact aceleași caracteristici le fac și înșelătoare. Par de încredere pentru că sună bine, nu pentru că sunt corecte.

Senzația de lejeritate sau de încordare are cauze multiple și nu sunt mereu ușor de identificat, mai ales dacă le privim izolat. Fluența modelelor lingvistice mari poate face această misiune și mai dificilă. Dar nu imposibilă. Atunci când suntem suficient de motivați, putem recunoaște factorii superficiali care creează iluzia de adevăr. Mobilizând Sistemul 2, putem trece de la o reacție intuitivă la o abordare mai angajată și mai analitică.

1  https://undark.org/2023/04/06/chatgpt-isnt-hallucinating-its-bullshitting/