Promptul, o conversație cu IA

Bine te-am găsit! 

Într-un discurs recent, Andrej Karpathy, co-fondator OpenAI, spunea că, înainte de a începe să interacționăm cu modelele lingvistice mari, trebuie să ne gândim mai întâi la ceea ce sunt acestea de fapt. Din punctul lui de vedere modelele lingvistice sunt asemenea unor “spirite” ale oamenilor. Modelele lingvistice mari sunt practic simulări ale oamenilor, dar cu un element de întâmplare (sunt stocastice¹ ). Aceste simulări rulează, cu ajutorul unui “transformer autoregresiv”, un tip de rețea neuronală. Modelul analizează textul piesă cu piesă (fiecare piesă e un token³ ) și le procesează în mod egal, una câte una. Explică mai departe cum funcționează: are niște setări interne (pe care le numește ponderi) și este antrenată folosind un volum însemnat de texte de pe internet. După antrenarea rețelei, modelul lingvistic obținut devine un potențial simulator al comportamentului uman. Întrucât a fost antrenat pe texte scrise de persoane reale, modelul “manifestă” o psihologie asemănătoare cu cea a oamenilor. Explicația lui se încheie cu observația că, modelele lingvistice mari, obținute prin antrenarea pe baze mari de date, dețin cunoștințe enciclopedice. Ele au acces la informație mult superior oricărui om, și, în plus, au capacitatea de a reține toate aceste date.

Dacă acceptăm această idee, că modelele lingvistice mari sunt simulări care se comportă ca și cum ar fi minți umane, atunci interacțiunea cu aceste modele este mai mult decât o simplă tastare de comenzi, devine o formă de conversație. Și, la fel ca în orice conversație, modul în care formulăm ceea ce practic solicităm, face diferența.

Acest articol este despre cum putem formula prompturile în interacțiunea cu un model de IA generativă și cum putem optimiza aceste interacțiuni pentru a obține rezultate mai utile. Vom explora conceptul de prompt din perspectiva unei conversații, componentele sale de bază și metoda CLEAR, un set de principii simple care te pot ajuta să construiești prompturi mai bune.

Ce este un prompt?

Un prompt este un text (o solicitare sau o întrebare) pe care îl trimitem unui model de IA generativă pentru a obține un răspuns. Cu un prompt începe conversația. În funcție de ceea ce îi cerem, modelul va genera un răspuns care poate fi mai mult sau mai puțin util. Apoi, putem fie să îmbunătățim promptul inițial, fie să formulăm unul nou, iar modelul va genera un nou răspuns. Este similar unui schimb de replici, în acest caz, partenerul de discuție fiind un model de IA.

Această comparație evidențiază că, deși interacționăm cu o tehnologie, modul în care o putem face seamănă cu interacțiunile umane. De aceea, e util să înțelegem ce anume face posibil acest tip de conversație și cum funcționează această tehnologie.

Ce face un model de IA să “înțeleagă” ce îi ceri?

Majoritatea sistemelor de IA, precum ChatGPT, Claude sau Gemini, sunt construite, în principal, prin combinarea a două tehnologii: procesarea limbajului natural și învățarea automată. Această combinație permite IA să “înțeleagă” solicitările noastre, chiar și atunci când le scriem ca și cum am purta o conversație cu o altă persoană. Totodată, aceste modele se bazează pe o cantitate enormă de date pentru a genera răspunsuri și pot învăța din interacțiunile anterioare în cadrul aceleiași conversații² .

Care sunt componentele unui prompt?

Sunt două tipuri principale de prompturi care stau la baza interacțiunii cu modelele de IA generativă: promptul de sistem și promptul de utilizator.

Promptul de sistem reprezintă un set de instrucțiuni inițiale care definesc comportamentul modelului și influențează toate răspunsurile pe care le va genera. Are rolul de a adapta aplicabilitatea generală a modelului la nevoile specifice ale utilizatorului. De exemplu, poți folosi un prompt de sistem pentru a cere modelului să răspundă numai în limba română. Promptul de utilizator, în schimb, se referă la cereri punctuale, formulate în timpul conversației.

În acest articol mă voi concentra pe promptul de utilizator (pe scurt, prompt). Promptul este textul prin care comunicăm cu modelul, o solicitare clară, însoțită de contextul relevant și de constrângerile specifice pentru răspunsul dorit. Scopul este de a primi un răspuns corect și relevant, în cel mai scurt timp posibil.

Un prompt eficient poate conține patru componente care ajută modelul să “înțeleagă” mai bine ceea ce vrem de la el:

1. Direcția: se referă la sarcina principală pe care vrem ca modelul să o îndeplinească.

2. Contextul: este informația suplimentară care ghidează modelul să genereze un răspuns mai relevant.

3. Informația de bază: se referă la conținutul principal asupra căruia vrem ca modelul să acționeze, să-l analizeze sau să-l prelucreze.

4. Instrucțiunile: se referă la cum vrem să arate sau să fie structurat răspunsul.

În funcție de complexitatea problemei sau a sarcinii, putem include toate cele patru componente sau doar o parte dintre ele. Contextul este un element important, dar nu neapărat necesar în toate cazurile. De exemplu, dacă întrebăm “Care este capitala Franței?” contextul  poate lipsi. Întrebarea este simplă, standardizată. În schimb, pentru subiecte complexe, cum ar fi o analiză detaliată, contextul devine important.

Formularea prompturilor: Metoda CLEAR

Dacă vrem ca un model de IA să ne “înțeleagă” cât mai bine, contează nu doar ceea ce spunem, ci și cum spunem. Metoda CLEAR oferă o abordare practică pentru a scrie prompturi mai eficiente, bazată pe cinci principii - CONCIS, LOGIC, EXPLICIT, ADAPTABILITATE și REFLECȚIE. Acestea pot ajuta atât la redactarea prompturilor, cât și la evaluarea rezultatelor generate.

Principiul Concis - Claritate în formularea prompturilor

Formulează solicitările scurt și clar astfel încât modelul să “înțeleagă” ce îi ceri.

Versiunea scurtă este concisă, directă și clară. Cea detaliată include formulări care nu adaugă valoare solicitării principale. Dacă vrei un răspuns mai specific, e mai eficient să dai feedback ulterior (ex. "Rezumă în trei propoziții."), în loc să menționezi toate detaliile în solicitarea inițială.

Principul Logic - Structură și coerență

Asigură-te că promptul are un fir logic al ideilor și că relațiile dintre concepte sunt evidente.

Un prompt logic are o structură clară și coerentă, care ghidează modelul prin pașii necesari pentru a răspunde la solicitare. Ajutând modelul să “înțeleagă” contextul și conexiunile dintre concepte, poate duce la un răspuns coerent și precis.

Principiul Explicit - Specificații clare privind rezultatul dorit

Include detalii clare despre tipul de informații pe care le vrei și în ce format.

Prin descrierea specifică a rezultatului pe care îl dorești, poți să îmbunătățești rezultatul.

Principiul Adaptabilitate - Flexibilitate și customizare a promptului

În funcție de răspunsul pe care îl primești, adaptează promptul cu elemente specifice legate de ceea ce vrei să obții.

Adaptabilitatea implică să tratezi fiecare răspuns ca un feedback, să experimentezi cu diferite formulări și să ajustezi prompturile în funcție de răspunsurile primite, pentru a găsi un echilibru între creativitate și specificitate.

Principiul Reflecție - Îmbunătățirea continuă a prompturilor

Analizează răspunsurile primite și ajustează prompturile pentru rezultate mai bune.

Reflecția înseamnă să analizezi răspunsurile primite și să te întrebi: “Ce a mers?”, “Ce nu?”, “Cum pot obține un răspuns mai bun data viitoare?”

Reflecția duce la prompturi mai bune. Iar prompturile mai bune conduc la rezultate mai bune.

Cum putem pune în practică metoda CLEAR?

Acum că am discutat cele cinci principii din metoda CLEAR, să vedem cum funcționează în practică. Vom presupune că vrei să creezi o prezentare pentru echipa ta despre importanța feedback-ului constructiv.

Pasul 1: Promptul inițial

Un prim impuls ar putea fi să ceri ceva simplu:

Promptul e prea general. Nu spune nimic despre audiență, scopul prezentării, durată sau ce format dorești. Rezultatul va fi, cel mai probabil, generic și nu foarte util nevoilor tale.

Pasul 2: Aplicarea metodei CLEAR și a componentelor unui prompt

Putem să reconstruim promptul folosind principiile de mai sus.

1. Definirea problemei: Înainte de a scrie promptul, definește ce vrei să obții.

   • Scop: Vreau să discut cu echipa mea de vânzări despre importanța feedback-ului constructiv în îmbunătățirea performanței și a dezvoltării profesionale.

   • Rezultat dorit: O structură de prezentare scurtă (10 minute), cu idei clare și exemple concrete.

2. Formularea promptului folosind principiile CLEAR. Combinăm componentele unui prompt pentru a oferi instrucțiuni clare.

Pasul 3: Iterație (Adaptabilitate și Reflecție)

După ce primești primul răspuns, îl poți modifica.

Nu uita: modelul IA oferă idei, dar nu cunoaște contextul echipei tale. Verifică critic răspunsurile, adaptează-le realității tale și integrează exemple specifice din experiența proprie. Personalizează pentru impact.

Reflecție

De fiecare dată când trimiți un prompt, începi o conversație cu un model de IA generativă.
Gândeste-te la ultima dată când ai început o conversație cu un model IA.

• Cum ai formulat promptul?

• A fost o întrebare rapidă sau o solicitare bine structurată?

• Ce ai putea schimba pentru un rezultat mai bun ?

La final

Abilitatea de a conversa cu un model de IA generativă te poate ajuta să identifici idei noi. Când ghidezi modelul cu întrebări sau solicitări clare și specifice, poți genera soluții la care poate nu te-ai gândit înainte.
Fiecare prompt, la fel ca orice conversație, este o ocazie de a învăța, de a te adapta și de a ajunge mai aproape de ceea ce ai nevoie. Cu cât formulezi mai clar ce vrei, cu atât prompturile vor fi mai bune și rezultatele mai relevante.

Te încurajez să faci un exercițiu simplu.

1. Alege unul din promturile tale recente și rescrie-l folosind principiile CLEAR.

2. Vezi cum se schimbă rezultatul.

3. Observă claritatea în gândirea ta și cum se îmbunătățește calitatea răspunsului generat de modelul de IA.

Sper că ți-am oferit instrumente utile pe care le poți aplica în prompturile tale pentru a obține rezultate mai bune de la modelele de IA generativă.
Experimentează, observă, ajustează.

Pe curând,
Cozmina

1  Care se produc întâmplător, care este legat de hazard. Aplicare a calculului probabilităților la rezultatele obținute prin statistică.

2  https://mitsloanedtech.mit.edu/ai/basics/effective-prompts/

3  Tokenul este unitatea fundamentală de date dintr-un text, esențială pentru înțelegerea și procesarea informațiilor de către inteligența artificială.