Alfabetizarea în domeniul IA

Bine te-am găsit!

De la 1 august 2024 a intrat în vigoare Legea europeană privind inteligența artificială (Legea IA), stabilind noi standarde pentru dezvoltarea și utilizarea sistemelor de inteligență artificială (sisteme IA) pe piața internă a Uniunii Europene. Această lege este un cadru de reglementare creat pentru a asigura dezvoltarea și utilizarea responsabilă a inteligenței artificiale (IA).

Una dintre cerințele fundamentale ale acestei legi este alfabetizarea în domeniul IA. Începând cu 2 februarie 2025, Legea IA impune companiilor să ofere instruire angajaților care utilizează IA în activitatea lor. Pentru companiile care folosesc sisteme de IA în activitatea zilnică, înțelegerea și respectarea cerințelor de alfabetizare IA asigură atât conformitatea legală, cât și capacitatea angajaților de a valorifica în mod responsabil potențialul IA.

În acest articol veți găsi informații despre:

• Ce este alfabetizarea în domeniul IA.

• Ce este un sistem de IA conform Legii IA.

• Cerințele de alfabetizare în domeniul IA, conform articolului 4 din Legea IA.

Ce este alfabetizarea în domeniul IA?

Alfabetizarea în domeniul IA se referă la "un set de competențe care permit indivizilor să evalueze critic tehnologiile de inteligență artificială, să comunice și să colaboreze eficient cu inteligența artificială și să utilizeze inteligența artificială ca instrument online, acasă și la locul de muncă"¹ .

În esență, acestea sunt competențele de care avem nevoie toți, având în vedere că IA este deja prezentă în viața noastră de zi cu zi. In contextul art. 3 (56) din Legea IA, dezvoltarea acestor competențe implică trei arii² :

1. Cunoștințe: Însușirea de informații factuale despre conceptele și practicile din domeniul IA.

2. Înțelegere: Aprofundarea conceptelor de bază pentru aplicarea în situații noi.

3. Abilități: Aplicarea constantă a cunoștințelor teoretice în practica zilnică.

Componentele alfabetizării IA

Un cadru de alfabetizare IA poate include:

• Înțelegerea conceptuală: Principii fundamentale ale IA, definiții și tehnici de bază.

• Recunoașterea IA: Identificarea momentelor când interacționezi cu sisteme IA.

• Înțelegerea funcționării: Cunoștințe despre cum funcționează diferite tipuri de IA.

• Evaluarea critică: Analiza capacităților și limitelor sistemelor IA.

• Impactul datelor: Conștientizarea modului în care computerele învață din date.

• Aspectele etice: Identificarea și gestionarea aspectelor etice.

• Luarea deciziilor informate: Evaluarea critică a informațiilor generate de IA.

• Comunicarea eficientă: Interacțiunea optimă cu sistemele IA, inclusiv crearea de prompt-uri.

Ce este un sistem de IA?

Pentru a înțelege obligațiile de alfabetizare IA in contextul Legii IA, este importantă cunoașterea definiției unui sistem de IA conform legislației europene.

Potrivit Legii IA, un sistem de IA înseamnă un “sistem bazat pe o mașină (hardware și software) care este conceput să funcționeze cu diferite niveluri de autonomie și care poate prezenta adaptabilitate după implementare, și care, urmărind obiective explicite sau implicite, deduce, din datele de intrare pe care le primește, modul de generare a unor rezultate precum previziuni, conținut, recomandări sau decizii care pot influența mediile fizice sau virtuale” (Art. 3 (1))³ .

Elementele unui sistem IA includ⁴ :

• Autonomie - capacitatea de a efectua sarcini în medii complexe fără îndrumarea constantă a unei persoane.

• Adaptabilitate - capacitatea de a-și ajusta performanța după implementare, ca răspuns la date, contexte sau condiții noi. Acest element este opțional și nu este o cerință definitorie.

• Obiectivele sistemului IA - sunt interne sistemului, legate de scopurile sarcinilor și rezultatele dorite. Acestea pot fi codificate explicit de dezvoltatori sau derivate implicit din comportamentul sistemului sau din presupunerile care stau la baza sistemului.

• Deduce cum să genereze rezultate - procesul de obținere a rezultatelor din date și capacitatea sistemului de a deriva modele sau algoritmi din date prin utilizarea de tehnici de IA (cum sunt abordări de învățarea automată și bazate pe logică și cunoștințe).

• Rezultate care pot influența mediile fizice sau virtuale - se referă la faptul că sistemul IA ar trebui să aibă un impact activ asupra mediilor în care au fost implementate.

Exemple

Cerințe legate de alfabetizarea IA

Articolul 4 din Legea IA stabilește că “furnizorii și implementatorii de sisteme de IA iau măsuri pentru a asigura, în cea mai mare măsură posibilă, un nivel suficient de alfabetizare în domeniul IA a personalului lor și a altor persoane care se ocupă cu operarea și utilizarea sistemelor de IA în numele lor, ținând seama de cunoștințele tehnice, experiența, educația și formarea lor și de contextul în care urmează să fie folosite sistemele de IA și luând în considerare persoanele sau grupurile de persoane în legătură cu care urmează să fie folosite sistemele de IA”. 

Am rezumat în tabelul de mai jos, cerințele de alfabetizare în domeniul IA, conform art. 4 al legii IA :

Pentru conformitatea cu articolul 4, companiile trebuie să dezvolte programe care să acopere:

1. Înțelegerea conceptelor fundamentale:

   • Definiții clare ale IA și principiile de funcționare.

   • Cum sunt utilizate sistemele IA în contextul organizațional specific.

   • Prezentarea echilibrată a beneficiilor și riscurilor.

2. Evaluarea riscurilor specifice:

   • Identificarea riscurilor de securitate, confidențialitate și bias.

   • Protocoale pentru atenuarea riscurilor potențiale.

   • Proceduri pentru superveghere umană adecvată.

3. Planuri de acțiune personalizate:

   • Evaluarea competențelor actuale ale personalului.

   • Identificarea nevoilor de formare specifice.

   • Integrarea principiilor etice în utilizarea zilnică.

Pentru a sprijini articolul 4, Biroul pentru IA oferă resurse, exemple practice, webinarii și practici de alfabetizare în domeniul IA. De asemenea, o listă de întrebări și răspunsuri oferă informații privind cerințele și aplicarea articolului 4 din Legea IA. Mai jos sunt câteva dintre acestea.

Este obligatorie pregătirea formală?

Legea IA nu impune cursuri formale, dar simpla citire a instrucțiunilor este considerată insuficientă. Companiile trebuie să ofere:

• Cursuri de formare adaptate grupurilor-țintă.

• Instruire practică pentru personalul care interacționează direct cu IA.

• Orientări personalizate în funcție de contextul de utilizare.

Exemplu concret de aplicare

Companii care folosesc aplicații precum ChatGPT.
Da, angajații trebuie informați despre riscurile specifice, cum ar fi informații false generate cu încredere de sistem, limitele de confidențialitate și necesitatea verificării informațiilor critice.

Documentarea conformității

Nu este necesar un certificat oficial. Companiile pot demonstra conformitatea prin:

• Evidența internă a programelor de formare.

• Documentarea cursurilor și ghidurilor implementate.

Alfabetizarea IA, o cerință de bază pentru companiile care utilizează IA

Alfabetizarea în domeniul IA devine o necesitate practică pentru orice companie care utilizează sisteme de IA. Implementarea acestor competențe necesită o abordare sistematică: evaluarea nivelului actual de cunoștințe, dezvoltarea de programe de formare adaptate contextului specific și documentarea măsurilor întreprinse.

Pentru companii, respectarea acestei obligații înseamnă investiția în siguranța operațională și conformitatea legală. Fie că vorbim despre utilizarea ChatGPT în activitatea zilnică sau despre implementarea unor sisteme IA complexe, principiul rămâne același: angajații trebuie să înțeleagă atât oportunitățile, cât și riscurile tehnologiei pe care o folosesc.

Legea IA nu impune soluții standard, ci lasă flexibilitatea companiilor să dezvolte strategii de alfabetizare potrivite nevoilor lor. Această abordare reflectă realitatea că IA evoluează rapid, iar competențele necesare pentru utilizarea sa responsabilă trebuie să fie actualizate continuu.

1  Long, D., & Magerko, B. (2020). What is AI Literacy? Competencies and Design Considerations. Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems.

2  https://www.pwc.nl/en/services/audit-assurance/pwc-accountancy-insights/data-it-and-internal-control/ai-literacy-under-the-eu-ai-act.html

3  https://eur-lex.europa.eu/legal-content/RO/TXT/?uri=CELEX:32024R1689

4  https://data-en-maatschappij.ai/en/tools/the-eu-ai-act-in-6-steps