Ce este AI-ul constituțional, cum e antrenat și cum funcționează

În acest articol vom explica ce este AI-ul constituțional (inteligența artificială constituțională) și cum anume a fost antrenat Claude.

AI-ul constituțional – definiție

AI-ul constituțional este o metodă dezvoltată de compania americană de inteligență artificială Anthropic pentru a îmbunătăți conformitatea etică și legală a instrumentelor AI, potrivit Wikipedia.org.

Altfel spus, AI-ul constituțional este o tehnică aplicată pentru antrenarea sistemelor de AI, în special Claude, o familie de modele lingvistice mari (LLM) avansate pe care se bazează asistentul AI Claude, cu scopul de a-l face pe acesta din urmă să fie util, onest și inofensiv. Ideea de bază este de a alinia instrumentele AI precum Claude cu valorile umane.

Ce este AI-ul constituțional – explicație

Pentru a atinge acest obiectiv, AI-ul constituțional este ghidat de un set scris de principii (similar unei constituții), care îi permite să desfășoare un proces de autocorecție și verificare, nu doar să se bazeze pe feedback-ul uman pentru a identifica conținutul dăunător.

Așa-numita „constituție” este un set de reguli derivate din surse precum Declarația ONU a Drepturilor Omului, și care ghidează comportamentul sistemului AI. Astfel, inteligența artificială este mai sigură, mai scalabilă și mai transparentă.

După cum se arată pe site-ul Anthropic, acest set de reguli și principii reprezintă singura supraveghere umană, asistentul AI fiind antrenat prin auto-îmbunătățire.

Cum este antrenat Claude – faza de învățare supravegheată

Înțelegem mai bine ce este AI-ul constituțional dacă știm cum anume a fost creat/antrenat. Procesul de antrenare a AI-ului constituțional implică atât o fază de învățare supravegheată (supervised learning), cât și o fază de învățare prin recompensă (reinforcement learning), se arată pe site-ul companiei Anthropic.

Învățarea supravegheată este o tehnică de învățare automată (machine learning) care folosește seturi de date etichetate pentru a învăța un model. Mai exact, modelul este antrenat pe date etichetate, adică date pentru care răspunsul corect este deja cunoscut.

În mod normal, modelului îi sunt arătate multe exemple de tipul „intrare → răspuns corect”, iar el învață să recunoască tiparul, astfel încât să poată prezice răspunsul corect pentru date noi, pe care încă nu le-a mai văzut.

De exemplu, dacă se dorește antrenarea unui model pentru a recunoaște elefanții din poze, el va primi mii de imagini, fiecare etichetată cu „elefant” sau „nu e elefant”. Prin această metodă modelul va învața ce caracteristici vizuale definesc un elefant și ulterior va putea identifica elefanții din imagini noi.

Ce este AI-ul constituțional – Claude și învățarea supervizată

În cazul AI-ului constituțional însă, această fază de învățare a fost aplicată diferit. Astfel, pentru a nu fi necesar ca oamenii să eticheteze manual mii de răspunsuri cu „bun” sau „rău”, creatorii lui Claude i-au dat practic o „constituție” (lista de principii și reguli) și l-au lăsat să se auto-corecteze pe baza acesteia.

Așadar, în cadrul fazei de învățare supervizată, modelul a dat răspunsuri, după care a generat auto-critici, verificări și revizuiri ale acestora. Apoi, Claude a fost antrenat din nou pe răspunsurile revizuite cu scopul ca modelul inițial să fie ajustat fin, se arată pe site-ul companiei.

Cu alte cuvinte, Claude și-a citit propriul răspuns la o întrebare, iar apoi, dacă a ajuns la concluzia că răspunsul încalcă un principiu din constituție, l-a rescris, după care a învățat din versiunea îmbunătățită.

Ce este AI-ul constituțional și cum este antrenat – învățarea prin recompensă

În ceea ce privește învățarea prin recompensă, aceasta este o abordare de tip „încercare și eroare”, prin care AI-ul interacționează cu mediul său. El nu primește seturi de date etichetate și nici nu i se spune ce acțiuni să întreprindă.

În schimb, modelul AI experimentează consecințele acțiunilor sale și descoperă singur cele mai bune strategii pe baza feedback-ului pe care îl primește: pozitiv (pentru comportamentele dorite) și negativ (pentru cele nedorite).

În cazul AI-ului constituțional, faza de învățare prin recompensă s-a desfășurat astfel: Claude a generat perechi de răspunsuri, iar un alt model a evaluat care dintre cele două răspunsuri era mai bun. Astfel, pe baza acestor evaluări, a fost antrenat un model de preferințe care a fost folosit ca semnal de recompensă. Din mii de astfel de comparații, Claude a învățat ce tip de răspuns este preferat.

Prin urmare, în vreme ce prima fază l-a învățat pe Claude să recunoască un răspuns problematic și să îl reformuleze, cea de-a doua l-a învățat să aleagă în mod constant răspunsurile mai utile, mai oneste și mai puțin dăunătoare, fără să fie necesar ca un om să îi evalueze manual fiecare răspuns.

Foto: tungnguyen0905 / ColiN00B / pixabay.com

Dacă acest articol despre ce este AI-ul constituțional vi s-a părut util, v-ar putea interesa și:

Claude sau ChatGPT. Care sunt punctele forte ale celor 2 boți
Ce poți face cu Claude. 6 exemple de funcționalități
Ce este Claude AI și care sunt punctele sale forte
Comparație ChatGPT vs DeepSeek. Analiză în 7 puncte
Ce poate face DeepSeek. Răspunsuri, texte, rezumate, cod
Ce poate face Chat GPT. 12 moduri în care poate fi utilizat
Inteligența artificială generativă. Ce poate face AI – 5 exemple
Inteligența artificială GPT. Ce este și ce poate face
Ce este Anthropic. Fondatori, venituri, angajați, perspective