Alinierea AI este domeniul de cercetare dedicat asigurării faptului că sistemele de inteligență artificială acționează în conformitate cu intențiile, valorile și interesele reale ale oamenilor, chiar și atunci când primesc instrucțiuni ambigue sau incomplete.
Practic, un model bine aliniat urmează spiritul unei cereri, nu doar litera ei — de exemplu, refuză să execute o instrucțiune tehnic corectă, dar dăunătoare, și încearcă să înțeleagă ce își dorește cu adevărat utilizatorul, nu doar ce a scris literal.
Tehnici precum RLHF (învățare prin întărire din feedback uman) sau testarea adversarială (red teaming) sunt folosite pentru a alinia comportamentul modelelor AI cu așteptările umane, înainte ca acestea să fie lansate public.
Avantajul unei alinieri bune este un sistem AI de încredere, previzibil și sigur în utilizare. Provocarea este că valorile umane variază cultural și contextual, iar „alinierea perfectă” rămâne un obiectiv greu de definit complet.
Alinierea AI este considerată, alături de guardrails și explicabilitate, una dintre pietrele de temelie ale dezvoltării responsabile a inteligenței artificiale.