Învățarea prin întărire este o metodă de antrenare în care un algoritm învață prin încercare și eroare, primind recompense pentru acțiuni corecte și penalizări pentru cele greșite, cu scopul de a-și maximiza performanța pe termen lung.
Spre deosebire de învățarea supervizată, unde modelul primește exemple etichetate corect, aici algoritmul (numit „agent”) explorează activ un mediu, ia decizii și își ajustează strategia în funcție de rezultatele obținute.
Această tehnică a fost folosită pentru a antrena sisteme AI capabile să câștige la jocuri complexe (precum Go sau șah la nivel supraomenesc) și este, de asemenea, o componentă esențială în alinierea modelelor de limbaj cu preferințele umane (RLHF – Reinforcement Learning from Human Feedback).
Avantajul este capacitatea de a învăța strategii optime în medii complexe și dinamice, fără a avea nevoie de exemple etichetate manual. Dezavantajul este nevoia de foarte multe „încercări” pentru a converge spre o soluție bună, ceea ce poate fi costisitor computațional.
RLHF, în particular, este tehnica prin care asistenții AI conversaționali moderni au fost învățați să răspundă util, politicos și aliniat cu așteptările umane.