Parametru (Parameter)

Parametrul este o valoare internă a unui model AI, ajustată automat în timpul antrenării, care determină modul în care modelul procesează informația și generează rezultate.

Numărul de parametri ai unui model — adesea exprimat în miliarde — este un indicator (deși nu singurul) al complexității și capacității sale de a învăța tipare sofisticate din date. Modelele moderne de limbaj pot avea de la câteva miliarde până la peste o mie de miliarde de parametri.

În practică, mai mulți parametri permit, de regulă, o înțelegere mai nuanțată a limbajului și a contextului, dar cresc semnificativ și costurile de antrenare și de rulare a modelului.

Avantajul modelelor cu mai mulți parametri este performanța superioară pe sarcini complexe. Dezavantajul este consumul mai mare de resurse computaționale și energie, motiv pentru care industria caută constant metode de a obține performanțe similare cu modele mai mici și mai eficiente.

Dimensiunea (numărul de parametri) rămâne una dintre cele mai discutate caracteristici atunci când se compară diferite modele AI între ele.