Explicabilitate AI (Explainable AI / XAI)

Explicabilitatea AI se referă la capacitatea unui sistem de inteligență artificială de a-și justifica și explica deciziile într-un mod ușor de înțeles pentru oameni, spre deosebire de modelele de tip „cutie neagră” (black box).

Tehnicile de explicabilitate arată, de exemplu, care factori au influențat cel mai mult o decizie automată — cum ar fi aprobarea sau respingerea unei cereri de credit — astfel încât utilizatorii și auditorii să poată verifica corectitudinea procesului.

Aceasta este esențială în domenii reglementate precum finanțele, sănătatea sau resursele umane, unde deciziile automate trebuie să poată fi justificate legal.

Avantajul este creșterea încrederii și a responsabilității în utilizarea AI-ului. Dezavantajul este că modelele foarte complexe (precum rețelele neuronale profunde) sunt, prin natura lor, mai greu de explicat complet, existând mereu un compromis între performanță și transparență.

Explicabilitatea AI este considerată o condiție esențială pentru adoptarea responsabilă a inteligenței artificiale în sectoarele cu impact major asupra vieții oamenilor.