Black box model (model de tip „cutie neagră”) este un concept din inteligența artificială și învățarea automată care descrie un sistem ale cărui procese interne nu sunt ușor de înțeles sau interpretat de către oameni. Cu alte cuvinte, știm ce date intră în model (input) și ce rezultate produce (output), dar modul exact în care ajunge la acele rezultate rămâne opac.
Acest tip de model este frecvent întâlnit în algoritmi complexi, precum rețelele neuronale profunde (deep learning), unde numărul mare de parametri și straturi face dificilă urmărirea logicii interne. De exemplu, un model poate prezice dacă o imagine conține o anumită categorie de obiecte, dar nu poate explica clar ce caracteristici specifice au dus la acea decizie.
Avantajul principal al modelelor de tip black box este performanța ridicată. Acestea pot identifica tipare complexe în volume mari de date și pot oferi rezultate foarte precise, fiind utilizate în domenii precum recunoașterea imaginilor, procesarea limbajului natural sau analiza predictivă.
Totuși, lipsa de transparență reprezintă o provocare majoră. În domenii sensibile, precum medicina, finanțele sau justiția, este important să se înțeleagă cum sunt luate deciziile. Din acest motiv, a apărut un domeniu complementar numit „Explainable AI” (inteligență artificială explicabilă), care încearcă să facă aceste modele mai ușor de interpretat.
În concluzie, un model de tip black box este puternic și eficient, dar dificil de explicat, ceea ce ridică întrebări legate de încredere, transparență și responsabilitate în utilizarea inteligenței artificiale.