Halucinație AI (AI Hallucination)

Halucinația AI este fenomenul prin care un model de inteligență artificială generează informații false, inventate sau nesusținute de date reale, dar le prezintă cu aceeași încredere ca și pe cele corecte.

Acest lucru se întâmplă deoarece modelele de limbaj nu „știu” fapte în sensul uman, ci prezic cel mai probabil cuvânt următor pe baza tiparelor statistice învățate — uneori aceste predicții generează afirmații plauzibile, dar incorecte.

Halucinațiile pot apărea, de exemplu, atunci când un chatbot inventează o sursă bibliografică inexistentă sau oferă date financiare greșite despre o companie.

Riscul principal este utilizarea informațiilor greșite în decizii importante, motiv pentru care verificarea umană a rezultatelor generate de AI rămâne esențială. Pe de altă parte, tehnici precum RAG (Retrieval-Augmented Generation) reduc semnificativ acest fenomen, ancorând răspunsurile în surse verificabile.

Reducerea halucinațiilor rămâne una dintre cele mai importante direcții de cercetare în dezvoltarea modelelor AI de încredere.