XAI (Explainable AI)
Explainable AI (XAI) adalah seperangkat proses dan metode yang memungkinkan pengguna manusia untuk memahami dan mempercayai hasil dan output yang dibuat oleh algoritma machine learning. Ini adalah kebalikan dari model "Black Box".
Konteks Penggunaan
Penting di dunia medis dan hukum.
Contoh
Dokter tidak akan percaya AI mendiagnosis kanker kecuali AI bisa menjelaskan "Kenapa" (misal: "Karena ada benjolan di area X").
Catatan
Teknik populer: SHAP, LIME.
