Explainable AI (XAI)
Explainable AI (XAI) adalah seperangkat proses dan metode yang memungkinkan pengguna manusia untuk memahami dan mempercayai hasil dan output yang dibuat oleh algoritma machine learning. XAI bertujuan membuat model "Black box" menjadi transparan.
Konteks Penggunaan
Krusial di bidang medis dan hukum. Dokter perlu tahu KENAPA AI mendiagnosa kanker.
Contoh
SHAP values menunjukkan fitur mana (umur, tekanan darah, dll) yang paling berkontribusi pada prediksi serangan jantung.
Catatan
Trade-off: Model yang mudah dijelaskan (Decision Tree) seringkali kalah akurat dibanding Black Box (Deep Learning).
