Authors : Renu Sabharwal, Shah J. Miah, Samuel Fosso Wamba, Peter Cook
DOI : 10.1007/s10479-024-05825-9
Artikel ini membahas urgensi penerapan explainable artificial intelligence (XAI) dalam organisasi keuangan, khususnya terkait deteksi anomali pada transaksi finansial. Permasalahan utama yang diangkat adalah keterbatasan transparansi model machine learning (ML) yang selama ini diperlakukan sebagai black box, sehingga manajer keuangan sulit memahami dasar pengambilan keputusan AI. Kurangnya interpretabilitas menghambat adopsi, mengurangi kepercayaan, serta membatasi nilai strategis AI bagi pengambilan keputusan berbasis data.
Penelitian ini menawarkan solusi melalui penggunaan metode SHapley Additive exPlanations (SHAP) untuk meningkatkan pemahaman manajer atas hasil deteksi anomali. Dengan SHAP, kontribusi setiap fitur dalam keputusan model dapat dijelaskan secara konsisten, baik pada tingkat lokal maupun global. Hal ini berimplikasi pada peningkatan akuntabilitas, pengurangan bias, serta terbentuknya kepercayaan yang lebih besar terhadap sistem AI.
Dari sisi metodologi, penelitian menggunakan pendekatan Action Design Research (ADR) dengan kerangka research onion untuk menggabungkan intervensi organisasi dan konstruksi artefak teknologi. Peneliti merancang kerangka kerja ML berbasis XAI yang terdiri dari tahapan akuisisi data, pra-pemrosesan, pelatihan dan pengujian algoritme, implementasi model, serta evaluasi artefak. Dua jenis dataset digunakan: dataset sintetis dari Kaggle dan dataset riil dari organisasi keuangan. Beberapa algoritme yang diuji meliputi K-Neighbors Classifier, Gaussian Naïve Bayes, Logistic Regression, SVC, Decision Tree, Random Forest, dan Gradient Boosting, serta pendekatan tak terawasi seperti K-Means dan Isolation Forest.
Hasil penelitian menunjukkan bahwa metode SVC dan Decision Tree memberikan performa akurat pada dataset sintetis, sementara integrasi SHAP memungkinkan interpretasi yang lebih transparan terhadap hasil prediksi. Penjelasan ini membantu manajer memahami interaksi variabel, misalnya antara “trans_ref” dan “description”, yang berpengaruh signifikan terhadap deteksi anomali.
Kontribusi teoretis penelitian adalah memperluas literatur tentang XAI di bidang keuangan dengan menekankan pentingnya transparansi sebagai sumber daya strategis untuk keunggulan kompetitif. Dari sisi praktis, penelitian menekankan perlunya tim lintas disiplin yang melibatkan ilmuwan data, pakar AI, dan spesialis domain, serta peningkatan literasi AI bagi manajer agar dapat memanfaatkan AI secara etis dan efektif. Selain itu, penelitian merekomendasikan pembentukan mekanisme tata kelola AI yang menjamin kepatuhan regulasi dan standar etika.
XAI melalui integrasi SHAP dalam model ML menawarkan kerangka kerja yang dapat meningkatkan kredibilitas, akurasi, dan keandalan sistem deteksi anomali di sektor keuangan. Dengan demikian, organisasi dapat memaksimalkan manfaat AI tidak hanya untuk efisiensi operasional, tetapi juga untuk menciptakan nilai jangka panjang melalui pengambilan keputusan yang transparan dan bertanggung jawab.
Leave a Reply