AI dalam Pemberian Pinjaman:Mengurangi Bias dan Memastikan Akses Kredit yang Adil

Kecerdasan buatan (AI) telah merevolusi banyak bidang dalam beberapa tahun terakhir, termasuk sektor perbankan. Terdapat aspek positif dan negatif dalam penerapannya, khususnya masalah diskriminasi algoritmik dalam pemberian pinjaman.

Di Kanada dan negara-negara lain di seluruh dunia, penerapan AI di bank-bank besar telah meningkatkan produktivitas sekaligus menawarkan personalisasi layanan yang lebih baik.

Menurut Survei Global IEEE, penerapan solusi berbasis AI diperkirakan akan meningkat dua kali lipat secara global pada tahun 2025, mencapai 80 persen lembaga keuangan.

Beberapa bank lebih maju, seperti BMO Financial Group, yang telah menciptakan posisi khusus untuk mengawasi integrasi AI ke dalam layanan digitalnya agar tetap kompetitif. Hasilnya, berkat AI, keuntungan industri perbankan global dapat melebihi US$2 triliun pada tahun 2028, yang berarti pertumbuhan hampir sembilan persen antara tahun 2024 dan 2028.

Sebagai profesor di Universitas Laval bidang manajemen pengetahuan dan inovasi serta komunikator sains, penulisan analisis ini saya dibantu oleh Kandet Oumar Bah, penulis proyek penelitian tentang diskriminasi algoritmik, dan Aziza Halilem, pakar tata kelola dan risiko dunia maya di Otoritas Pengawasan dan Resolusi Prudential Prancis.

Bagaimana AI meningkatkan kinerja bank?

Integrasi AI di sektor perbankan telah mengoptimalkan proses keuangan secara signifikan, dengan peningkatan efisiensi operasional sebesar 25 hingga 40 persen. Dikombinasikan dengan kemampuan big data yang terus berkembang — misalnya, pengumpulan data dalam jumlah besar — AI menawarkan analisis canggih yang sudah dapat mengurangi margin kesalahan sistem keuangan sebesar 18 hingga 30 persen.

Hal ini juga memungkinkan untuk memantau jutaan transaksi secara real-time, mendeteksi perilaku mencurigakan dan bahkan secara preventif memblokir transaksi penipuan tertentu. Ini adalah salah satu kegunaan yang diterapkan oleh J.P. Morgan.

Selain itu, platform seperti FICO, yang berspesialisasi dalam analisis keputusan berbasis AI, membantu lembaga keuangan memanfaatkan berbagai data pelanggan, menyempurnakan keputusan kredit mereka melalui model prediktif yang canggih.

Beberapa bank di seluruh dunia kini mengandalkan algoritma pemeringkatan otomatis yang dapat menganalisis berbagai parameter, termasuk pendapatan, riwayat kredit, dan rasio utang, dalam hitungan detik. Di pasar kredit, alat-alat ini secara signifikan meningkatkan pemrosesan permohonan, terutama untuk kasus-kasus “standar”, seperti kasus-kasus dengan jaminan pinjaman eksplisit.

Namun bagaimana dengan kasus lainnya?

Memformalkan ketidakadilan?

Seperti yang dikemukakan oleh peneliti Amerika Tambari Nuka dan Amos Ogunola, ilusi bahwa algoritma menghasilkan prediksi yang adil dan obyektif menimbulkan risiko besar bagi sektor perbankan.

Meninjau literatur ilmiah, mereka memperingatkan terhadap godaan untuk secara membabi buta mendelegasikan penilaian perilaku manusia yang kompleks ke sistem otomatis. Beberapa bank sentral, termasuk Kanada, juga sangat keberatan dengan hal ini, dan memperingatkan risiko operasional yang terkait dengan ketergantungan yang berlebihan pada AI, khususnya dalam menilai kelayakan kredit dan solvabilitas.

Meskipun secara teknis algoritme bersifat netral, algoritme dapat memperbesar kesenjangan yang ada saat data pelatihan dinodai oleh bias historis, khususnya bias yang diwarisi dari diskriminasi sistemik terhadap kelompok tertentu. Bias ini tidak hanya diakibatkan oleh variabel eksplisit seperti gender atau asal etnis, namun juga dari korelasi tidak langsung dengan faktor seperti tempat tinggal atau jenis pekerjaan.

Studi menunjukkan bahwa AI dapat berkontribusi dalam mereproduksi kesenjangan. (Stok Shutterstock)

Misalnya, sistem pemeringkatan mungkin menetapkan batas kredit yang lebih rendah bagi perempuan, bahkan dalam situasi di mana mereka secara finansial setara dengan laki-laki. Menganalisis variabel seperti kode pos dan riwayat pekerjaan juga dapat menyebabkan pengucilan anggota kelompok yang terpinggirkan, seperti individu yang mengalami ras, pekerja dengan pendapatan tidak tetap, dan imigran baru.

Virginia Eubanks, seorang profesor di Amerika Serikat dan pakar keadilan sosial, menggambarkan fenomena ini dengan baik, menunjukkan bagaimana orang-orang yang tinggal di lingkungan yang secara historis kurang beruntung atau dengan jalur karier yang tidak biasa dikenai sanksi oleh keputusan keuangan otomatis berdasarkan data yang bias.

Hal ini menimbulkan pertanyaan penting:bagaimana kita dapat memastikan bahwa otomatisasi keputusan keuangan membantu mengurangi kesenjangan akses terhadap layanan perbankan?

Memitigasi kesalahan melalui keuangan inklusif

Beberapa cara sedang dijajaki dalam literatur ilmiah untuk menanggapi risiko diskriminasi ini. Nuka dan Ogunola, misalnya, menyarankan pendekatan inklusi keuangan. Hal ini melibatkan penyempurnaan model statistik secara terus-menerus dengan mengidentifikasi dan mengoreksi bias dalam data pelatihan untuk mengurangi disparitas perlakuan antar kelompok sosial.

Selain solusi teknis, kerangka peraturan baru-baru ini telah diterapkan untuk memastikan transparansi dan keadilan algoritma di sektor sensitif seperti keuangan. Undang-undang Kecerdasan Buatan dan Data Kanada dan Undang-Undang Kecerdasan Buatan UE di Eropa adalah contohnya. Kebijakan terakhir ini, yang diadopsi pada tahun 2024 dan diterapkan secara bertahap, menerapkan persyaratan ketat pada sistem AI yang berisiko tinggi, seperti yang digunakan untuk memberikan kredit.

Pasal 13 menetapkan persyaratan transparansi untuk memastikan bahwa sistem dapat diaudit dan keputusannya dapat dipahami oleh seluruh pemangku kepentingan. Tujuannya adalah untuk mencegah diskriminasi algoritmik dan memastikan penggunaan yang etis dan adil. Regulator keuangan juga memiliki peran penting dalam memastikan kepatuhan terhadap aturan persaingan yang sehat dan menjamin praktik yang bijaksana dan transparan demi kepentingan stabilitas keuangan dan perlindungan pelanggan.

Namun, tekanan dari lobi teknologi dan keuangan tertentu untuk memperlambat penerapan standar yang ketat menimbulkan risiko yang signifikan:kurangnya peraturan di beberapa negara dan kesulitan dalam penegakan hukum di negara lain dapat mendorong ketidakjelasan, sehingga merugikan warga negara yang paling rentan.