Potensi Dampak AI pada Perbankan:Mendalami Model Baru Anthropic

Perampok bank legendaris Amerika Willie Sutton menghabiskan 40 tahun merampok bank karena, seperti yang dia nyatakan dalam otobiografinya, dia senang melakukannya. Dan ketika ditanya mengapa dia memilih bank dari semua tempat untuk merampok, dia menjawab, “Karena di sanalah uangnya berada.”

Pada tahun 2017 lalu, saya menulis sebuah buku yang meramalkan bahwa bukan hanya para penyamun seperti Sutton yang akan segera merampok bank, namun juga kecerdasan buatan (AI).

Tampaknya hari itu akan segera tiba. Bank-bank di seluruh dunia sangat khawatir para penjahat dunia maya akan segera memanfaatkan kemajuan terbaru dalam AI untuk mencoba merampok mereka.

Pintu belakang digital menuju brankas

Kekhawatiran dunia keuangan bertumpu pada kemampuan siber yang mengesankan dari produk yang disebut “Mythos”. Ini adalah model AI terbaru dan paling mumpuni dari Anthropic, perusahaan di balik chatbot Claude yang populer.

Sebagai anggota masyarakat, Anda tidak dapat mengakses atau menggunakan model ini – untuk saat ini. Itu karena Anthropic (dan banyak lainnya) percaya bahwa Mythos terlalu mampu untuk diluncurkan ke dunia yang tidak menaruh curiga.

Pengujian internal Mythos telah mengungkap ribuan kerentanan keamanan parah di setiap sistem operasi dan browser web utama.

Beberapa dari kerentanan ini tidak terdeteksi selama beberapa dekade. Banyak di antara mereka yang disebut sebagai kerentanan “zero day” – serangan yang sangat berbahaya sehingga pengembang perlu memperbaikinya dalam waktu singkat.

Dario Amodei, CEO Anthropic, mengatakan model barunya terlalu kuat untuk dirilis ke publik pada tahap ini. Markus Schreiber/AP

Tidak untuk penggunaan umum

Untuk melawan ancaman yang muncul ini, Anthropic telah menyediakan model tersebut kepada selusin mitra koalisi defensif yang mencakup Microsoft, Amazon Web Services, Apple, Cisco, dan Linux Foundation.

Perusahaan juga telah memberikan komitmen sebesar US$100 juta (sekitar A$140 juta) dalam bentuk kredit penggunaan dan US$4 juta (sekitar A$5,6 juta) dalam bentuk hibah sumber terbuka untuk mulai menemukan dan memperbaiki bug ini.

Selain itu, lebih dari 40 organisasi tambahan – termasuk sejumlah bank AS – juga telah menerima akses. Namun yang mengkhawatirkan, sejauh yang kami tahu, Anthropic belum memberikan akses ke bank mana pun di Australia, Inggris, atau Eropa.

Yang menambah kekhawatiran, pada hari Rabu, Anthropic mengonfirmasi bahwa pihaknya sedang menyelidiki klaim dalam laporan Bloomberg bahwa sekelompok kecil pengguna tidak sah telah memperoleh akses ke Mythos. Namun, pada tahap ini, tidak ada dugaan bahwa akses tersebut bertujuan untuk tujuan jahat.

Baca selengkapnya:Claude Mythos dan Project Glasswing:mengapa seorang superhacker AI membuat dunia teknologi waspada

Haruskah Anda khawatir?

Pekan lalu, para regulator dan pembuat kebijakan dari seluruh dunia berkumpul pada pertemuan musim semi Dana Moneter Internasional di Washington. Perang Iran adalah fokus utama. Namun para peserta juga mengeluarkan serangkaian peringatan tentang munculnya ancaman keamanan siber terhadap industri perbankan.

Bank tidak hanya menjadi target yang menarik karena merupakan sumber uang, namun industri ini juga menggunakan banyak sistem lama, yaitu teknologi berusia puluhan tahun yang mungkin sangat rentan terhadap serangan semacam ini.

Anda pribadi tidak perlu terlalu khawatir. Banyak negara memiliki perlindungan yang kuat terhadap nasabah bank. Di Australia, misalnya, simpanan nasabah pertama senilai A$250.000 diasuransikan melalui Skema Klaim Keuangan yang didukung pemerintah.

Dan Komisi Sekuritas dan Investasi Australia memastikan bank menyelidiki dan mengganti biaya transaksi penipuan yang bukan kesalahan nasabah.

Jadi, mungkin bukan ide yang bijaksana untuk menarik uang tunai Anda dan menaruhnya di bawah kasur. Namun bank harus (dan) bergegas untuk mengatasi kerentanan ini.

Saya sarankan Anda memperbarui komputer dan ponsel cerdas Anda secara rutin untuk mendapatkan sistem operasi dan aplikasi perbankan terbaru. Kemungkinan akan ada lebih banyak pembaruan dalam waktu dekat karena kerentanan baru telah ditemukan dan ditambal.

Saya yakin Anda juga harus selalu waspada terhadap serangan phishing melalui email dan SMS yang mencoba mendapatkan kredensial perbankan Anda.

Ketua Federal Reserve AS Jerome Powell termasuk di antara peserta pertemuan musim semi Dana Moneter Internasional di Washington. Shawn Thew/EPA

Lanskap ancaman yang terus berkembang

Dalam jangka panjang, Mythos memaparkan tantangan bahwa bertahan jauh lebih sulit daripada menyerang. Perangkat lunak adalah salah satu produk paling kompleks yang dibuat oleh umat manusia. Oleh karena itu hampir mustahil untuk memastikannya bebas bug.

Hal ini menempatkan kita dalam perlombaan tanpa akhir melawan “orang jahat” untuk mengungkap dan memperbaiki kesalahan sebelum mereka dieksploitasi.

Misalnya, dengan sambutan yang meriah, Uni Eropa baru saja merilis aplikasi verifikasi usia, yang dirancang untuk menjadi landasan bagi undang-undang yang baru muncul mengenai akses ke media sosial, pornografi, dan konten dengan batasan usia lainnya. Namun, dalam beberapa jam, pakar keamanan menemukan kerentanan dunia maya yang dapat dengan mudah dieksploitasi oleh pengguna di bawah umur.

Dalam pengaturan yang paling kritis, kita dapat mencoba membuktikan secara matematis bahwa perangkat lunak kita bebas bug. Misalnya, Beneficial AI Foundation baru saja mengumumkan proyek “moonshot” yang ambisius untuk membuktikan bahwa aplikasi perpesanan populer Signal bebas bug dan melindungi privasi seperti yang diklaim.

Namun upaya tersebut merupakan pengecualian dan bukan hal yang lumrah saat ini. Mungkin kemajuan lebih lanjut dalam AI dapat segera membantu membalikkan keadaan ini.