Powell, Bessent Memperingatkan Bank Tentang Risiko Keamanan dari AI Mythos milik Anthropic: Bloomberg

Singkatnya

• Pejabat AS memperingatkan bank-bank besar tentang risiko siber yang terkait dengan model AI Mythos dari Anthropic, demikian laporan Bloomberg.
• Sistem tersebut dilaporkan dapat mengidentifikasi dan mengeksploitasi kerentanan pada sistem operasi dan browser.
• Anthropic memiliki akses terbatas ke model tersebut saat mengevaluasi potensi risiko keamanan.

Menteri Keuangan AS Scott Bessent dan Ketua Federal Reserve Jerome Powell dilaporkan mengadakan pertemuan dengan para CEO bank Wall Street pada awal minggu ini untuk memperingatkan tentang risiko siber yang terkait dengan model kecerdasan buatan baru dari Anthropic. Menurut laporan dari Bloomberg, pertemuan tersebut melibatkan para eksekutif dari Citigroup, Bank of America, Wells Fargo, Morgan Stanley, dan Goldman Sachs. Para pejabat membahas model AI baru Anthropic bernama Mythos, yang baru-baru ini memicu perhatian luas berkat kemampuan siber canggih yang diduga dimilikinya. Para pejabat mengadakan pertemuan tersebut untuk memastikan bank memahami risiko yang ditimbulkan oleh sistem yang mampu mengidentifikasi dan mengeksploitasi kerentanan perangkat lunak di berbagai sistem operasi dan browser web, serta untuk mendorong institusi memperkuat pertahanan terhadap potensi serangan siber yang dibantu AI dan menargetkan infrastruktur keuangan.

Peneliti keamanan telah memperingatkan bahwa alat yang mampu menemukan kerentanan secara otomatis dapat mempercepat pekerjaan keamanan defensif sekaligus peretasan berbahaya jika disalahgunakan.  Model Mythos dari Anthropic pertama kali muncul di internet pada bulan Maret setelah draf materi tentang sistem tersebut bocor secara online, yang mengungkap apa yang dijelaskan perusahaan sebagai model AI paling mumpuni yang pernah mereka miliki. Dalam pengujian, sistem tersebut dilaporkan menemukan ribuan kerentanan perangkat lunak yang sebelumnya tidak diketahui, termasuk celah zero-day di berbagai sistem operasi besar dan browser web. Para peneliti Anthropic mengatakan dalam sebuah laporan awal minggu ini bahwa kemampuan penemuan kerentanan Mythos Preview tidak dilatih secara sengaja, melainkan muncul dari peningkatan yang lebih luas pada kemampuan pengkodean, penalaran, dan otonomi model tersebut.

“Perbaikan yang sama yang membuat model secara substansial lebih efektif dalam menambal kerentanan juga membuatnya secara substansial lebih efektif dalam mengeksploitasinya,” tulis perusahaan itu. Karena kemampuan tersebut, Anthropic telah membatasi akses ke model hanya untuk kelompok kecil organisasi keamanan siber. “Dengan kekuatan kapabilitasnya, kami bersikap selektif tentang cara kami merilisnya,” kata Anthropic dalam sebuah pernyataan. “Sebagaimana praktik standar di seluruh industri, kami bekerja dengan sekelompok kecil pelanggan early access untuk menguji modelnya. Kami menganggap model ini sebagai lompatan perubahan dan yang paling mampu yang telah kami bangun hingga saat ini.” Untuk mengatasi risiko tersebut, Anthropic sedang menguji Mythos melalui Project Glasswing, sebuah kolaborasi dengan perusahaan teknologi dan keamanan siber besar yang menggunakan model untuk mengidentifikasi dan menambal kerentanan dalam perangkat lunak kritis sebelum penyerang dapat mengeksploitasinya. “Project Glasswing adalah titik awal. Tidak ada satu organisasi pun yang bisa menyelesaikan masalah keamanan siber ini sendiri,” kata perusahaan itu dalam sebuah pernyataan. “Pengembang Frontier AI, perusahaan perangkat lunak lain, peneliti keamanan, pengelola open-source, dan pemerintah di seluruh dunia semuanya memiliki peran penting untuk dimainkan.” Anthropic belum segera menanggapi permintaan komentar dari Decrypt.