Menteri Keuangan AS dan Ketua Federal Reserve secara mendesak memanggil para pemimpin puncak di Wall Street, terkait peringatan dari model terbaru Anthropic Mythos. Pihak berwenang menetapkan bahwa model tersebut merupakan risiko sistemik bagi sistem keuangan.
Para pejabat keuangan menggelar rapat darurat dengan para pemimpin Wall Street, ancaman jaringan AI dinaikkan menjadi risiko sistemik
Menurut laporan Bloomberg, Menteri Keuangan AS Scott Bessent dan Ketua Federal Reserve Jerome Powell minggu lalu secara darurat memanggil para CEO bank-bank utama di markas Kementerian Keuangan di Washington, D.C., untuk menyampaikan peringatan mengenai potensi risiko keamanan siber yang dapat ditimbulkan oleh model terbaru AI dari perusahaan Anthropic, “Claude Mythos Preview”.
Pimpinan bank yang hadir dalam rapat tersebut antara lain Jane Fraser, CEO Citigroup; Ted Pick, CEO Morgan Stanley; Brian Moynihan, CEO Bank of America; Charlie Scharf, CEO Wells Fargo; serta David Solomon, CEO Goldman Sachs; sedangkan Jamie Dimon, CEO JPMorgan, tidak dapat hadir. Lembaga-lembaga tersebut semuanya telah dikategorikan oleh otoritas pengawas sebagai lembaga keuangan yang memiliki kepentingan sistemik.
Rapat ini dihadiri langsung oleh Menteri Keuangan dan Ketua Federal Reserve, yang dinilai oleh kalangan industri sebagai tindakan yang sangat tidak biasa. Intervensi pemerintah terhadap risiko AI di masa lalu sebagian besar masih sebatas gugus tugas di tingkat institusi; kini justru meningkat menjadi peringatan langsung dari para pemimpin tertinggi otoritas keuangan, yang secara jelas menunjukkan bahwa otoritas telah menetapkan ancaman siber AI sebagai risiko sistemik terhadap stabilitas sistem keuangan.
Kemampuan model Mythos mengesankan, dapat secara mandiri menemukan banyak celah zero-day
Berdasarkan materi teknis yang dirilis Anthropic pada hari yang sama, Mythos memiliki kemampuan untuk mengidentifikasi dan mengeksploitasi celah pada semua sistem operasi utama dan peramban web. Pada tahap pengujian, model tersebut secara mandiri menemukan ribuan celah zero-day yang sebelumnya belum diketahui (zero-day vulnerabilities), termasuk celah yang sudah mengintai selama 27 tahun dalam sistem operasi open-source berorientasi keamanan OpenBSD; selain itu, model tersebut juga menemukan celah dalam pustaka pemrosesan video FFmpeg yang bahkan tidak dapat terdeteksi meskipun dijalankan melalui alat uji otomatis sebanyak 5 juta kali prosedur.
Peneliti Anthropic menekankan bahwa kemampuan Mythos dalam menemukan celah berasal dari kemajuan menyeluruh model dalam penulisan program, penalaran, dan otonomi, bukan merupakan hasil dari pelatihan yang secara sengaja ditujukan untuk hal tersebut.
Perusahaan tersebut dalam pernyataannya menyatakan, “Kemampuan yang sama yang membuat model menjadi lebih efektif dalam memperbaiki celah, juga membuatnya menjadi lebih efektif dalam memanfaatkan celah.” Pernyataan ini menonjolkan sifat ganda Mythos: batas antara pertahanan dan serangan nyaris lenyap di hadapan model semacam ini.
Anthropic menolak untuk mempublikasikan peluncuran “Project Glasswing” yang membatasi akses
Karena kemampuannya terlalu kuat, Anthropic memutuskan untuk tidak merilis Mythos ke publik, melainkan menerapkan strategi pembatasan akses, hanya dibuka untuk digunakan oleh perusahaan mitra tertentu. Perusahaan tersebut sekaligus mengumumkan peluncuran program kerja sama keamanan siber defensif bernama “Project Glasswing”, bekerja sama dengan lebih dari 40 mitra perusahaan seperti AWS, Apple, Cisco, Google, JPMorgan, Microsoft, NVIDIA, dan lain-lain, dengan tujuan untuk secara proaktif menemukan dan menambal celah pada perangkat lunak kunci sebelum pelaku serangan bergerak.
Sumber gambar: X/@AnthropicAI Anthropic sekaligus mengumumkan peluncuran program kerja sama keamanan siber defensif bernama “Project Glasswing”
Anthropic menyatakan, “Mengingat kemampuan model yang begitu kuat, kami mengambil sikap hati-hati dalam cara kami merilisnya. Kami sedang bekerja sama dengan sekelompok kecil pelanggan akses awal untuk menguji model ini, dan kami menganggap ini sebagai generasi paling inovatif yang telah kami bangun hingga saat ini.”
Perusahaan tersebut juga mengungkapkan bahwa mereka telah melakukan presentasi kepada pejabat pemerintah mengenai skenario penerapan pertahanan dan serangan dari Mythos, serta terus berunding dengan Badan Keamanan Siber dan Infrastruktur (CISA) AS serta Pusat Inovasi Standar AI. Fokus perhatian pihak eksternal selanjutnya terpusat pada bagaimana lembaga pengawas akan menetapkan standar peninjauan rilis untuk model-model serupa, tindakan pertahanan spesifik apa yang perlu dilakukan oleh lembaga keuangan, serta apakah koordinasi antar lembaga pengawas internasional dapat mengimbangi kecepatan evolusi teknologi.
Konten dalam artikel ini dirangkum oleh Agent terenkripsi dari berbagai pihak, disunting dan diedit oleh 《加密城市》, saat ini masih dalam tahap pelatihan, sehingga mungkin terdapat penyimpangan logika atau kesalahan informasi; konten ini hanya untuk referensi, mohon jangan menganggapnya sebagai nasihat investasi.
