Menteri Keuangan AS dan Ketua Federal Reserve secara darurat mengumpulkan para eksekutif tingkat atas di Wall Street untuk memperingatkan model terbaru Anthropic, Mythos. Model tersebut ditetapkan oleh pihak berwenang sebagai risiko sistemik bagi sistem keuangan.
Para pejabat keuangan mengumpulkan para eksekutif Wall Street secara darurat, ancaman jaringan AI dinaikkan menjadi risiko sistemik
Menurut laporan dari《Bloomberg》, Menteri Keuangan AS Scott Bessent dan Ketua Federal Reserve Jerome Powell pada pekan lalu secara darurat mengumpulkan para CEO bank-bank utama di Washington, D.C., di kantor pusat Departemen Keuangan AS, untuk menyampaikan peringatan terkait potensi risiko keamanan siber yang dapat ditimbulkan oleh model terbaru AI Anthropic, “Claude Mythos Preview”.
Pihak yang hadir dalam rapat tersebut mencakup CEO Citigroup Jane Fraser, CEO Morgan Stanley Ted Pick, CEO Bank of America Brian Moynihan, CEO Wells Fargo Charlie Scharf, serta CEO Goldman Sachs David Solomon; sedangkan CEO JPMorgan Jamie Dimon tidak dapat hadir. Semua institusi tersebut telah ditetapkan oleh otoritas pengawas sebagai lembaga keuangan yang memiliki kepentingan sistemik.
Rapat kali ini dihadiri langsung oleh Menteri Keuangan dan Ketua Federal Reserve, yang dinilai oleh kalangan industri sebagai tindakan yang tidak biasa. Intervensi pemerintah terhadap risiko AI di masa lalu umumnya terbatas pada kelompok kerja di tingkat institusi; kini, hal tersebut ditingkatkan langsung menjadi peringatan yang disampaikan oleh kepala otoritas keuangan tertinggi, yang dengan jelas mengisyaratkan bahwa pihak berwenang telah mengklasifikasikan ancaman jaringan AI sebagai risiko sistemik terhadap stabilitas sistem keuangan.
Kemampuan model Mythos luar biasa, dapat secara mandiri menemukan banyak celah zero-day
Menurut data teknis yang dipublikasikan oleh Anthropic pada hari yang sama, Mythos memiliki kemampuan untuk mengidentifikasi dan memanfaatkan celah di semua sistem operasi arus utama serta peramban web. Pada tahap pengujian, model tersebut secara mandiri menemukan ribuan celah zero-day yang sebelumnya tidak diketahui, termasuk sebuah celah yang telah mengendap selama 27 tahun dalam sistem operasi sumber terbuka yang berorientasi keamanan OpenBSD; selain itu, model tersebut juga menemukan celah dalam pustaka pemrosesan video FFmpeg yang bahkan tidak terdeteksi oleh alat uji otomatis setelah menjalankan 5.000.000 kali proses.
Peneliti Anthropic menekankan bahwa kemampuan Mythos dalam menemukan celah bersumber dari kemajuan menyeluruh model dalam penulisan program, penalaran, dan kemandirian, bukan hasil pelatihan yang disengaja.
Dalam pernyataannya, perusahaan tersebut menyatakan, “Kemampuan yang sama yang membuat model lebih efektif dalam menambal celah juga membuatnya lebih efektif dalam memanfaatkan celah.” Pernyataan ini menonjolkan sifat ganda Mythos: batas antara pertahanan dan serangan hampir lenyap di hadapan model-model seperti ini.
Anthropic menolak mempublikasikan secara terbuka, membatasi akses melalui “Project Glasswing”
Karena kemampuannya terlalu kuat, Anthropic memutuskan untuk tidak merilis Mythos secara terbuka kepada publik, melainkan menerapkan strategi pembatasan akses, hanya dibuka untuk digunakan oleh perusahaan mitra tertentu. Perusahaan tersebut sekaligus mengumumkan dimulainya rencana kerja sama keamanan siber defensif bernama “Project Glasswing”, bekerja sama dengan lebih dari 40 mitra perusahaan seperti AWS, Apple, Cisco, Google, JPMorgan, Microsoft, NVIDIA, dan lainnya, dengan tujuan secara proaktif menemukan dan menambal celah dalam perangkat lunak penting sebelum pelaku serangan bertindak.
Sumber gambar: X/@AnthropicAI Anthropic juga mengumumkan dimulainya rencana kerja sama keamanan siber defensif bernama “Project Glasswing”
Anthropic menyatakan, “Mengingat kekuatan kemampuan model tersebut, kami mengambil sikap yang hati-hati dalam cara kami merilisnya. Kami sedang bekerja sama dengan sekelompok kecil pelanggan akses awal untuk menguji model tersebut, dan kami meyakini ini adalah generasi paling inovatif yang berhasil kami bangun sejauh ini.”
Perusahaan tersebut juga mengungkapkan bahwa mereka telah melakukan presentasi kepada pejabat pemerintah terkait skenario penerapan ofensif dan defensif Mythos, serta terus berkoordinasi dengan Badan Keamanan Siber dan Infrastruktur AS (CISA) dan Pusat Inovasi Standar AI. Perhatian yang kemudian menjadi fokus pihak luar adalah bagaimana lembaga pengawas akan menyusun standar peninjauan rilis untuk model-model serupa, langkah-langkah pertahanan spesifik apa yang harus diambil oleh lembaga keuangan, serta apakah koordinasi di antara lembaga pengawas internasional dapat menyusul kecepatan evolusi teknologi.
Artikel ini disusun oleh agregator Agent terenkripsi yang merangkum informasi dari berbagai pihak, dengan penelaahan serta penyuntingan oleh《Kota Enkripsi》; saat ini masih dalam tahap pelatihan, sehingga mungkin terdapat penyimpangan logika atau kesalahan informasi. Konten ini hanya untuk referensi, dan mohon jangan menganggapnya sebagai nasihat investasi.
