Menteri Keuangan Amerika Serikat dan Ketua Federal Reserve secara mendesak memanggil para eksekutif papan atas di Wall Street untuk menanggapi peringatan dari model terbaru Anthropic, Mythos. Model tersebut dinyatakan oleh otoritas sebagai risiko sistemik terhadap sistem keuangan.
Pejabat keuangan mengumpulkan eksekutif Wall Street secara mendesak, ancaman jaringan AI ditingkatkan menjadi risiko sistemik
Menurut laporan dari Bloomberg, Menteri Keuangan AS Steven Scott Bessent dan Ketua Federal Reserve Jerome Powell pada pekan lalu secara mendesak mengumpulkan para CEO bank-bank utama di Washington, D.C., di kantor pusat Departemen Keuangan, untuk menyampaikan peringatan terkait risiko keamanan siber yang mungkin dipicu oleh model terbaru AI company Anthropic, “Claude Mythos Preview”.
Para eksekutif bank yang hadir dalam rapat tersebut meliputi CEO Citigroup Jane Fraser, CEO Morgan Stanley Ted Pick, CEO Bank of America Brian Moynihan, CEO Wells Fargo Charlie Scharf, serta CEO Goldman Sachs David Solomon; CEO JPMorgan Jamie Dimon tidak dapat hadir. Lembaga-lembaga tersebut semuanya terdaftar oleh otoritas pengawas sebagai lembaga keuangan yang bersifat penting secara sistemik.
Rapat ini dihadiri langsung oleh Menteri Keuangan dan Ketua Federal Reserve, yang dipandang oleh kalangan industri sebagai langkah yang tidak biasa. Intervensi pemerintah terhadap risiko AI pada masa lalu sebagian besar hanya berada pada level satuan kerja kelompok kerja di tingkat institusi; kini, hal tersebut langsung dinaikkan menjadi peringatan yang disampaikan secara langsung oleh para pemimpin tertinggi otoritas keuangan, yang dengan jelas menunjukkan bahwa otoritas telah menetapkan ancaman jaringan AI sebagai risiko sistemik terhadap stabilitas sistem keuangan.
Kemampuan model Mythos yang luar biasa, dapat menemukan banyak celah zero-day secara mandiri
Berdasarkan materi teknis yang dipublikasikan oleh Anthropic pada hari yang sama, Mythos memiliki kemampuan untuk mengidentifikasi dan memanfaatkan celah di semua sistem operasi dan peramban web arus utama. Dalam tahap pengujian, model tersebut secara mandiri menemukan ribuan celah zero-day yang sebelumnya tidak diketahui (zero-day vulnerabilities), termasuk sebuah celah yang telah bersembunyi selama 27 tahun dalam sistem operasi sumber terbuka yang berorientasi keamanan OpenBSD; selain itu, model tersebut juga menemukan sebuah celah di pustaka pengolahan video FFmpeg yang bahkan tidak dapat terdeteksi oleh alat uji otomatis setelah menjalankan 5.000.000 kali proses.
Peneliti Anthropic menekankan bahwa kemampuan Mythos dalam menemukan celah berasal dari kemajuan menyeluruh model dalam penulisan program, penalaran, dan otonomi, bukan merupakan hasil pelatihan yang disengaja.
Perusahaan tersebut dalam pernyataannya menyatakan, “Kemampuan yang sama yang membuat model lebih efektif dalam menambal celah juga membuatnya lebih efektif dalam mengeksploitasi celah.” Pernyataan ini menonjolkan sifat dua sisi Mythos: batas antara pertahanan dan serangan nyaris lenyap di hadapan model-model seperti ini.
Anthropic menolak memublikasikan secara terbuka, membatasi akses melalui “Project Glasswing”
Karena kemampuannya terlalu kuat, Anthropic memutuskan untuk tidak merilis Mythos secara terbuka kepada publik, melainkan menerapkan strategi pembatasan akses, hanya untuk digunakan oleh perusahaan mitra tertentu. Perusahaan tersebut sekaligus mengumumkan dimulainya program kemitraan keamanan siber defensif bernama “Project Glasswing” (玻璃翼計劃), bekerja sama dengan lebih dari 40 mitra perusahaan seperti AWS, Apple, Cisco, Google, JPMorgan, Microsoft, dan Nvidia, dengan tujuan untuk secara proaktif menemukan dan memperbaiki celah dalam perangkat lunak kunci sebelum pelaku serangan mengambil tindakan.
Sumber gambar: X/@AnthropicAI Anthropic secara bersamaan mengumumkan dimulainya program kemitraan keamanan siber defensif bernama “Project Glasswing” (玻璃翼計劃)
Anthropic menyatakan, “Mengingat kemampuan model yang sangat kuat, kami mengambil sikap kehati-hatian dalam cara merilisnya. Kami saat ini bekerja sama dengan sekelompok kecil pelanggan akses awal untuk menguji model tersebut, dan kami menganggap ini adalah generasi paling terobosan yang telah kami bangun sejauh ini.”
Perusahaan tersebut juga mengungkapkan bahwa mereka telah melakukan pemaparan tentang skenario penerapan ofensif dan defensif Mythos kepada pejabat pemerintah, serta terus berkoordinasi dengan U.S. Cybersecurity and Infrastructure Security Agency (CISA) dan AI Standards Innovation Center. Fokus yang kemudian menjadi perhatian publik adalah bagaimana lembaga regulasi akan menyusun standar peninjauan rilis untuk model-model serupa, langkah-langkah pertahanan spesifik apa yang harus diambil oleh lembaga keuangan, serta apakah koordinasi antar lembaga regulasi internasional dapat mengejar kecepatan evolusi teknologi.
Konten ini dirangkum oleh Agent terenkripsi dari berbagai pihak, disunting dan diedit oleh《加密城市》, dan saat ini masih dalam tahap pelatihan. Mungkin terdapat bias logika atau kesalahan informasi; konten ini hanya untuk referensi, harap jangan menganggapnya sebagai nasihat investasi.
