Клод Мифос угрожает финансовой безопасности? Министр финансов США и глава ФРС срочно созывают совещание, предупреждая о рисках

Министр финансов США и председатель Федеральной резервной системы экстренно созвали руководителей Уолл-стрит, чтобы предупредить о последних разработках Anthropic модели Mythos. По оценке властей, эта модель представляет системный риск для финансовой системы.

Финансовые руководители экстренно созвали руководителей Уолл-стрит: угрозы со стороны ИИ перешли в категорию системного риска

Согласно сообщению Bloomberg, министр финансов США Скотт Бессент (Scott Bessent) и председатель Федеральной резервной системы Джером Пауэлл (Jerome Powell) на прошлой неделе в Вашингтоне, в штаб-квартире Министерства финансов, экстренно созвали глав исполнительных директоров ведущих банков, чтобы предупредить о возможных рисках кибербезопасности, которые может вызвать последний модельный релиз Anthropic «Claude Mythos Preview».

Среди присутствовавших руководителей банков были генеральный директор Citigroup Джейн Фрейзер (Jane Fraser), генеральный директор Morgan Stanley Тед Пик (Ted Pick), генеральный директор Bank of America Брайан Мойнихан (Brian Moynihan), генеральный директор Wells Fargo Чарльз Шарф (Charlie Scharf) и генеральный директор Goldman Sachs Дэвид Соломон (David Solomon); генеральный директор JPMorgan Джейми Даймон (Jamie Dimon) не смог присутствовать. Все эти организации были отнесены надзорными органами к финансовым учреждениям системной важности.

На встрече министра финансов и председателя Федеральной резервной системы присутствовали лично, что в отрасли рассматривают как крайне необычный шаг. Вмешательства правительства в риски, связанные с ИИ, в прошлом чаще ограничивались работой целевых групп на уровне организаций; теперь же предупреждение напрямую озвучил лично высший руководитель финансовых властей, что ясно демонстрирует: власти квалифицировали ИИ-киберугрозы как системный риск для стабильности финансовой системы.

Способности модели Mythos впечатляют: она способна самостоятельно находить множество уязвимостей с нулевым днём

Согласно техническим материалам, опубликованным Anthropic в тот же день, Mythos обладает способностью выявлять и использовать уязвимости во всех основных операционных системах и веб-браузерах. На этапе тестирования модель самостоятельно обнаружила тысячи ранее неизвестных уязвимостей с нулевым днём (zero-day vulnerabilities), включая уязвимость, которая более 27 лет скрывалась в ориентированной на безопасность системе с открытым исходным кодом OpenBSD; кроме того, модель также выявила уязвимость в медиакодеков и обработочных библиотеках FFmpeg, которую не удавалось обнаружить даже после выполнения программы 5M раз с помощью автоматизированных инструментов тестирования.

Исследователи Anthropic подчеркивают, что способность Mythos находить уязвимости обусловлена общим прогрессом модели в программировании, рассуждениях и автономности, а не является результатом целенаправленного обучения.

В заявлении компания отметила: «Та же способность, которая делает модель более эффективной при исправлении уязвимостей, делает ее столь же более эффективной при использовании уязвимостей». Эта формулировка подчеркивает двойственность Mythos: граница между обороной и атакой почти исчезает перед подобными моделями.

Anthropic отказалась публиковать результаты, ограничив доступ в рамках «Project Glasswing»

Поскольку возможности слишком сильны, Anthropic решила не публиковать Mythos публично и выбрала стратегию ограничения доступа, предоставив его только определенным партнерским компаниям. Компания одновременно объявила о запуске оборонительной программы кибербезопасности под названием «Project Glasswing» («玻璃翼計劃»), в рамках которой более 40 партнеров, включая AWS, Apple, Cisco, Google, JPMorgan, Microsoft, NVIDIA и др., будут сотрудничать с целью до того, как атакующие нанесут удар, заранее находить и устранять уязвимости в ключевом программном обеспечении.

Источник изображения: X/@AnthropicAI Anthropic одновременно объявила о запуске оборонительной программы кибербезопасности под названием «Project Glasswing» («玻璃翼計劃»)

Anthropic заявляет: «Учитывая исключительную силу возможностей модели, мы подходим к ее публикации с осторожностью. Мы работаем с небольшой группой первых клиентов с ранним доступом, тестируем эту модель и считаем, что это самое прорывное поколение, которое мы создали на сегодняшний день».

Компания также раскрыла, что провела брифинги для правительственных чиновников по сценариям применения Mythos как в атакующих, так и в оборонительных целях, и продолжает переговоры с Агентством по кибербезопасности и безопасности инфраструктуры США (CISA) и Центром инноваций по AI-стандартам. В центре внимания дальнейших обсуждений будет то, как регулирующие органы определят стандарты предварительной проверки релизов для подобных моделей, какие конкретные меры защиты должны принять финансовые учреждения, и сможет ли координация между международными регулирующими структурами идти в ногу со скоростью технической эволюции.

Данный материал скомпилирован крипто-агентом, подготовлен и отредактирован «加密城市», в настоящее время находится на стадии обучения, возможны логические отклонения или ошибки в информации; материал предназначен только для справки и не является инвестиционной рекомендацией.