Claude Mythos угрожает финансовой безопасности? Министр финансов США и председатель ФРС срочно созвали совещание, чтобы предупредить о рисках

Министр финансов США и председатель ФРС экстренно созвали руководителей Уолл-стрит для обсуждения предупреждения от последней модели Anthropic Mythos. Модель официально классифицирована властями как системный риск для финансовой системы.

Финансовые руководители экстренно созвали руководителей Уолл-стрит: рост угрозы со стороны ИИ до уровня системного риска

Согласно сообщению Bloomberg, министр финансов США Скотт Бессент (Scott Bessent) и председатель ФРС Джером Пауэлл (Jerome Powell) на прошлой неделе в Вашингтоне, в штаб-квартире Министерства финансов, экстренно созвали руководителей ключевых банков Уолл-стрит и предупредили о потенциальных рисках кибербезопасности, которые может вызвать последняя модель AI-компании Anthropic — «Claude Mythos Preview».

Среди участников встречи были генеральный директор Citigroup Джейн Фрейзер (Jane Fraser), генеральный директор Morgan Stanley Тед Пик (Ted Pick), генеральный директор Bank of America Брайан Мойнихан (Brian Moynihan), генеральный директор Wells Fargo Чарльз Шарф (Charlie Scharf), а также генеральный директор Goldman Sachs Дэвид Соломон (David Solomon); генеральный директор JPMorgan Джейми Даймон (Jamie Dimon) на встречу прийти не смог. Все указанные организации были отнесены надзорными органами к финансовым институтам системной значимости.

На этой встрече министра финансов и председатель ФРС присутствовали лично, что в отрасли расценили как нечто крайне необычное. Ранее вмешательство правительства в риски, связанные с ИИ, в основном ограничивалось рабочими группами на уровне организаций; теперь же предупреждение на самом высоком уровне финансовых властей стало прямым и недвусмысленным сигналом о том, что власти квалифицировали угрозы со стороны ИИ как системный риск для стабильности финансовой системы.

Возможности модели Mythos впечатляют: она может самостоятельно обнаруживать множество уязвимостей zero-day

Согласно техническим материалам, опубликованным Anthropic в тот же день, Mythos обладает способностью распознавать и использовать уязвимости во всех основных операционных системах и веб-браузерах. На этапе тестирования эта модель самостоятельно нашла тысячи ранее неизвестных уязвимостей zero-day, включая уязвимость, которая скрывалась в безопасной ориентированной открытой операционной системе OpenBSD в течение 27 лет; кроме того, модель также обнаружила уязвимость в библиотеке для обработки видео FFmpeg, которую не смогли выявить даже автоматизированные тестовые инструменты, выполнившие 5M раз программу.

Исследователи Anthropic подчеркивают, что способность Mythos обнаруживать уязвимости проистекает из общего прогресса модели в написании программ, рассуждениях и автономности, а не является результатом целенаправленного обучения.

В заявлении компании отмечается: «Та же способность, которая делает модель более эффективной при исправлении уязвимостей, делает ее и более эффективной при использовании уязвимостей». Эта формулировка подчеркивает двусторонность Mythos: граница между обороной и атакой почти исчезает перед такими моделями.

Anthropic отказывается публично раскрывать и запускает «Project Glasswing», ограничивая доступ

В силу того, что возможности слишком сильны, Anthropic решила не выпускать Mythos публично, выбрав стратегию ограничения доступа — модель будет доступна лишь для ограниченного круга партнерских компаний. В то же время компания объявила о запуске оборонительной программы кибербезопасности под названием «Project Glasswing» («玻璃翼計劃»), в рамках которой совместно с AWS, Apple, Cisco, Google, JPMorgan, Microsoft, NVIDIA и более чем 40 другими корпоративными партнерами ведется работа для того, чтобы до действий атакующих активно находить и исправлять уязвимости в ключевом программном обеспечении.

Источник изображения: X/@AnthropicAI Anthropic одновременно объявила о запуске оборонительной программы кибербезопасности под названием «Project Glasswing» («玻璃翼計劃»)

Anthropic заявляет: «Учитывая силу возможностей модели, мы применяем сдержанный подход к способу выпуска. Мы сейчас сотрудничаем с небольшой группой ранних клиентов, чтобы протестировать эту модель, и считаем, что это самое прорывное поколение, которое мы построили на сегодняшний день».

Также компания раскрыла, что провела брифинги для государственных должностных лиц по сценариям применения Mythos в обороне и нападении, и продолжает консультации с Агентством США по кибербезопасности и безопасности инфраструктуры (CISA) и Центром инноваций в области стандартов ИИ. Внешний интерес в дальнейшем сосредоточится на том, как надзорные органы будут устанавливать стандарты для проверок выпуска подобных моделей, какие конкретные меры защиты должны предпринять финансовые учреждения, и сможет ли координация между международными надзорными структурами идти в ногу с темпом технологического развития.

Этот материал подготовлен с использованием сводных данных от крипто-агентов, а также прошел рецензирование и редактирование «Crypto City»; в настоящее время он находится на стадии обучения и может содержать логические отклонения или информационные ошибки. Контент приводится только для справки и не является инвестиционной рекомендацией.