AI compliant assets, quantum is "re-evaluating"

Статья: Чжан Фэн

В настоящее время искусственный интеллект беспрецедентно глубоко внедряется в общественное производство и повседневную жизнь, а его система безопасности и управления становится фундаментом цифровой эпохи. Однако революция вычислительных мощностей, берущая начало в физических принципах, — квантовые вычисления — незаметно приближается. Ее потенциальная разрушительная сила ставит существующие рубежи безопасности и рамки управления перед серьезным испытанием. Могут ли квантовые вычисления опрокинуть существующие системы безопасности и управления для ИИ? Это не только технический вопрос, но и всеобъемлющий вызов, касающийся порядка в будущем цифровом обществе. Когда скачок вычислительных мощностей сталкивается с отставанием правил, как нам заранее подготовиться к «Q-Day»?

一、Как квантовые вычисления угрожают широко используемым сегодня асимметричным алгоритмам шифрования?

Безопасность текущих ИИ-систем — от передачи модели, хранения данных до аутентификации личности — в высокой степени опирается на асимметричные алгоритмы шифрования, представленные RSA, ECC (шифрование эллиптических кривых). Безопасность этих алгоритмов основывается на «вычислительной сложности» математических задач вроде «разложения больших чисел» или «дискретного логарифмирования», которые классическим компьютерам невозможно решить за приемлемое время.

Однако квантовые вычисления приносят фундаментальный сменный парадигмы. Квантовые алгоритмы, представленные алгоритмом Шора, теоретически способны снизить время решения этих задач с экспоненциального уровня до полиномиального. В обзоре статьи отмечается, что новейшие квантовые алгоритмы, включая алгоритм Ривджа и его расширения, постоянно оптимизируют эффективность взлома асимметричного криптографического шифрования. Это означает: как только появится достаточно масштабный (обычно речь о наличии нескольких миллионов устойчивых квантовых битов) универсальный квантовый компьютер, «замки», защищающие сегодня интернет-коммуникации, цифровые подписи и зашифрованные данные, могут быть вскрыты мгновенно.

Эта угроза вовсе не так уж далека. Исследования сообщества «Zhiyuan» предупреждают, что это угроза «прямо сейчас»: злоумышленники могут уже сейчас перехватывать и сохранять зашифрованные данные (включая данные для обучения ИИ, параметры моделей и т. п.), а затем дождаться созревания квантовых компьютеров, чтобы выполнить расшифровку. Такая стратегия «сначала перехват, затем расшифровка» подвергает риску все высокоценные сведения, которые требуют длительного сохранения в тайне, включая государственные секреты, коммерческие патенты и персональные данные. Поэтому угроза квантовых вычислений асимметричному шифрованию является базовой и системной, напрямую подрывая основу текущей безопасности ИИ и даже всего мира цифровых технологий.

二、Какие новые вызовы возникают для обучения ИИ-моделей и защиты приватности данных перед лицом квантовых вычислений?

Развитие ИИ зависит от скармливания больших объемов данных и обучения сложных моделей. Сам этот процесс уже полон вызовов для приватности и безопасности. Вмешательство квантовых вычислений делает эти вызовы еще более острыми и сложными.

Во-первых, ломается длительная конфиденциальность на уровне жизненного цикла данных. Как отмечалось выше, текущие наборы данных для обучения ИИ, которые зашифрованы в облаке или при передаче, могут быть полностью раскрыты из-за будущей квантовой расшифровки. Глобальная антиквантовая миграционная стратегия, изложенная в официальном белом документе Сианьцзяо-Ливерпульского университета, прямо указывает, что оппоненты по всему миру организованно реализуют эту стратегию «сбора данных», терпеливо ожидая наступления «Q-Day» — дня практического применения квантовых компьютеров. Это создает первичную угрозу для ИИ-моделей, обучающихся на чувствительных данных (таких как медицинские записи, финансовая информация, биометрические признаки).

Во-вторых, технологии приватных вычислений, такие как федеративное обучение, сталкиваются с новыми испытаниями. Федеративное обучение защищает исходные данные, обучая модель локально и обновляя только параметры модели при обмене. Однако сама информация о градиентах или обновлениях параметров во время таких взаимодействий также передается в зашифрованном виде. Если базовое шифрование будет взломано квантовыми вычислениями, злоумышленник сможет восстановить исходные характеристики данных участников путем обратного вывода, что сведет защитный механизм приватности к формальности.

Наконец, усложняются кража модели и защита интеллектуальной собственности. Обученная и зрелая ИИ-модель является ключевым активом компании. Сейчас веса и архитектура модели обычно распространяются и развертываются с использованием шифрования. Квантовые вычисления могут сделать эти меры защиты неэффективными, что приведет к легкому копированию модели, обратной инженерии или подмене, вызывая серьезные нарушения прав интеллектуальной собственности и уязвимости безопасности. В «Синей книге по управлению искусственным интеллектом» Китайского института исследований в области информационно-коммуникационных технологий подчеркивается, что управление ИИ должно отвечать рискам, таким как злоупотребление технологиями и безопасность данных, а квантовые вычисления, безусловно, многократно усиливают разрушительную силу этих рисков.

三、Как развитие квантового машинного обучения повлияет на рамки безопасности и этической экспертизы ИИ?

Сочетание квантовых вычислений и ИИ — квантовое машинное обучение (QML) — предвещает новый виток прорывов по эффективности. Но вместе с тем оно порождает беспрецедентные проблемы безопасности и этики, которые бросают вызов существующим рамкам проверки.

На уровне безопасности QML может привести к появлению более мощных инструментов атак. Например, квантовые алгоритмы способны существенно ускорить генерацию атакующих (adversarial) образцов, создавая более скрытые и разрушительные атаки, из-за которых текущие системы защиты ИИ, основанные на классических вычислениях (такие как adversarial training, обнаружение аномалий), быстро устареют. Анализ называет «квант + ИИ» следующей ареной жизни и смерти в кибербезопасности и отмечает, что необходимо заблаговременно усовершенствовать соответствующие регуляторные рамки.

На этическом уровне «черный ящик» QML может оказаться еще более трудным для понимания, чем классический ИИ. Его процесс принятия решений опирается на квантовую суперпозицию и запутанные состояния, поэтому его сложнее объяснить, проверить и привлечь к ответственности. Этические споры и риски, связанные с алгоритмической справедливостью, разграничением ответственности и технологической управляемостью, уже получили широкое обсуждение. Как существующие этические принципы ИИ (например, прозрачность, справедливость, подотчетность) будут реализованы на квантовом масштабе? Как регуляторы будут проверять модель принятия решений на основе квантовых схем, которая может находиться в суперпозиции множества состояний? Это сложные вопросы, к которым существующие рамки этической экспертизы пока не готовы. Модель управления должна сместиться от простой технической комплаентности к более глубокому пониманию квантовых особенностей и их общественного воздействия.

四、Сможет ли действующее законодательство по управлению ИИ (например, GDPR) справиться с изменениями безопасности, вызванными квантовыми вычислениями?

Действующие нормативы по управлению ИИ и данным, представленные Регламентом ЕС по общим данным (GDPR), сохраняют ценность на уровне принципов — таких как «защита по замыслу и по умолчанию», «минимизация данных», «ограничение хранения», «целостность и конфиденциальность». Однако в плане конкретной технической реализации и требований к соблюдению требований они сталкиваются с «разрывом комплаентности», вызванным квантовыми вычислениями.

GDPR требует, чтобы контролеры данных принимали надлежащие технические и организационные меры для обеспечения безопасности данных. Но в условиях квантовой угрозы что считать «надлежащими» мерами шифрования? Продолжение использования алгоритмов, доказанно небезопасных для квантовой среды, вероятно будет признано несоблюдением обязанности по обеспечению безопасности в будущем. Как эффективно выполнить требования законодательства по срокам уведомления о утечке данных, если речь идет о высокоуровневых атаках, которые используют квантовые вычисления, могут завершиться мгновенно и не оставят следов?

В глобальном масштабе законодатели уже осознали необходимость перемен. «Годовой доклад по глобальному управлению искусственным интеллектом за 2025 год» показывает, что страны ускоряют разработку специальных законов по управлению ИИ и создают координационные органы высокого уровня. В «Докладе о развитии цифрового Китая (2024)» Китай подчеркивает необходимость «ускорить совершенствование института базовых данных» и продолжать продвигать инициативу «искусственный интеллект +». Эти тенденции указывают на то, что система управления активно корректируется. Однако нормативы, направленные именно на пересечение «квантовые вычисления + ИИ», на данный момент практически отсутствуют. В действующих нормативных актах недостаточно прописаны конкретные вопросы, такие как временные планы миграции в постквантовой криптографии, стандарты аудита моделей QML, а также классификация уровней безопасности данных в эпоху квантовых технологий. Из-за этого они трудно приспособятся к надвигающимся изменениям в сфере безопасности.

五、Каковы перспективы применения постквантовой криптографии в ИИ-системах и сложность внедрения?

Самое прямое техническое решение для противодействия квантовым угрозам — постквантовая криптография (PQC). PQC — это криптографические алгоритмы, способные противостоять атакам со стороны квантовых компьютеров. Они не основаны на квантовых принципах, а опираются на новые математические задачи (такие как решетки, кодирование, много переменных и т. п.), которые, как считается, трудно быстро решать даже квантовым компьютерам.

Перспективы применения PQC в ИИ-системах широки и при этом особенно срочны. PQC можно использовать для защиты каждого этапа ИИ-рабочего процесса: шифровать обучающие данные и файлы моделей алгоритмами PQC; применять цифровые подписи PQC для проверки целостности и подлинности источника модели; создавать защищенные каналы связи PQC между распределенными узлами ИИ-вычислений. Fortinet указывает, что PQC — это не далекая теория, а практичное решение, необходимое прямо сейчас, чтобы защитить цифровые системы от потенциальных квантовых угроз.

Однако для полного внедрения PQC существует ряд существенных трудностей:

Вызовы по производительности и совместимости: многие алгоритмы PQC имеют гораздо больший размер ключей, длину подписи или вычислительные издержки по сравнению с существующими алгоритмами. При интеграции их в процессы обучения и инференса ИИ, чувствительные к эффективности вычислений и задержкам, возможны узкие места по производительности. При этом нужно обновить все соответствующие аппаратные средства, программное обеспечение и протокольный стек, чтобы обеспечить совместимость.

Сложность стандартов и миграции: хотя такие организации, как NIST в США, продвигают стандартизацию PQC, определение окончательных стандартов и достижение глобальной унификации все равно требует времени. В динамике, опубликованной Пекинским управлением по коммерческой шифровальной промышленности (密管局) в рубрике «передовые тенденции в коммерческой криптографии», показано, что отрасль активно открывает исходные коды для реализации кандидатов NIST-алгоритмов, чтобы помогать различным отраслям отвечать на угрозы. Весь процесс миграции — это масштабный и сложный системный проект, включающий оценку рисков, выбор алгоритмов, смешанное развертывание, тестирование и всеобъемлющую замену. Для структурно сложной экосистемы ИИ это особенно актуально.

Новые риски безопасности: сами алгоритмы PQC — относительно новая область исследований, и их долгосрочная надежность еще не прошла такие же практические испытания, как RSA, которые длились десятилетиями. Развертывание в ИИ-системах PQC, в которых могут быть неизвестные уязвимости, из-за поспешного внедрения, само по себе является риском.

六、Перед лицом этих перемен пассивное ожидание «Q-Day» опасно

Деструктивное влияние квантовых вычислений на существующие системы безопасности и управления ИИ — реально и надвигается. Речь не идет о полном обрушении существующей системы. Скорее, благодаря разрушению ее криптографической основы, увеличению рисков для данных, усложнению этических проблем и проявлению отставания законодательства, весь механизм вынужден пройти глубокое и дальновидное обновление.

Ожидать в пассивном режиме «Q-Day» — опасно. Мы рекомендуем предпринять следующие выполнимые шаги:

Запустить оценку квантовых рисков безопасности и составить перечень: немедленно провести оценку квантовых угроз по ключевым ИИ-активам (особенно по моделям и данным, связанным с долгосрочно чувствительной информацией), определить наиболее уязвимые звенья и сформировать перечень приоритетов миграции.

Разработать и внедрить дорожную карту миграции PQC: следить за прогрессом стандартных организаций вроде NIST и начать планировать интеграцию PQC в разработке и эксплуатации ИИ-систем. В первую очередь применять дизайн «криптографической гибкости» в новых и ключевых системах, чтобы в будущем можно было бесшовно заменить криптографические алгоритмы. Можно рассмотреть переходный гибридный режим шифрования «классическое + PQC».

Продвигать адаптивное обновление рамок управления: отраслевым организациям, стандартным учреждениям и регуляторам следует сотрудничать, чтобы исследовать и включить требования квантовой устойчивости в стандарты безопасности ИИ, законы о защите данных и систему сертификации продуктов. Чтобы заранее подготовить этическую экспертизу QML, следует создать исследовательскую рамку и руководства.

Усилить подготовку специалистов в смежных областях и поддержку исследований: развивать специалистов, которые одновременно разбираются в ИИ, квантовых вычислениях и криптографии; поощрять включение квантовых моделей угроз в исследования по безопасности ИИ; финансировать разработку технологий постквантовой устойчивой (к квантовым атакам) безопасности ИИ.

Вызовы, принесенные квантовыми вычислениями, огромны, но они также предоставляют нам возможность заново оценить и укрепить фундамент цифрового мира. Благодаря проактивному планированию, совместным инновациям и гибкому управлению, мы вполне можем построить более устойчивое будущее для ИИ — такое, которое и воспользуется преимуществами квантовых вычислительных мощностей, и сможет противостоять связанным с ними рискам безопасности.