Девід Сакс розкритикував американські AI-обмеження після того, як Kimi K3 усунув уразливості безпеки

Девід Сакс, керівник політики Білого дому з питань ШІ та криптовалюти, якого називають «crypto czar», 19 липня у X розкритикував запобіжні обмеження (guardrails) безпеки для AI-моделей США, навівши як приклад китайську AI-модель Kimi K3. Сакс заявив, що Kimi K3 виправила 15 критичних вразливостей безпеки, які моделі США Codex і Fable відмовилися опрацьовувати через «cyber guardrails», і заперечив, що немає причин обмежувати американські моделі задачами, з якими китайські моделі справляються без проблем. Критика підкреслює триваючу дискусію щодо обмежень безпеки для ШІ: раніше експерти з кібербезпеки попереджали у листі в червні президента Трампа, що обмеження використання ШІ дослідниками з безпеки та оборонними організаціями може послабити можливості кіберзахисту.

Sacks посилається на виправлення критичних вразливостей безпеки Kimi K3, заблоковані AI-моделями США

У своїй публікації в X від 19 липня Сакс написав: «Kimi K3 щойно виправила 15 критичних вразливостей безпеки, які Codex і Fable відмовилися опрацьовувати через “cyber guardrails”. Немає причин обмежувати американські моделі задачами, з якими китайські моделі справляються без проблем. Ми просто робимо себе менш конкурентними».

«Cyber guardrails», застосовані до Codex і Fable, є механізмами безпеки, призначеними для обмеження запитів, які можуть бути використані зі зловмисною метою, зокрема для створення шкідливого ПЗ або проникнення в системи. Водночас критики зазначають, що ці обмеження також звужують можливості для аналізу вразливостей безпеки та оборонних досліджень, зменшуючи практичну користь AI-моделей США.

Hugging Face перейшов на китайський GLM 5.2 після того, як guardrails для моделей США заблокували аналіз

Сакс навів ще один приклад у наступній публікації: «Hugging Face спробував використовувати американські frontier-моделі, щоб проаналізувати кібератаку, керовану ШІ. Але guardrails заблокували запити, що містили реальні експлойт-навантаження (payloads), тож вони перейшли на GLM 5.2, запущений локально».

Він заявив, що «guardrails насправді погіршили оборонну безпеку», підкресливши, що обмеження заважали легітимному дослідженню безпеки, а не підвищували захист.

Експерти з кібербезпеки попереджали Трампа в червні про ризики обмежень для ШІ

За даними Axios, експерти з кібербезпеки на чолі з Алексом Стамосом, колишнім головним директором із безпеки Facebook, у червні надіслали відкритий лист президентові Трампу. У листі попереджали, що «обмеження можливостей використання ШІ для інституцій, які проводять дослідження безпеки, та для оборонних організацій може фактично послабити можливості кіберзахисту».

Експерти зазначили, що найновіші AI-моделі вже використовуються в індустрії цифрових активів для підвищення рівня безпеки завдяки моніторингу смарт-контрактів, аналізу вразливостей, перевірці коду та тестуванню на проникнення.

Поширені запитання

Що Девід Сакс сказав про китайську AI-модель Kimi K3 19 липня?

Девід Сакс заявив у X, що Kimi K3 виправила 15 критичних вразливостей безпеки, які американські AI-моделі Codex і Fable відмовилися опрацьовувати через «cyber guardrails». Він стверджував, що немає причин обмежувати американські моделі задачами, з якими китайські моделі справляються без проблем, і що США роблять себе менш конкурентними.

Чому Hugging Face перейшов з AI-моделей США на китайський GLM 5.2?

Hugging Face спробував використовувати американські frontier AI-моделі, щоб проаналізувати кібератаку, керовану ШІ, але guardrails заблокували запити, що містили реальні експлойт-навантаження. У результаті дослідницька команда перейшла на використання китайської open-source AI-моделі GLM 5.2, запущеної локально.

Про що в червні попереджали експерти з кібербезпеки президента Трампа?

Експерти з кібербезпеки на чолі з колишнім головним директором із безпеки Facebook Алекcом Стамосом надіслали президентові Трампу у червні відкритий лист, попередивши, що обмеження використання ШІ інституціями, які проводять дослідження безпеки, та оборонними організаціями можуть послабити можливості кіберзахисту. Вони зазначили, що найновіші AI-моделі використовуються в індустрії цифрових активів для моніторингу смарт-контрактів, аналізу вразливостей, перевірки коду та тестування на проникнення.