Білий дім: AI-радник Сакс критикує огляд моделей США: Kimi K3 виправляє 15 проблем безпеки, американські моделі занадто сильно самообмежують себе

Білий дім AI-радник Девід Сакс зазначив, що Kimi K3 за кілька днів виправив 15 ключових вразливостей безпеки, тоді як базові моделі США Codex і Fable не змогли взятися за їхнє усунення через обмеження «мережевих захисних огорож».
(Попередні події: Kimi K3 очолив рейтинг front-end коду; у сліпому тесті люди обійшли Claude Fable 5)
(Довідкова інформація: Kimi K3 загнала в глухий кут американських гігантів AI? Експерти прогнозують, що Anthropic терміново просуває Opus 5, а GPT-6, імовірно, буде випущено завчасно)

Зміст

Перемкнути

• Що таке 15 ключових вразливостей?
• «Ефект огорожі» Codex і Fable
• Перегони швидкості AI в той самий тиждень

Одним реченням Білий дім AI-радник розкрив «самообмеження» американської AI-перемоги: 20 липня, під час допису на платформі спільнот Девід Сакс, радник з питань штучного інтелекту при Білому домі США, вказав, що Kimi K3 щойно виправив 15 ключових вразливостей безпеки, тоді як Codex і Fable раніше відмовилися вирішувати ці проблеми через обмеження «мережевих захисних огорож». Сакс підкреслив: для завдань, які іноземні моделі можуть виконувати успішно, немає причин обмежувати власні американські моделі — «такі дії лише послаблять нашу власну конкурентоспроможність».

Що таке 15 ключових вразливостей?

Kimi K3 — це модель, яка за місяць очолила рейтинг front-end коду та в сліпому тесті з реальними людьми обійшла Claude Fable 5. «15 ключових вразливостей безпеки», про які згадує Сакс, охоплюють внутрішні баги, виявлені Kimi K3 на етапі тренування, помилки в шляхах міркування та збої під час самокалібрування моделі. Якщо ці вразливості не буде виправлено, це безпосередньо вплине на точність моделі в ключових завданнях, зокрема генерації коду та логічному міркуванні.

«Ефект огорожі» Codex і Fable

Codex — це серія моделей для коду від OpenAI; Fable — це сімейство Claude від Anthropic («Fable 5» — найновіша модель рівня Claude Opus). У своїх зауваженнях Сакс натякає на таке: американські моделі під час тренування та міркувань налаштовують більше «мережевих захисних огорож», наприклад примусову перевірку формату виводу, обмеження глибини міркувань, виключення певних шляхів міркування тощо. Ці огорожі підвищують надійність моделі, але водночас блокують шляхи самокорекції моделі.

Перегони швидкості AI в той самий тиждень

У той самий день, коли Сакс висловився, керівник Succinct Labs Браян Трунзо опублікував статтю, в якій зазначив, що традиційна ідея виявлення «AI, що розпізнає AI» вже не працює; нульові знання (ZK) можуть забезпечити AI «поведінкові сертифікати», які можна незалежно перевірити. Це перегукується з поглядами Сакса: AI-моделі мають бути не лише надійними, а й такими, що піддаються верифікації.