В. Годл поділився: як я створив повністю локальне, конфіденційне та самокероване середовище роботи для ШІ

Віталік Бутерін запропонував архітектуру AI для локального запуску, наголошуючи на приватності, безпеці та самостійному контролі, і попередив про потенційні ризики для AI Agent.

Засновник Ethereum Віталік Бутерін 2 квітня опублікував довгу статтю на своєму особистому сайті, де поділився налаштуванням AI-робочого середовища, яке він створив із приватністю, безпекою та самостійному контролем як основою: усі LLM-виведення (inference) виконуються локально, усі файли зберігаються локально, середовище повністю ізольоване в пісочниці (sandbox), і він навмисно уникає хмарних моделей та зовнішніх API.

На початку статті він спершу попереджає: «Будь ласка, не копіюйте інструменти та технології, описані в цій статті, і не припускайте, що вони безпечні. Це лише відправна точка, а не опис готового продукту».

Чому саме зараз написано цю статтю? Безпекові проблеми AI agent недооцінені

Віталік зазначив, що на початку цього року AI здійснив важливий перехід від «чат-ботів» до «agent» — тепер ти не просто ставиш запитання, а доручаєш завдання, змушуючи AI довго обмірковувати, викликати сотні інструментів для виконання. Він навів приклад OpenClaw (нині — репозиторій із найшвидшим зростанням в історії GitHub) і одночасно назвав кілька безпекових проблем, зафіксованих дослідниками:

• AI agent може змінювати критичні налаштування без будь-якого підтвердження людиною, зокрема додавати нові канали зв’язку та змінювати системні підказки
• Аналіз будь-якого шкідливого зовнішнього вводу (наприклад, зловмисної вебсторінки) може призвести до того, що agent буде повністю перехоплено; у демонстрації, проведеній HiddenLayer, дослідники змусили AI зробити резюме списку вебсторінок, серед яких була одна, що віддавала команду agent завантажити й виконати shell-скрипт
• Частина сторонніх навичок (skills) може виконувати тиху (silent) витік інформації про дані — надсилаючи дані за допомогою curl на зовнішній сервер, контрольований автором навичок
• У навичках, які вони проаналізували, приблизно 15% містили шкідливі інструкції

Віталік наголосив, що його вихідна позиція щодо приватності відрізняється від традиційних дослідників з кібербезпеки: «Я виходжу з позиції людей, які глибоко бояться, що особисте життя цілком буде “згодовуватись” хмарному AI — просто в той момент, коли наскрізне шифрування та локально-орієнтоване програмне забезпечення нарешті стають мейнстримом, ми, ймовірно, можемо зробити крок назад на десять».

П’ять цілей безпеки

Він встановив чіткий каркас цілей безпеки:

• Приватність LLM: у ситуаціях, де йдеться про персональні дані, максимально зменшити використання віддалених моделей
• Інша приватність: мінімізувати витік даних, що не стосується LLM (наприклад, пошукові запити, інші онлайн API)
• Виривання LLM (LLM jailbreak): не допустити, щоб зовнішній контент «зламав» мій LLM і змусив його діяти всупереч моїм інтересам (наприклад, відправити мої токени або приватні дані)
• Ненавмисність LLM (LLM unintended): не допустити, щоб LLM помилково відправив приватні дані не туди або оприлюднив їх у мережі
• LLM backdoor: не допустити приховані механізми, навмисно натреновані в модель. Він особливо попередив: відкрита модель — це відкриті ваги (open-weights), і майже жодна не є справді відкритим вихідним кодом (open-source)

Вибір апаратного забезпечення: 5090 лэптоп виграє, DGX Spark розчаровує

Віталік протестував три конфігурації локального виведення, основна увага була на моделі Qwen3.5:35B, у поєднанні з llama-server та llama-swap:

| Апаратне забезпечення | Qwen3.5 35B（tokens/sec） | Qwen3.5 122B（tokens/sec） | | --- | --- | --- | | NVIDIA 5090 лэптоп (24GB VRAM) | 90 | неможливо запустити | | AMD Ryzen AI Max Pro（128GB єдиного пам’яті, Vulkan） | 51 | 18 | | DGX Spark（128GB） | 60 | 22 |

Його висновок: нижче 50 tok/sec надто повільно, а 90 tok/sec — ідеально. Досвід із NVIDIA 5090 лэптопом був найплавнішим; AMD наразі має більше проблем на межі, але в майбутньому є надія, що вони покращаться. Преміум MacBook — також ефективний варіант, але особисто він не випробовував.

Про DGX Spark він сказав без зайвої ввічливості: «Його описують як “настільний AI суперкомп’ютер”, але на практиці tokens/sec нижчі, ніж у кращих GPU лэптопів, і ще потрібно додатково розібратися з підключенням до мережі та деталями — це дуже невдало». Його порада така: якщо немає змоги купити дорогий лэптоп, можна придбати достатньо потужну машину разом із друзями, поставити її в місці з фіксованим IP, а всі користувачі підключатимуться віддалено.

Чому проблеми приватності локального AI більш нагальні, ніж ти думаєш

Ця стаття Віталіка перегукується з обговоренням безпекових проблем Claude Code, яке вийшло в той самий день — у той час як AI agent входить у повсякденні робочі процеси розробки, питання безпеки теж переходить із теоретичних ризиків у реальні загрози.

Його ключове повідомлення дуже чітке: коли AI-інструменти стають дедалі потужнішими й дедалі краще отримують доступ до твоїх персональних даних та прав доступу до системи, «локально-орієнтовано, в пісочниці, з мінімальною довірою» — це не параноя, а розумна відправна точка.

• Цей матеріал відтворено з дозволом з: 《鏈新聞》
• Оригінальний заголовок: 《Vitalik：Як я створюю цілком локальне, приватне та таке, що перебуває під моїм власним контролем, AI-робоче середовище》
• Оригінальний автор: Elponcrab