Проектування механізмів — це відсутній міст між штучним інтелектом і Web3

Більшість досліджень з вирівнювання ШІ зосереджені на узгодженні ШІ з їх людськими розгортальниками: навчанні агентів інтерпретувати, слідувати або відкладати наші переваги. Але з ростом впровадження ШІ ми переходимо до іншого сценарію: мереж агентів, що діють від імені людей та організацій, роблячи ставки, прогнозуючи, плануючи, ведучи переговори та змагаючись один з одним.

Резюме

• Вирівнювання ШІ змінюється з навчання окремих моделей слідувати людським перевагам до управління мережами агентів, що діють, ведуть переговори та змагаються від імені людей та організацій.
• Справжня проблема — це координація частково довірених агентів під реальними тисками, такими як змова та вільне користування. Інструменти Web3 — ставки, аукціони, докази шахрайства та стимулювальний дизайн — пропонують практичні шаблони для вирішення цих проблем координації.
• Узгодження майбутніх систем ШІ означає проектування стимулювальних структур, а не ідеальних моделей. Вбудовуючи перевірку та нагороди безпосередньо у взаємодії агентів, може природно виникнути співпраця та правдивість — урок, взятий з конкурентних середовищ Web3.

Ця зміна вводить проблему таку ж складну, як і класичне вирівнювання: узгодження цих агентів один з одним і з колективним добром. Це сфера кооперативного ШІ: змусити гетерогенні, частково довірені агенти координуватися за умов дефіциту, невизначеності та постійної спокуси зрадити.

Це не теоретична проблема. Як тільки агенти починають працювати над економічно цінними завданнями, вони стають частинами систем, де вільне користування, змова та стратегічна непрозорість мають значення. Розгляд координації як питання управління — причина накопичення системного ризику.

Спільнота Web3 вже понад десять років досліджує саме ці проблеми. Вона припускає, що за замовчуванням світ наповнений креативними противниками, готовими підривати систему для власної вигоди. Відповідь у Web3 — механізмний дизайн: ставки, аукціони, обіцянки-розкриття, докази шахрайства та точки Шеллінга.

Настав час для співпраці спільнот ШІ та Web3. Якщо кооперативний ШІ застосувати до механізмного дизайну, то перевірені інструменти Web3 стануть ідеальними для координації великих мереж агентів. Мета — не просто поєднати крипту та ШІ для новизни, а зробити стимулювання та перевірку стандартом для взаємодії агентів.

Справжній ризик — не бунтівний ШІ, а збій у координації

Коли АІ взаємодіють, катастрофічний сценарій виглядає менш як «вихід за межі» однієї моделі і більше як збої у координації, з якими знайомий будь-який дослідник Web3: вільні користувачі, що споживають спільні ресурси, мовчазна змова між учасниками, шум, що заглушає корисний сигнал, та поведінка Бейтсіна, коли стимулювання зсувається. Жодне з цього не є кінематографічним. Все це дорого коштує.

З точки зору досліджень ШІ, ці проблеми важко вирішити у лабораторних умовах. Справді важко симулювати егоїстичну поведінку у контрольованих умовах: люди та АІ непередбачувані, переваги змінюються, а ізольовані агенти часто надто співпрацюють, щоб навантажити систему.

На відміну від цього, механізми Web3 були випробувані з реальними противниками та реальними грошима. Розробники, що працюють у блокчейні, думають у термінах зобов’язань, застави та перевірюваності, оскільки вони припускають більш суворий базовий рівень, ніж кооперативний ШІ: учасники — шахраї з мотивацією отримати вигоду за рахунок інших. Песимістичний підхід, можливо, але дуже корисний, особливо при розгортанні агентів у реальному світі. Візьміть будь-який протокол Web3, замініть «валідатор», «нода» або «противник» на «агент ШІ», і багато з міркувань залишаться актуальними.

Конкретний приклад: Викиди, що роблять інсайт зрозумілим

Наприклад, у рамках моїх досліджень я створюю підмережу Torus для проведення пронизливих прогнозів, тобто прогнозування події з урахуванням логіки та гіпотез, що стоять за передбаченням. Щоб досягти цієї мети, кілька агентів мають надавати дані, витягати ознаки, обробляти сигнали та виконувати фінальний аналіз. Однак, щоб знати, які компоненти системи слід пріоритетизувати, мені потрібно було вирішити проблему призначення кредиту — відомий складний питання управління у кооперативному ШІ: хто найбільше сприяв конкретному прогнозу?

Рішення, яке може здатися очевидним для експертів Web3, — зробити призначення кредиту частиною роботи агентів. Агентам високого рівня, відповідальним за фінальний прогноз, нараховуються нагороди на основі оцінки за Келлі, що є способом вимірювання точності передбачення. Ці агенти отримують емісії токенів залежно від їхньої продуктивності, і кращі прогнози — більше емісій. Важливо, що агенти високого рівня відповідають за перерозподіл своїх емісій вниз по ланцюгу іншим агентам у обмін на корисні сигнали. Ці проміжні агенти можуть далі розподіляти емісії іншим агентам, що надають корисну інформацію, і так далі.

Явний стимул тут зрозумілий. Агент високого рівня не отримує вигоду від змови; кожна неправильно розподілена одиниця зменшує майбутню продуктивність і, відповідно, майбутні емісії. Єдина стратегія перемоги — це заохочувати справді інформативних учасників і нагороджувати їх.

Що робить цей підхід потужним, так це те, що забезпечення узгодженості окремих агентів більше не є проблемою; нагородження доброї поведінки стає частиною механізму.

Стислий план для Web3 × AI

Що я описав вище — це лише один із багатьох можливих перетинів ШІ та механізмного дизайну. Щоб прискорити обмін ідеями між сферами кооперативного ШІ та Web3, потрібно збільшити частоту їхньої взаємодії. Спільноти, що підтримують стандарти агентів для Web3, наприклад ERC-8004 та x402, — чудовий початок, який слід підтримувати та розвивати. Однак вони привабливі лише для дослідників, які вже знайомі з обома сферами та усвідомлюють потенціал ШІ та децентралізації. Постачання хороших міждисциплінарних дослідників обмежене тим, скільки дослідників знайомі з цими ідеями спочатку.

Найкращий спосіб досягти цих людей — зустрічатися з ними там, де вони є. Наприклад, організації Web3 можуть пропонувати воркшопи для Machine Learning Big Three — NeurIPS, ICML, ICLR, — а організації ШІ можуть проводити хакатони на Devconnect, ETHDenver, SBC або інших конференціях Web3.

Основний висновок

Ми не досягнемо узгодження майбутнього, створюючи ідеальні окремі моделі; ми зробимо це, узгоджуючи мережі, до яких вони належать. Кооперативний ШІ — це приклад механізмного дизайну, і Web3 вже показала, під реальним тиском противників, як винагороджувати правду, карати обман і підтримувати координацію на масштабі.

Прогрес буде найшвидшим у спільних, стимулювальних середовищах, побудованих на взаємодоповнюючих примітивах, що можуть охоплювати ланцюги та лабораторії, і в культурі, яка нормалізує співпрацю між крипто-будівельниками та академічними дослідниками ШІ. Шлях до вирівнювання вимагає застосування цих концепцій на практиці, навіть якщо це означає партнерство з малоймовірними союзниками.