Отже, є ця дивовижна історія про те, як одне з найбільших фінансувань у сфері політики штучного інтелекту коли-небудь було профінансоване, і все почалося з собачої монети та шафи в Канаді.

У 2021 році творці Shiba Inu просто надіслали величезну кількість токенів SHIB на гаманець Віталіка Бутеріна без дозволу. Класичний хід — написати в маркетингових матеріалах «Віталік володіє половиною нашого запасу» і сподіватися, що асоціація принесе вам славу рівня Dogecoin. Але токени насправді сильно зросли. Ми говоримо про понад $1 мільярдів у балансовій вартості.

Бутерін хотів вийти з цього всього до того, як все обвалиться. Останнім часом він описує цей процес — дзвонить своїй мачусі в Канаді, щоб вона порилася у його шафі, читає 78-значне число, яке потрібно поєднати з іншим 78-значним кодом із його рюкзака. Чесно кажучи, абсурд. Він вдалося продати частину за ETH і пожертвувати $50 мільйонів у GiveWell, але він все ще тримав великі запаси SHIB.

Він поділив те, що залишилось, навпіл. Одна половина пішла на CryptoRelief для медичної інфраструктури в Індії та його власних досліджень Balvi. Інша половина пішла до Інституту майбутнього життя (Future of Life Institute), організації, яка працює над екзистенційними ризиками від AI, біотехнологій і ядерної зброї. FLI запропонував йому чіткий план дій, що охоплює основні категорії ризиків і про-пацієнтські ініціативи. Але Бутерін вважав, що вони зможуть отримати близько $10-25 мільйонів, враховуючи тонку ліквідність SHIB. Замість цього FLI ліквідували приблизно $500 мільйонів із своєї половини. CryptoRelief зробили подібне. Монета-мем, яку ніхто серйозно не сприймав, створила мільярдний благодійний проект.

Але тут стає цікаво. FLI пройшли внутрішній поворот і переключилися на агресивну політичну та культурну кампанію щодо AI як їхню основну стратегію. Це зовсім інше, ніж початковий підхід, який очікував Бутерін.

Саме через цей поворот Бутерін і опублікував про це нещодавно. Його занепокоєння просте — масштабна скоординована політична дія з великими грошовими потоками зазвичай призводить до непередбачуваних наслідків, backlash-ів і рішень, які стають авторитарними і крихкими, навіть якщо це не було їхньою початковою метою.

Він навів у приклад підхід FLI до біобезпеки як кейс-стаді. Вони намагалися впровадити обмежувальні рамки у моделі AI, щоб вони відмовлялися від небезпечних виходів. Звучить добре в теорії, але Бутерін назвав це «дуже крихким» — джейлбрейки та тонке налаштування обходів роблять ці обмеження легкими для обходу. Логічний кінець такої думки — «заборонити відкритий доступ до AI», що потім веде до «підтримки однієї хорошої AI-компанії для глобального домінування і заборони іншим досягти цього рівня». Ці стратегії дають зворотний ефект і роблять решту світу вашими ворогами.

Також існує структурна проблема з підходами, орієнтованими на регулювання. Коли уряди обмежують небезпечні технології, звільняються організації національної безпеки — і ці ж організації часто є частиною ризику самі по собі. Подивіться на програми витоку з урядових лабораторій.

Але Бутерін згадав, що його надихнули деякі недавні роботи FLI, зокрема декларація «про-людського AI», яка об’єднує консерваторів, прогресивних, лібертаріанців і різні регіони. Також він зазначив, що вони досліджують проблеми концентрації влади.

Але головне послання ясне. Непланове пожертвування токенів, яких він ніколи не хотів, профінансувало організацію, яка відхилилася від його переконань, і тепер вони витрачають сотні мільйонів у спосіб, що викликає у нього дискомфорт. Він кілька разів піднімав свої занепокоєння з FLI перед тим, як зробити це публічно.

Це захоплююче вікно у те, як Inu-токени випадково стали важливим гравцем у дебатах про політику AI і які ускладнення виникають, коли величезне фінансування раптово змінює напрямок організації.