Массачусетський технологічний інститут: не панікуйте щодо апокаліпсису штучного інтелекту — здатність до перевірки є дефіцитним ресурсом

Джерело: підкаст Bankless; Редакція: Felix, PANews

Економіст Массачусетського технологічного інституту (MIT) Крістіан Каталіні завітав на шоу Райана й Девіда та докладно розібрав його нову статтю «Деяка проста економіка загального штучного інтелекту». У цій роботі зазначено: дефіцитним ресурсом в «економіці ШІ» більше не є інтелект, а верифікація — тобто здатність людей перевіряти, оцінювати й підтверджувати правильність результатів, які видає ШІ.

Крістіан детально пояснив, як дві криві витрат (витрати на автоматизацію та витрати на верифікацію) переформатовують усі сфери діяльності, розповів, чому першими зникають вакансії початкового рівня, і чому навіть найтоповіші фахівці непомітно вирощують собі наступників («прокляття програміста»). Він також окреслив три ролі, які зберігаються під час трансформації: директор(и), творці сенсу та страховики відповідальності.

PANews зібрав(ла) головні тези розмови.

Ведучий: Я думаю, що багато слухачів, можливо, відчувають таку саму тривогу, як і я, щодо ШІ. Як ви вважаєте, чому люди хвилюються про ШІ? Чи є їхні побоювання обґрунтованими?

Christian: Ми всі відчуваємо це. Це швидкий і трансформаційний період змін: що ближче ти до коду, то раніше, ймовірно, ти спостерігаєш цю прискорюючу дію — цей експоненційний ріст упродовж останніх кількох місяців став дуже реальним. Ця технологія дозволяє робити речі, які багато хто раніше вважав можливими лише за значно довший час. Таке відчуття — це те, з чим ми всі зараз намагаємося впоратися. Але я думаю, що «апокаліпсис» — це помилка: люди недооцінюють потенціал цих інструментів. Так, буде надзвичайно складний перехідний період, швидкість трансформації робіт — нечувана в історії. Але навіть попри це, якщо ти використовуєш головну перевагу цієї технології й інвестуєш, у довгостроковій перспективі все здебільшого буде на користь, хай навіть буде купа нерівностей на дорозі. Економіка розглядає роботу як набір задач: деякі задачі будуть автоматизовані — це хороша новина. Та ключове питання: як тобі перезавантажити себе й залишатися на передовій.

Ведучий: Кого, на вашу думку, зачепить першим?

Christian: Це чудове запитання, і в мене є кілька різних думок щодо нього. По-перше, коли я кажу, що першими страждають ті, хто найближче до коду, я маю на увазі, що саме вони першими відчувають, наскільки потужними можуть бути ці технології. Як показує «парадокс Джевонса»: коли щось стає ефективнішим, ми натомість споживаємо більше — наприклад, пишемо більше софту. Я вважаю, що програмування розділиться, як і багато інших професій: у нашій статті ми називаємо це «зникаючим початковим циклом». Якщо ти початківець і ще не маєш «неявного знання», яке відрізняє якісний продукт від посереднього, то ШІ здатний дуже добре замінити тебе в різних сферах.

Усі вже зараз можуть легко отримати досить непоганого маркетолога, початкового програміста або юриста, який допоможе з більшістю ситуацій — тобі потрібно лише на останньому етапі запросити топового юриста для фінальної верифікації. З іншого боку, навіть топові експерти під час впровадження ШІ свідомо чи несвідомо створюють ярлики, інформаційні та цифрові сліди, які в підсумку можуть автоматизувати їхню власну роботу. Топові лабораторії наймають провідних фахівців у таких сферах, як фінанси, щоб використати їх для створення стандартів оцінювання, вбудовуючи знання домену в великі моделі. Тому я думаю, що жодна одиночна робота не є на 100% безпечною: навіть фізична праця, обмежена можливостями робототехніки, — в майбутні кілька років моделі винагороди зроблять великий стрибок. Будь-що, що відбувається перед екраном, можна відстежити, відтворити й навчитися на цьому. Для кожної професії ключове — думати так: якщо я делегую якомога більше роботи ШІ, де ще я зможу додати цінність?

Насправді люди про «смак» і «判断» (оцінку) вигадують для себе багато «самоуспокоєння». Це дуже розмите. Тому в статті ми кажемо: не існує «смаку» або «хорошого/поганого судження» як таких — є лише різниця між «вимірюваним» і «невимірюваним». Якщо щось уже виміряно, машина може це відтворити. Якщо ж це все ще закладено лише у «вагах» твоєї власної головної нейромережі — наприклад, топовий дизайнер накопичив тисячі годин досвіду й може вирішувати, що варто публікувати, а що ні — це те, що ми називаємо «верифікацією». Уся верифікація — це останній крок: агент(и) ШІ створює продукт, а ти як той, хто ухвалює рішення, маєш перевірити, чи він відповідає стандартам, щоб вийти на ринок. Коли машина отримує дедалі кращі дані, усе автоматизується; але коли йдеться про невідомі області або місця, де немає даних узагалі — ця частина в майбутні кілька років усе ще належатиме людям.

Ведучий: Це дуже глибоке спостереження. Але я ще думаю: що інженери автоматизують свою роботу — це природно. Чи однаково відчують удар всі галузі?

Christian: Ми маємо достатньо доказів, щоб сказати: зміни будуть нерівномірними. Можна думати так: ця робота — це просто «пакування» чогось, що суспільству фундаментально не потрібно? Наприклад, типова консультаційна робота: якщо вона в основному переструктурує, витягне й підсумує вже широко доступну інформацію, то ризик очевидний. Але якщо вона приносить дефіцитні доменні знання або її наймають з політичних причин, то такі послуги збережуться. Запитайте себе: цей вид діяльності приносить прибуток, бо він розв’язує складну проблему, чи лише тому, що існує певний рукотворний вузький «протиковзний» бар’єр?

Ведучий: Що саме означає «верифікація»? Мені складно розкласти мій робочий день на те, що є когнітивною роботою, а що — верифікаційною.

Christian: Агент(и) вже навчилися й зважили все з мережі та книг — бо це дешевше й масштабованіше, тому вони замінять вимірювану частину. Але речі, яких агент(и) ще не знають: тобто унікальні «ваги» нейромережі у твоїй голові. Ти отримуєш їх через власний досвід і боротьбу — і саме це робить тебе топовим експертом. Наприклад, учасники раннього крипторинку: багато з них з Аргентини, Венесуели тощо — вони пережили галопуючу інфляцію з негативними наслідками, і їхня реакція на активи була зовсім іншою. Ця внутрішня, унікальна верифікація, що лишається у тобі, — колосальна перевага.

Що таке верифікація? Це різниця між твоїми власними стандартами оцінювання світу та стандартами, які є в агента(ів). Як коли топовий редактор точно знає, яка стаття викличе відгук; або топовий CTO, який бачить гігантське кодове сховище, згенероване ШІ, і точно знає, які критично важливі «граничні» частини мають бути перевірені людиною особисто — і ця частина ще не піддається оцінці машиною.

Ведучий: Давайте наведу приклад. Якщо я в X бачу відео про те, як Ізраїль нібито обстріляли ракетами, але виявляю, що воно згенероване ШІ. Я використовую мозок, щоб розпізнати проблему, і, можливо, через повторні підказки згенерую краще відео. Це і є моя «здатність до верифікації»?

Christian: Це дуже хороший приклад. Ще на крок далі: ми можемо незабаром опинитися у світі, де для більшості людей відрізнити це відео від реальності буде майже неможливо. Наступний крок: військові експерти помітять, що динаміка полум’я неправильна. А потім, навіть якщо ти військовий експерт, тобі може бути вже недостатньо поглянути — знадобиться ШІ, щоб проаналізувати фізичні принципи та провести симуляції й тести. У кінцевому підсумку відрізнити може стати зовсім неможливо, і тоді ми будемо змушені покладатися на інфраструктуру на базі криптографії, щоб підтвердити істинність чи підробку. Те саме в медицині: крайні випадки зрештою мають відхиляти рішення ШІ, і це робить топовий рентгенолог, використовуючи 20 років досвіду та розуміння конкретного контексту пацієнта. Це останній тонкий шар «фільтрації», на який ми звертаємо увагу. Коли ми робимо це, ми звільняємо багато часу. Тож тут є позитивна сторона: ми можемо робити більше справ меншими ресурсами. Вартість дорогих речей знизиться. Усе суспільство споживатиме більше таких речей. Я вважаю, що це хороша новина.

Ведучий: Але у вашому прикладі зараз він робить верифікацію, однак дуже скоро він уже не зможе її робити — потрібні військові командири, а врешті навіть командири не зможуть верифікувати, і доведеться звернутися до ШІ. Хіба це не означає, що «верифікація» спочатку має цінність, але дуже швидко буде автоматизована ШІ? Тобто навіть сама «верифікація» — теж небезпечна?

Christian: Так, ми в статті називаємо це «прокляттям програміста». Сам акт раціональної верифікації штовхає передові технології вперед і формалізує дані з досвіду. Ми не можемо зупинитися, бо всі юристи чи практики намагаються використовувати ШІ. Верифікація справді є такою, що стискається, передовою позицією.

Ведучий: Навіть сфера останньої верифікаційної роботи дедалі звужується — коли ж можна перестати хвилюватися?

Christian: Спершу, деякі речі за задумом є невимірюваними — наприклад, так звані «ігри престижу» або те, чому люди надають сенс. Ці області не будуть захоплені машинами, бо їхня суть — в узгодженому консенсусі між людьми. Криптовалюта певною мірою також про це: важливо, щоб люди домовилися про те, що має цінність. І коли сфера вимірюваної роботи звужується, ми вигадуватимемо багато способів зробити невимірювану роботу осмисленою.

Ведучий: Чи може ШІ за 10 секунд створити сайт, але, можливо, не зможе написати жодного твіт(а), який був би людині справді цікавий. Це може бути одна з останніх верифікаційних робіт, що залишаться?

Christian: Привернути увагу, розповісти справжній новий жарт — це надзвичайно складна творча робота, спроба зламати те, що ніколи не було виміряне. За довгі роки боротьби за виживання ми еволюціонували сильну здатність справлятися з невідомим середовищем. Людей, які роблять таку роботу, називають «творцями сенсу». Наприклад, у мистецтві чи культурі, що є «добрим» — залежить від людського консенсусу. Навіть коли ти використовуєш агент(и) ШІ, ти все одно маєш задати «інтенцію».

Ведучий: Якщо витрати на автоматизацію падають у геометричній прогресії, то як зміниться «вартість верифікації»? Її завжди обмежуватиме біологія людей?

Christian: Наразі її обмежує біологія. Тому багато компаній випускають багато коду, згенерованого ШІ, але їм просто не вистачає людей, щоб його читати й верифікувати — і саме там ховається ризик.

Ведучий: А хіба не можна використати ШІ, щоб верифікувати ШІ?

Christian: Якщо ШІ здатен правильно верифікувати, то ця частина сама по собі буде автоматизованою. Після того як використаєш весь можливий ШІ для верифікації, лишиться лише те, що справді неможливо верифікувати ШІ — і це стане вузьким місцем людського втручання.

Ведучий: Якщо верифікація — новий дефіцитний ресурс, але він усе більше відступає, то як тоді працювати й інвестувати в цій економіці?

Christian: Ми побудували матрицю 2x2 на основі «витрат на автоматизацію» та «витрат на верифікацію». Лівий нижній квадрант — це замінені працівники: автоматизація легка, верифікація також легка — ти точно не хочеш опинитися тут. Інші три квадранти — це:

Творці сенсу: автоматизація важка, верифікація важка. Вони працюють над соціальним консенсусом, іграми престижу та людським зв’язком. Наприклад, творці смаку в модній індустрії, крипто KOL у Twitter — вони створюють наративи та координують увагу.

Страховики відповідальності: автоматизація легка, верифікація важка. Це топові експерти домену, як топові юристи, лікарі або венчурні інвестори. Вони масово використовують ШІ, але надають сервіс відповідальності та верифікації для фінальних «граничних» випадків.

Директори: автоматизація важка, верифікація легка. Суть — в «інтенції». Вони мають справу з «невідомими невідомими»: як підприємці, керують агентами, задають напрям, відчувають відхилення й постійно коригують курс.

Ведучий: А що робити молодим людям, які щойно закінчили навчання і хочуть вийти на ринок праці? З одного боку — безцінні роботи початкового рівня, з іншого — топові експерти, щоб стати якими потрібні десять років відточування в індустрії. Між цими двома кінцями — величезна прірва. ШІ вже може робити початкові речі — як молодь доростає до іншого боку?

Christian: Прірва, справді, існує. Але хороша новина в тому, що ти можеш скоротити час навчання. Ти можеш обійти традиційні етапи підготовки. Зараз один початковий інженер за допомогою інструментів може зробити те, що раніше робила ціла команда. Так, на старті вони припускатимуться помилок, але як новачки вони можуть ставити під сумнів традицію з дуже свіжого кута зору — і це перевага. Вони можуть реалізувати ідеї способами, які ми в їхньому віці тоді просто не могли. Є і плюси, і мінуси.

Стара траєкторія: «отримай диплом, знайди стажування, багато працюй і підіймайся кар’єрними сходами» — справді вже не існує. Це викличе величезний культурний шок. Для молодих людей, які щойно закінчили навчання, це дуже важко. Якщо ти ще навчаєшся в університеті, у тебе є час зрозуміти, куди все рухається. Якщо ж ти вже опинився в складній ситуації, моя порада така: використовуй ці інструменти, щоб створити щось. Твоя амбіція має бути в 100 разів більшою, ніж у нас, коли ми були на тому ж віці.

Ведучий: Чи означає зникнення великої кількості «робіт по натисканню кнопок» у короткостроковій перспективі, що суспільство порине в хаос?

Christian: Суспільство завжди заново створюватиме «роботи по натисканню кнопок» у той момент, коли вони будуть потрібні, щоб зберегти стабільність. Але багато людей, які виконують такі роботи, насправді здатні робити більше — просто раніше їх обмежувало середовище. Коли фізична праця більше не потрібна, ми винаходимо тренажерні зали, щоб ходити туди; а тепер, коли звільнення приходить у сфері розумової праці, люди розвиватимуть різні підробітки й «економіку творців», щоб отримати відчуття виклику. Саме тому я вважаю, що «універсальний базовий дохід без умов (UBI)» — абсолютно неправильна ідея: людям потрібні сенс і мотивація для самореалізації. Крім того, навіть якщо зараз значна частина твоєї роботи автоматизована, якщо ти добре використаєш ШІ як суперінструмент, то навіть початківець у першій своїй роботі зможе вибухнути продуктивністю — як раніше міг би один цілий підрозділ.

Ведучий: Які поради для компаній та інвесторів?

Christian: Для компаній — інвестувати у інфраструктуру верифікації та надавати «відповідальність як сервіс» (тобто не лише надавати агента(ів), а й страхувати наслідки). Також — опанувати «власні джерела фактів»: бо ШІ легко вводити в оману, і компаніям дуже важливо мати щось на кшталт Bloomberg — унікальні справжні дані або глибокі оцінки, що дають додану цінність. Для інвесторів, окрім інвестування в це, головна увага має бути до «невимірюваних» напрямів твердої R&D. Раніше звичайні мережеві ефекти могли не спрацювати; нові мережеві ефекти будуть будуватися на тому, як ти через кращий справжній зворотний зв’язок зробиш своїх агентів більш надійними, ніж у конкурентів — бо людей насправді цікавить не просто інтелект, а верифікований інтелект.

Ведучий: Чи має криптографія користь у цьому процесі верифікації?

Christian: Криптографічна сфера за останні десять років побудувала критично важливу базову інфраструктуру. Коли нам потрібно підтвердити справжність/підробку ідентичності та запобігти захопленню акаунтів, такі on-chain технології, як «доказ особистості» (Proof of Personhood), дають потужну верифікацію. Також це джерела даних і криптографічні регуляторні ланцюги: нам потрібні криптографічні гарантії, що інформація, а також генерація та моделі є відповідними й комплаєнсними на рівні «жорстких» вимог.

Ведучий: Що мають робити люди в наступному році? Ви оптимістично дивитесь на майбутнє людства?

Christian: Насамперед не панікуйте. Багато експериментуйте й, якщо можливо, використовуйте інструменти, щоб «витісняти» і автоматизувати вашу нинішню версію. Для багатьох хобі-спроб у майбутнє може бути найважливішою справою. У найгіршому випадку ви хоча б зрозумієте межі моделей і де в них недоліки. Для багатьох мережевих творців хобі вже перетворюється на роботу — і це буде основним напрямом у майбутньому. Якщо у вас є діти, відкрийте їхні здібності та занурте їх у те, що вони люблять, — це найважливіше. Немає жорсткого професійного шаблону: нові інструменти ШІ краще допоможуть вам знайти той шлях, який належить саме вам.