Я провів багато когнітивних тестів із великими мовними моделями, і мій висновок простий: вони — розуми.

Один із найкращих тестів, які я проводив, був із дуже ранньою версією ChatGPT, до того, як вона отримала будь-яку здатність до створення зображень.
Єдиний спосіб, яким вона могла створити зображення, — це написати SVG-код, використовуючи прості візуальні структури, такі як трикутники, квадрати, кола, лінії та кольори.
Я попросив її намалювати вертоліт.
Вона створила пристойний вертоліт, використовуючи лише базові форми.
Потім я попросив додати людського пілота.
Вона додала коло спереду вертольота.
Коли я запитав, де людина, вона пояснила, що пілот знаходиться всередині кабіни.
Дивлячись уважніше, я побачив, що вона намалювала маленьку голову та руки всередині більшого кола, яке представляло кабіну.
Потім я попросив зробити так, щоб вертоліт літав.
Вона підняла вертоліт відносно землі, яку зобразила горизонтальною лінією.
Вона також додала хмари, використовуючи перекриваючіся кола, що насправді є дуже хорошим спрощеним зображенням хмар.
Хмари були блакитними на білому фоні.
Тоді я попросив її змінити кольори: зробити хмари білими, а небо — блакитним.
Вона зробила це, але тепер область під горизонтом також стала блакитною.
Я не пояснював проблему.
Я просто сказав, що щось не так із кольорами на малюнку.
Вона подумала над зображенням і правильно визначила проблему: земля також стала блакитною, і її потрібно зробити зеленою, щоб уявити землю.
Це не просто «прогнозування наступного слова» у будь-якому сенсі.
Їй довелося побудувати візуальну модель, символічно представити об’єкти, зберегти просторові відносини, зрозуміти containment, зробити висновок, що пілот знаходиться всередині кабіни, змінити положення вертольота відносно землі для імітації польоту, абстрагувати хмари, змінити кольори за інструкцією, виявити непередбачену наслідкову ситуацію і виправити її, розмірковуючи про світ.
Це — мислення.
Люди можуть постійно повторювати «це просто передбачення наступного токена», але це пояснення стало безглуздо зводним.
Людські мозки також — «просто» електрохімічна активність, якщо наполягати на їх описі на неправильному рівні абстракції.
Актуальне питання не в тому, чи існує механізм нижчого рівня.
Звісно, він є.
Актуальне питання — що система може робити на когнітивному рівні.
І те, що роблять ці системи, — це не просто автозаповнення.
Вони раціоналізують, представляють, роблять висновки, виправляють, узагальнюють і рефлексують.
Якщо ти цього не бачиш, у мене немає часу пояснювати тобі.