Зустрів старого друга, він працює в стартапі в сфері ШІ. Під час розмови він зітхнув і сказав:

“Сучасний ШІ, він дійсно розумний, але — трохи нечесний.”
Я питаю, що це означає.
Він сказав, що їхня модель щодня навчається все швидше, приймає рішення точніше, ніж людина, але проблема в тому, що ніхто не знає, чому вона так вирішує.
Іноді модель схвалила кредит, відмовила користувачу, все залежить від "чорної скриньки".
Запитали причину?
В ньому навіть немає жодного пояснення.

Я усміхнувся і сказав: "То ви, виходить, йдете за AI, як за носом."
Він кивнув: "Так, ніхто не знає, чи алгоритм, який стоїть за цим, насправді є випадковим."
В цей момент я згадав @miranetwork.
“Mira це якраз для того, щоб займатися такими справами.”
Це не про те, щоб змінити AI, а про те, щоб кожну думку AI записувати в блокчейн, щоб всі дані та шляхи прийняття рішень могли бути перевірені.
Наприклад,
AI є водієм, Mira є реєстратором поїздок.
AI каже, що не вдарив людину? Тоді варто подивитися відео Mira.
У контексті блокчейну це називається "перевірений інтелект" (Verified Intelligence).
Кожна модель, кожен дані, кожне рішення залишають слід, їх можна відстежити, вони прозорі.

Майбутнє розумного суспільства, ймовірно, буде поділено на два види:
Один з варіантів - ти мусиш вірити в це;
Інший варіант полягає в тому, що ви можете його перевірити.