Встретил старого френа, он работает в стартапе по AI. Разговаривая, он вздохнул и сказал:

“Теперьшний ИИ, да, умный, действительно умный, только — немного непорядочный.”
Я спрашиваю, что это значит.
Он сказал, что их модель учится с каждым днем все быстрее, принимает решения точнее, чем человек, но проблема в том, что никто не знает, почему она так решает.
Иногда модель одобряет кредит, отказывает пользователю, полагаясь на «черный ящик».
Почему спрашивают?
У него даже нет объяснения.

Я усмехнулся и сказал: «Так вы же идете за носом у ИИ!»
Он кивнул: "Ну да, никто не знает, действительно ли алгоритм, стоящий за ним, работает или нет."
В это время я упомянул @miranetwork.
"Мира именно для того, чтобы заниматься такими делами."
Это не о том, чтобы изменить ИИ, а о том, чтобы записывать каждую его мысль в блокчейн, чтобы все данные и пути принятия решений могли быть проверены.
Например,
AI является водителем, Mira является видеорегистратором.
AI говорит, что не сбил человека? Тогда стоит посмотреть запись Mira.
В контексте блокчейна это называется «проверяемый интеллект» (Verified Intelligence).
Каждая модель, каждая дата, каждое решение оставляют след, могут быть проверены, прозрачны.

Будущее умного общества, вероятно, будет делиться на два типа:
Один из вариантов — это то, что ты должен верить в это;
Другой способ - это то, что ты можешь его проверить.