Eski bir arkadaşla karşılaştım, bir AI girişim şirketinde çalışıyordu. Sohbet ederken derin bir nefes aldı ve şöyle dedi:

"Şimdiki AI, zeki gerçekten zeki, ama - biraz dürüst değil."
Ne anlama geliyor diye sordum.
Dedi ki, onların modeli her gün kendi kendine çok hızlı öğreniyor, karar vermesi insanlardan daha doğru, ama sorun şu ki: Kimse neden böyle karar verdiğini bilmiyor.
Bazen model bir kredi onaylayıp bir kullanıcıyı reddeder, tamamen "kara kutu mantığına" dayanır.
Neden soruldu?
Hiçbir açıklama bile yok.

Gülümsedim ve dedim ki: "Demek ki siz AI tarafından burunlarınızdan sürükleniyorsunuz."
O başını salladı: "Aynen, kimse onun arkasındaki algoritmanın gerçekten de rastgele mi çalıştığını bilmiyor."
Bu sırada @miranetwork'ü gündeme getirdim.
"Mira bu tür işlerle ilgilenmek için burada."
AI'yi değiştirmek değil, AI'nın her düşüncesini zincire eklemek, tüm verilerin ve karar yollarının doğrulanabilir olmasını sağlamak.
Bir örnek vermek gerekirse,
AI şofördür, Mira ise araç kamerasıdır.
AI kendisinin kimseye çarpmadığını mı söylüyor? O zaman Mira'nın kaydına bakmak lazım.
Blockchain bağlamında buna "Doğrulanabilir Zeka" denir.
Her bir model, her bir veri, her bir karar iz bırakarak, sorgulanabilir ve şeffaftır.

Gelecekteki akıllı toplum muhtemelen ikiye ayrılacak:
Bir tanesi ona inanman gerekmektedir;
Diğer bir yol, onu kontrol edebilmen.