J'ai rencontré un vieil ami, il travaille dans une startup d'IA. En discutant, il a soupiré et a dit :

"L'IA d'aujourd'hui, elle est vraiment intelligente, mais - elle n'est pas très honnête."
Je demande ce que cela signifie.
Il a dit que leur modèle apprenait de plus en plus vite chaque jour et prenait des décisions plus précises que les humains, mais le problème est : personne ne sait pourquoi il prend ces décisions.
Parfois, le modèle accorde un prêt et refuse un utilisateur, tout cela grâce à une "logique de boîte noire".
Pourquoi a-t-on demandé ?
Il n'y a même pas d'explication.

J'ai souri et dit : « Alors vous êtes tirés par le nez par l'IA. »
Il hocha la tête : "Bien sûr, personne ne sait si l'algorithme derrière est vraiment efficace ou non."
À ce moment-là, j'ai mentionné @miranetwork.
« Mira est là pour s'occuper de ce genre de choses. »
Ce n'est pas pour changer l'IA, mais pour mettre chaque réflexion de l'IA sur la chaîne, afin que toutes les données et les chemins de décision puissent être vérifiés.
Pour donner un exemple,
L'IA est le conducteur, Mira est la caméra de bord.
L'IA dit qu'elle n'a pas percuté quelqu'un ? Il faudrait alors regarder la vidéo de Mira.
Dans le contexte de la blockchain, cela s'appelle "Intelligence Vérifiable".
Chaque modèle, chaque donnée, chaque décision laisse une trace, est vérifiable et transparente.

La société intelligente du futur sera probablement divisée en deux types :
Une façon est de devoir y croire ;
Une autre, c'est que tu peux le vérifier.