Encontrei um velho fren, ele trabalha numa startup de IA. Enquanto conversávamos, ele suspirou e disse:

"A IA de agora é realmente inteligente, mas - é um pouco desonesta."
Perguntei o que significa.
Ele disse que o modelo deles aprende rapidamente todos os dias e toma decisões mais precisas do que os humanos, mas o problema é: ninguém sabe por que ele decide assim.
Às vezes, o modelo aprova um empréstimo e recusa um usuário, tudo baseado na "lógica da caixa-preta".
Por que foi perguntado?
Não tem nem uma explicação.

Eu sorri e disse: "Então vocês estão a ser guiados pelo AI, não é?"
Ele acenou com a cabeça: "Claro, ninguém sabe se o algoritmo por trás é realmente eficaz ou não."
Neste momento, mencionei @miranetwork.
"Mira é quem cuida dessas coisas."
Não se trata de mudar a IA, mas de colocar cada pensamento da IA em cadeia, permitindo que todos os dados e caminhos de decisão possam ser verificados.
Para dar um exemplo,
AI é o motorista, Mira é a câmara de carro.
A IA diz que não atropelou ninguém? Então é melhor dar uma olhada nas gravações da Mira.
No contexto da blockchain, isso é chamado de "Inteligência Verificável".
Cada modelo, cada dado, cada decisão, deixa vestígios, é verificável, transparente.

No futuro, a sociedade inteligente provavelmente se dividirá em duas tipos:
Uma é que você tem que acreditar nela;
Outra é que você pode consultá-lo.