Encontrei um velho fren, ele trabalha numa startup de IA. Enquanto conversávamos, ele suspirou e disse:
"A IA de agora é realmente inteligente, mas - é um pouco desonesta." Perguntei o que significa. Ele disse que o modelo deles aprende rapidamente todos os dias e toma decisões mais precisas do que os humanos, mas o problema é: ninguém sabe por que ele decide assim. Às vezes, o modelo aprova um empréstimo e recusa um usuário, tudo baseado na "lógica da caixa-preta". Por que foi perguntado? Não tem nem uma explicação.
Eu sorri e disse: "Então vocês estão a ser guiados pelo AI, não é?" Ele acenou com a cabeça: "Claro, ninguém sabe se o algoritmo por trás é realmente eficaz ou não." Neste momento, mencionei @miranetwork. "Mira é quem cuida dessas coisas." Não se trata de mudar a IA, mas de colocar cada pensamento da IA em cadeia, permitindo que todos os dados e caminhos de decisão possam ser verificados. Para dar um exemplo, AI é o motorista, Mira é a câmara de carro. A IA diz que não atropelou ninguém? Então é melhor dar uma olhada nas gravações da Mira. No contexto da blockchain, isso é chamado de "Inteligência Verificável". Cada modelo, cada dado, cada decisão, deixa vestígios, é verificável, transparente.
No futuro, a sociedade inteligente provavelmente se dividirá em duas tipos: Uma é que você tem que acreditar nela; Outra é que você pode consultá-lo.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
Encontrei um velho fren, ele trabalha numa startup de IA. Enquanto conversávamos, ele suspirou e disse:
"A IA de agora é realmente inteligente, mas - é um pouco desonesta."
Perguntei o que significa.
Ele disse que o modelo deles aprende rapidamente todos os dias e toma decisões mais precisas do que os humanos, mas o problema é: ninguém sabe por que ele decide assim.
Às vezes, o modelo aprova um empréstimo e recusa um usuário, tudo baseado na "lógica da caixa-preta".
Por que foi perguntado?
Não tem nem uma explicação.
Eu sorri e disse: "Então vocês estão a ser guiados pelo AI, não é?"
Ele acenou com a cabeça: "Claro, ninguém sabe se o algoritmo por trás é realmente eficaz ou não."
Neste momento, mencionei @miranetwork.
"Mira é quem cuida dessas coisas."
Não se trata de mudar a IA, mas de colocar cada pensamento da IA em cadeia, permitindo que todos os dados e caminhos de decisão possam ser verificados.
Para dar um exemplo,
AI é o motorista, Mira é a câmara de carro.
A IA diz que não atropelou ninguém? Então é melhor dar uma olhada nas gravações da Mira.
No contexto da blockchain, isso é chamado de "Inteligência Verificável".
Cada modelo, cada dado, cada decisão, deixa vestígios, é verificável, transparente.
No futuro, a sociedade inteligente provavelmente se dividirá em duas tipos:
Uma é que você tem que acreditar nela;
Outra é que você pode consultá-lo.