我在研究OpenGradient时意识到一些令人不舒服的事情。
我使用过的每一个AI模型,我都不知道它是否真的运行过。
不是以阴谋论的方式。是非常基本的技术层面。
当我向任何AI系统发送查询时,我会收到一个输出。但我没有任何证据证明我请求的模型就是处理我输入的模型。公司可能在运行一个更便宜的模型。一个不同的版本。某个被悄悄替换以降低成本的版本。
我永远不会知道。
这让我比我预期的还要困扰。
因为我们在AI之上构建金融系统、医疗工具和法律基础设施,而基础信任假设只是“相信我们,正确的模型已经运行”。
那不是基础设施。那是与一个黑箱的握手协议。
OpenGradient的HACA生成了关于哪个模型在什么输入、什么硬件环境下运行的加密证明。
不是公司的话语。不是日志文件。是证明。
a16z crypto和Coinbase Ventures支持了这个项目。已经在一个实时网络上验证了超过200万次推断。
AI基础设施的其他部分一直在小心规避的问题,OpenGradient正在构建答案。
你是否曾经想过,你查询的AI模型是否真的运行过,还是只是假设它运行过?
$OPG @OpenGradient