OPML:优化机器学习在区块链上的应用

OPML(Optimistic机器学习)是一种新兴技术,可以在区块链系统上进行AI模型的推理和训练。与ZKML相比,OPML具有成本低、效率高的优势。值得注意的是,OPML的参与门槛非常低 - 即使普通PC也能运行大型语言模型,如26GB大小的7B-LLaMA模型。

OPML采用验证游戏机制来确保ML服务的去中心化和可验证性。其工作流程如下:

1. 用户发起ML服务请求
2. 服务器完成任务并将结果提交上链
3. 验证者对结果进行验证,如有异议则启动验证游戏
4. 通过二分协议精确定位有争议的步骤
5. 最后在智能合约上进行单步仲裁

OPML的单阶段验证游戏类似于计算委托(RDoC)。它包括以下关键点:

• 构建链下执行和链上仲裁的虚拟机(VM)
• 实现专门的轻量级DNN库以提高效率
• 使用交叉编译技术将AI推理代码编译为VM指令
• 采用默克尔树管理VM镜像,只将根上传到链上

然而,单阶段验证游戏存在一个主要限制:所有计算必须在VM内执行,无法充分利用GPU/TPU加速。为此,OPML提出了多阶段验证游戏的扩展方案。

多阶段OPML的核心思想是:

• 仅在最后阶段在VM中计算
• 其他阶段可在本地环境中执行,充分利用硬件资源
• 采用默克尔树确保阶段间过渡的完整性和安全性

以LLaMA模型为例,两阶段OPML的工作流程为:

1. 第二阶段:在计算图上进行验证博弈,利用多线程CPU或GPU
2. 第一阶段:将单个节点计算转换为VM指令

多阶段OPML相比单阶段方案具有显著优势:

• 计算速度提升α倍(α为GPU/并行加速比)
• Merkle树大小从O(mn)减小到O(m+n)

为确保ML结果的一致性,OPML采用了两项关键技术:

1. 定点算法(量化技术):使用固定精度代替浮点数
2. 基于软件的浮点库:确保跨平台一致性

总的来说,OPML为区块链上的机器学习提供了一种高效、低成本且去中心化的解决方案。虽然目前主要聚焦于模型推理,但该框架也支持训练过程,有望成为通用的机器学习平台。