OPML:優化機器學習在區塊鏈上的應用

OPML(Optimistic機器學習)是一種新興技術,可以在區塊鏈系統上進行AI模型的推理和訓練。與ZKML相比,OPML具有成本低、效率高的優勢。值得注意的是,OPML的參與門檻非常低 - 即使普通PC也能運行大型語言模型,如26GB大小的7B-LLaMA模型。

OPML採用驗證遊戲機制來確保ML服務的去中心化和可驗證性。其工作流程如下:

1. 用戶發起ML服務請求
2. 服務器完成任務並將結果提交上鏈
3. 驗證者對結果進行驗證,如有異議則啓動驗證遊戲
4. 通過二分協議精確定位有爭議的步驟
5. 最後在智能合約上進行單步仲裁

OPML的單階段驗證遊戲類似於計算委托(RDoC)。它包括以下關鍵點:

• 構建鏈下執行和鏈上仲裁的虛擬機(VM)
• 實現專門的輕量級DNN庫以提高效率
• 使用交叉編譯技術將AI推理代碼編譯爲VM指令
• 採用默克爾樹管理VM鏡像,只將根上傳到鏈上

然而,單階段驗證遊戲存在一個主要限制:所有計算必須在VM內執行,無法充分利用GPU/TPU加速。爲此,OPML提出了多階段驗證遊戲的擴展方案。

多階段OPML的核心思想是:

• 僅在最後階段在VM中計算
• 其他階段可在本地環境中執行,充分利用硬件資源
• 採用默克爾樹確保階段間過渡的完整性和安全性

以LLaMA模型爲例,兩階段OPML的工作流程爲:

1. 第二階段:在計算圖上進行驗證博弈,利用多線程CPU或GPU
2. 第一階段:將單個節點計算轉換爲VM指令

多階段OPML相比單階段方案具有顯著優勢:

• 計算速度提升α倍(α爲GPU/並行加速比)
• Merkle樹大小從O(mn)減小到O(m+n)

爲確保ML結果的一致性,OPML採用了兩項關鍵技術:

1. 定點算法(量化技術):使用固定精度代替浮點數
2. 基於軟件的浮點庫:確保跨平台一致性

總的來說,OPML爲區塊鏈上的機器學習提供了一種高效、低成本且去中心化的解決方案。雖然目前主要聚焦於模型推理,但該框架也支持訓練過程,有望成爲通用的機器學習平台。