OPML:ブロックチェーン上の楽観的な機械学習

OPML(楽観主義機械学習)は、ブロックチェーンシステム上でAIモデルの推論とトレーニング/ファインチューニングを実行する新しい技術です。ZKMLと比較して、OPMLはより低コストでより高効率で機械学習サービスを提供することができます。OPMLは敷居が低く、一般的なPCはGPUなしで、26GBの大きさの7B-LLaMAモデルなど、大型言語モデルを含むOPMLを実行できます。

! OPML:楽観的ロールアップによる機械学習

OPMLは、MLサービスの分散化と検証可能な合意を確保するために、検証ゲームメカニズムを採用しています。そのプロセスは以下の通りです:

1. リクエスターがMLサービスタスクを開始します
2. サーバーはタスクを完了し、結果をオンチェーンに提出します。
3. バリデーターは結果を確認し、異議がある場合は検証ゲームを開始します。
4. スマートコントラクトによる争議ステップの仲裁

! OPML:楽観的ロールアップシステムによる機械学習

シングルステージ検証ゲーム

単一段階の検証ゲームは、計算委託(RDoC)メカニズムに類似しています。OPMLの単一段階の検証ゲームは、以下の特徴を持っています:

• オンチェーン仲裁とオフチェーン実行のための仮想マシン(VM)
• 専用の軽量DNNライブラリを実現し、AIモデルの推論効率を向上させる
• クロスコンパイル技術を使用してAIモデル推論コードをVM命令にコンパイルする
• VMイメージはメルクルツリーによって管理され、ルートハッシュのみがオンチェーンにアップロードされます

性能テストによれば、通常のPC上で、基本的なAIモデル(MNIST分類DNN)の推論は2秒以内に完了し、全体のチャレンジプロセスは2分以内に完了できます。

! OPML:楽観的ロールアップによる機械学習

マルチステージ検証ゲーム

単一段階の検証の制限を克服するために、OPMLは多段階検証ゲームを導入しました。

• 最後の段階でのみVMで計算し、他の段階はローカル環境で柔軟に実行できます
• CPU、GPU、TPUなどのハードウェアアクセラレーション機能を利用する
• VM依存を減らすことで実行効率を向上させる

多段階OPMLの核心思想は、DNN計算プロセスを計算グラフとして表現し、計算グラフ上で検証ゲームを行うことです。この方法はGPUや並列処理の利点を十分に活用でき、パフォーマンスを大幅に向上させることができます。

! OPML:楽観的ロールアップによる機械学習

一貫性と確実性

OPMLはML結果の一貫性を確保するために以下の方法を採用しています:

1. 定点アルゴリズム(を使用して、量化技術)で浮動小数点の丸め誤差を減少させます。
2. クロスプラットフォームで一貫したソフトウェア浮動小数点ライブラリを採用する

これらの技術は、異なるハードウェアおよびソフトウェア環境による計算の差異を克服するのに役立ち、OPMLの結果の信頼性を保証します。

OPMLはまだ開発段階にあり、興味のある開発者の参加を歓迎します。

! OPML:楽観的ロールアップシステムによる機械学習