OPML: Оптимистичные машинные обучения в Блокчейн

OPML(Оптимистичная машинное обучение) — это новая технология, которая может выполнять вывод и обучение/тонкую настройку AI моделей в блокчейн системах. В отличие от ZKML, OPML может предоставлять услуги машинного обучения с более низкими затратами и более высокой эффективностью. Порог входа для OPML невысок, обычный ПК может запускать OPML, содержащий большие языковые модели, такие как модель 7B-LLaMA размером 26 ГБ, без GPU.

OPML использует механизм верификационной игры для обеспечения децентрализации и проверяемого консенсуса ML-сервисов. Его процесс следующий:

1. Запросчик инициирует задачу ML-сервиса
2. Сервер завершил задачу и отправил результат в блокчейн
3. Проверяющий проверяет результаты, в случае разногласий запускает игру на проверку.
4. Арбитраж шагов спора через смарт-контракт

! OPML: Машинное обучение с оптимистичной системой свертывания

Однофазная верификационная игра

Одноступенчатая верификация игры похожа на механизм вычислительной делегации (RDoC). Одноступенчатая верификация игры OPML имеет следующие характеристики:

• Построить виртуальную машину для выполнения вне блокчейна и арбитража в блокчейне (VM)
• Реализовать специализированную легковесную библиотеку DNN, чтобы повысить эффективность вывода AI-моделей
• Используйте технологию кросс-компиляции для компиляции кода вывода AI модели в инструкции VM
• Образы VM управляются с помощью дерева Меркла, только корневой хэш загружается в блокчейн.

Тестирование производительности показало, что на обычном ПК вывод базовой модели ИИ ( MNIST классификация DNN ) может быть завершен за 2 секунды, а весь процесс испытаний может быть завершен за 2 минуты.

! OPML: Машинное обучение с оптимистичным свертыванием

Многоуровневая верификация игры

Чтобы преодолеть ограничения одноэтапной верификации, OPML ввел многопроцессный верификационный игровой процесс:

• Вычисления выполняются только на VM на последнем этапе, на других этапах можно гибко выполнять в локальной среде
• Использование аппаратных возможностей ускорения, таких как CPU, GPU, TPU
• Повышение эффективности выполнения за счет уменьшения зависимости от ВМ

Основная идея многослойного OPML заключается в представлении процесса вычислений DNN в виде вычислительного графа и проведении верификационной игры на этом графе. Этот подход позволяет в полной мере использовать преимущества GPU или параллельной обработки, значительно повышая производительность.

! OPML: Машинное обучение с оптимистичным свертыванием

Согласованность и детерминированность

OPML использует следующие методы для обеспечения согласованности результатов ML:

1. Используйте алгоритм фиксированной точки ( для квантования технологий ), чтобы уменьшить ошибки округления с плавающей точкой.
2. Использовать согласованную программную библиотеку с плавающей запятой на разных платформах

Эти технологии помогают преодолеть вычислительные различия, возникающие из-за различных аппаратных и программных сред, и гарантируют надежность результатов OPML.

OPML все еще находится на стадии разработки, приветствуем заинтересованных разработчиков к участию в вкладе.

! OPML: Машинное обучение с оптимистичной системой свертывания