OPML: Оптимістичне машинне навчання у блокчейні

OPML(Оптимістичне машинне навчання) є новою технологією, яка може виконувати інференцію і навчання/доладку AI моделей у блокчейн системах. На відміну від ZKML, OPML може надавати послуги машинного навчання з нижчими витратами та вищою ефективністю. Порогові вимоги для OPML нижчі, звичайний ПК може працювати з OPML, що містить великі мовні моделі, такі як модель 7B-LLaMA розміром 26 ГБ, без необхідності в GPU.

! OPML: Машинне навчання з Optimistic Rollup

OPML використовує механізм верифікації гри для забезпечення децентралізованості та верифікованого консенсусу ML-сервісів. Його процес виглядає наступним чином:

1. Запитувач ініціює завдання ML-сервісу
2. Сервер завершив завдання та надіслав результати у блокчейн
3. Верифікатори перевіряють результати, якщо є заперечення, то запускається верифікаційна гра
4. Арбітраж кроків суперечки через смарт-контракти

Одноетапна верифікаційна гра

Одноетапна верифікаційна гра подібна до механізму обчислювальної делегованості (RDoC). Одноетапна верифікаційна гра OPML має такі характеристики:

• Побудова віртуальної машини для виконання поза блокчейном і арбітражу у блокчейні (VM)
• Реалізувати спеціалізовану легковагу бібліотеку DNN для підвищення ефективності інференсу AI моделей
• Використання технології крос-компіляції для компіляції коду інференсу AI-моделі в інструкції VM
• VM-образи управляються за допомогою дерева Меркла, лише кореневий хеш завантажується у блокчейн

Тестування продуктивності показало, що на звичайному ПК інференція базової AI моделі (MNIST класифікації DNN) може бути завершена за 2 секунди, а весь процес змагання може бути завершений за 2 хвилини.

Багатоступенева верифікація гри

Щоб подолати обмеження однофазної перевірки, OPML впроваджує багатофазну перевірку гри:

• Обчислення виконуються лише на останньому етапі у VM, інші етапи можуть бути виконані гнучко в локальному середовищі
• Використання апаратних можливостей прискорення, таких як CPU, GPU, TPU
• Підвищення ефективності виконання шляхом зменшення залежності від VM

Основна ідея багатоступеневої OPML полягає в представленні процесу обчислення DNN у вигляді обчислювального графа, на якому проводиться верифікаційна гра. Цей підхід дозволяє максимально використовувати переваги GPU або паралельної обробки, що істотно підвищує продуктивність.

Узгодженість та визначеність

OPML використовує такі методи для забезпечення узгодженості результатів ML:

1. Використовуйте алгоритм фіксованої точки ( для кількісних технологій ) для зменшення помилок округлення з плаваючою точкою
2. Використання узгодженої програмної бібліотеки з плаваючою комою для різних платформ

Ці технології допомагають подолати обчислювальні відмінності, викликані різними апаратними та програмними середовищами, забезпечуючи надійність результатів OPML.

OPML все ще перебуває на стадії розробки, запрошуємо зацікавлених розробників приєднатися до внесків.