OPML: Aprendizaje automático optimista en la cadena de bloques

OPML(Optimismo en el aprendizaje automático) es una nueva tecnología que permite ejecutar inferencias y entrenamientos/ajustes de modelos de IA en sistemas de Cadena de bloques. En comparación con ZKML, OPML puede proporcionar servicios de aprendizaje automático a un costo más bajo y con mayor eficiencia. El umbral de OPML es bajo, una PC común puede ejecutar OPML que incluye modelos de lenguaje grandes sin necesidad de GPU, como el modelo 7B-LLaMA de 26GB.

OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y el consenso verificable del servicio ML. Su proceso es el siguiente:

1. El solicitante inicia la tarea del servicio ML
2. El servidor completa la tarea y envía los resultados a on-chain
3. Los validadores revisan los resultados, y si hay objeciones, inician el juego de validación.
4. Arbitraje de los pasos en disputa a través de un contrato inteligente

Juego de verificación de una sola etapa

El juego de verificación de una sola etapa es similar al mecanismo de delegación de cálculos (RDoC). El juego de verificación de una sola etapa de OPML tiene las siguientes características:

• Construir una máquina virtual para la ejecución fuera de la cadena y el arbitraje en la cadena (VM)
• Implementar una biblioteca DNN liviana especializada, mejorar la eficiencia de la inferencia del modelo de IA
• Usar tecnología de compilación cruzada para compilar el código de inferencia del modelo de IA en instrucciones de VM
• La imagen de VM se gestiona a través de un árbol de Merkle, solo se sube el hash raíz a la cadena de bloques

Las pruebas de rendimiento indican que, en una PC normal, la inferencia del modelo básico de IA (MNIST clasificación DNN) se puede completar en menos de 2 segundos, y todo el proceso del desafío se puede completar en 2 minutos.

Juego de verificación multietapa

Para superar las limitaciones de la verificación de una sola etapa, OPML introdujo un juego de verificación de múltiples etapas:

• Solo calcular en la VM en la fase final, las otras fases se pueden ejecutar de forma flexible en el entorno local.
• Utilizar la capacidad de aceleración de hardware como CPU, GPU, TPU.
• Mejorar la eficiencia de ejecución reduciendo la dependencia de VM

La idea central del OPML de múltiples etapas es representar el proceso de cálculo DNN como un gráfico de cálculo y llevar a cabo un juego de verificación sobre dicho gráfico. Este enfoque puede aprovechar al máximo las ventajas de la GPU o del procesamiento paralelo, mejorando significativamente el rendimiento.

Consistencia y determinación

OPML utiliza el siguiente método para garantizar la consistencia de los resultados de ML:

1. Utilizar algoritmos de punto fijo ( para la técnica de cuantificación ) para reducir el error de redondeo de punto flotante.
2. Utilizar una biblioteca de punto flotante de software consistente entre plataformas

Estas tecnologías ayudan a superar las diferencias computacionales que surgen de diferentes entornos de hardware y software, garantizando la fiabilidad de los resultados de OPML.

OPML todavía se encuentra en fase de desarrollo, invitamos a los desarrolladores interesados a participar y contribuir.