OPML: otimização de aplicações de aprendizado de máquina na Blockchain

OPML(Aprendizado de Máquina Otimista) é uma tecnologia emergente que permite a inferência e o treinamento de modelos de IA em sistemas de Blockchain. Em comparação com ZKML, o OPML tem vantagens em termos de custos baixos e alta eficiência. Vale a pena notar que a barreira de entrada para o OPML é muito baixa - mesmo um PC comum pode executar grandes modelos de linguagem, como o modelo 7B-LLaMA de 26GB.

A OPML utiliza um mecanismo de validação de jogos para garantir a descentralização e a verificabilidade dos serviços de ML. O seu fluxo de trabalho é o seguinte:

1. O usuário inicia um pedido de serviço ML
2. O servidor conclui a tarefa e submete o resultado na cadeia
3. Os validadores verificam os resultados; se houver objeções, iniciam o jogo de validação.
4. Precisar os passos controversos através do protocolo de consenso de duas partes
5. Por fim, realizar a arbitragem passo a passo no contrato inteligente

O jogo de verificação de uma única fase do OPML é semelhante ao cálculo da delegação (RDoC). Inclui os seguintes pontos-chave:

• Construir uma máquina virtual de execução fora da cadeia e arbitragem na cadeia (VM)
• Implementar uma biblioteca DNN leve dedicada para aumentar a eficiência
• Usar tecnologia de compilação cruzada para compilar o código de inferência de IA em instruções VM
• Utiliza uma árvore de Merkle para gerir as imagens de VM, apenas o raiz é carregado na cadeia

No entanto, os jogos de verificação de uma única fase têm uma limitação principal: todos os cálculos devem ser executados dentro da VM, não podendo tirar pleno partido da aceleração por GPU/TPU. Para isso, o OPML propôs uma solução de extensão para jogos de verificação em múltiplas fases.

A ideia central do OPML em múltiplas etapas é:

• Apenas calcular na VM na fase final
• Outras fases podem ser executadas no ambiente local, aproveitando ao máximo os recursos de hardware
• Utilizar a árvore de Merkle para garantir a integridade e segurança da transição entre fases

Tomando como exemplo o modelo LLaMA, o fluxo de trabalho do OPML em duas fases é:

1. Segunda fase: validar o jogo na grafo de computação, utilizando CPU ou GPU multithread.
2. Primeira fase: converter o cálculo de um único nó em instruções VM

A OPML de múltiplas fases apresenta vantagens significativas em comparação com a solução de uma única fase:

• Aumento da velocidade de cálculo em α vezes ( α para GPU/razão de aceleração paralela )
• O tamanho da árvore de Merkle diminuiu de O(mn) para O(m+n)

Para garantir a consistência dos resultados do ML, a OPML adotou duas tecnologias chave:

1. Algoritmo de ponto fixo ( técnica de quantização ): usar precisão fixa em vez de números de ponto flutuante
2. Biblioteca de ponto flutuante baseada em software: garantir consistência entre plataformas

De um modo geral, a OPML oferece uma solução eficiente, de baixo custo e descentralizada para o aprendizado de máquina na Blockchain. Embora atualmente esteja principalmente focada na inferência de modelos, a estrutura também suporta o processo de treinamento, com potencial para se tornar uma plataforma de aprendizado de máquina universal.