OPML: Blok Zinciri üzerindeki makine öğrenimini optimize etme

OPML(Optimistik Makine Öğrenimi), blok zinciri sistemlerinde AI modellerinin çıkarımı ve eğitimi için kullanılabilen yeni bir teknolojidir. ZKML ile kıyaslandığında, OPML'nin düşük maliyet ve yüksek verimlilik avantajları vardır. Dikkate değer bir nokta, OPML'nin katılım eşiğinin çok düşük olmasıdır - sıradan bir PC bile 26GB boyutundaki 7B-LLaMA modeli gibi büyük dil modellerini çalıştırabilir.

OPML, ML hizmetlerinin merkeziyetsizliğini ve doğrulanabilirliğini sağlamak için bir doğrulama oyun mekanizması kullanır. Çalışma akışı aşağıdaki gibidir:

1. Kullanıcı ML hizmet talebini başlatır.
2. Sunucu görevi tamamlar ve sonucu on-chain gönderir.
3. Doğrulayıcılar sonuçları doğrular, itiraz varsa doğrulama oyunu başlatılır.
4. İki taraflı protokol ile tartışmalı adımları kesin olarak belirleme
5. Akıllı sözleşme üzerinde adım adım tahkim yapmak.

OPML'nin tek aşamalı doğrulama oyunu, (RDoC) hesaplama yetkisini benzer. Aşağıdaki ana noktaları içerir:

• Off-chain yürütme ve on-chain tahkim için sanal makine (VM)
• Verimliliği artırmak için özel hafif DNN kütüphanesi geliştirmek
• AI çıkarım kodunu VM talimatlarına derlemek için çapraz derleme teknolojisi kullanın
• Merkle ağaçlarını kullanarak VM görüntülerini yönetmek, yalnızca kökü on-chain'e yüklemek.

Ancak, tek aşamalı doğrulama oyununun bir ana sınırlaması vardır: Tüm hesaplamalar VM içinde gerçekleştirilmelidir ve GPU/TPU hızlandırmasından tam olarak yararlanamaz. Bu nedenle, OPML çok aşamalı doğrulama oyununun genişletme planını önerdi.

Çok aşamalı OPML'nin temel düşüncesi şudur:

• Sadece son aşamada VM'de hesaplama yapın
• Diğer aşamalar yerel ortamda gerçekleştirilebilir, donanım kaynaklarından tam olarak faydalanır.
• Aşamalar arası geçişin bütünlüğünü ve güvenliğini sağlamak için Merkle ağacı kullanılır.

LLaMA modelini örnek alarak, iki aşamalı OPML'in çalışma süreci şudur:

1. İkinci aşama: Hesaplama grafiği üzerinde doğrulama oyunu oynama, çoklu iş parçacığı CPU veya GPU kullanarak
2. İlk Aşama: Tekil düğüm hesaplamasını VM talimatlarına dönüştürmek

Çok aşamalı OPML, tek aşamalı çözüme göre belirgin avantajlar sunmaktadır:

• Hesaplama hızı α kat artırıldı ( α GPU/paralel hızlandırma oranı )
• Merkle ağacı boyutu O(mn)'den O(m+n)'e küçüldü

ML sonuçlarının tutarlılığını sağlamak için OPML iki temel teknoloji kullanmıştır:

1. Sabit Nokta Algoritması ( Kuantizasyon Teknolojisi ): Kesin hassasiyet kullanarak kayan nokta sayısını yerine kullanmak
2. Yazılım Tabanlı Ondalık Kütüphanesi: Çoklu Platform Tutarlılığını Sağlamak

Genel olarak, OPML blok zinciri üzerindeki makine öğrenimi için etkili, düşük maliyetli ve merkeziyetsiz bir çözüm sunmaktadır. Şu anda esas olarak model çıkarımına odaklanmış olsa da, bu çerçeve eğitim sürecini de desteklemekte ve evrensel bir makine öğrenimi platformu olma potansiyeline sahiptir.