OPML: Mengoptimalkan penerapan pembelajaran mesin di Blockchain
OPML(Optimistic pembelajaran mesin) adalah teknologi yang sedang berkembang, yang dapat digunakan untuk inferensi dan pelatihan model AI di sistem Blockchain. Dibandingkan dengan ZKML, OPML memiliki keunggulan biaya rendah dan efisiensi tinggi. Perlu dicatat bahwa ambang partisipasi OPML sangat rendah - bahkan PC biasa dapat menjalankan model bahasa besar, seperti model 7B-LLaMA berukuran 26GB.
OPML menggunakan mekanisme permainan verifikasi untuk memastikan desentralisasi dan verifikasi layanan ML. Alur kerjanya adalah sebagai berikut:
Pengguna mengajukan permintaan layanan ML
Server menyelesaikan tugas dan mengirimkan hasilnya ke on-chain
Validator memverifikasi hasil, jika ada keberatan maka memulai permainan verifikasi
Menentukan langkah-langkah yang diperdebatkan dengan tepat melalui protokol biner
Terakhir lakukan arbitrase langkah demi langkah pada kontrak pintar
Permainan verifikasi satu tahap OPML mirip dengan perhitungan delegasi (RDoC). Ini mencakup poin-poin kunci berikut:
Membangun mesin virtual eksekusi off-chain dan arbitrase on-chain (VM)
Mewujudkan pustaka DNN ringan khusus untuk meningkatkan efisiensi
Menggunakan teknologi cross-compilation untuk mengkompilasi kode inferensi AI menjadi instruksi VM
Menggunakan pohon Merkle untuk mengelola gambar VM, hanya mengunggah akar ke on-chain
Namun, permainan verifikasi satu tahap memiliki satu keterbatasan utama: semua perhitungan harus dilakukan di dalam VM, dan tidak dapat memanfaatkan akselerasi GPU/TPU secara maksimal. Untuk itu, OPML mengusulkan skema perluasan permainan verifikasi multi-tahap.
Inti dari pemikiran OPML multi-tahap adalah:
Hanya menghitung di VM pada tahap terakhir
Tahap lainnya dapat dijalankan di lingkungan lokal, memanfaatkan sumber daya perangkat keras secara maksimal.
Menggunakan pohon Merkle untuk memastikan integritas dan keamanan transisi antar fase
Sebagai contoh model LLaMA, alur kerja OPML dua tahap adalah:
Tahap kedua: melakukan permainan verifikasi di atas grafik komputasi, menggunakan CPU atau GPU multi-thread
Tahap pertama: Mengubah perhitungan node tunggal menjadi instruksi VM
OPML multi-stage memiliki keunggulan signifikan dibandingkan dengan skema satu tahap:
Peningkatan kecepatan perhitungan α kali ( α adalah rasio percepatan GPU/paralel )
Ukuran pohon Merkle berkurang dari O(mn) menjadi O(m+n)
Untuk memastikan konsistensi hasil ML, OPML menggunakan dua teknologi kunci:
Algoritma titik tetap ( teknologi kuantifikasi ): menggunakan presisi tetap sebagai pengganti angka pecahan
Perpustakaan floating point berbasis perangkat lunak: memastikan konsistensi lintas platform
Secara keseluruhan, OPML menyediakan solusi yang efisien, biaya rendah, dan terdesentralisasi untuk pembelajaran mesin di Blockchain. Meskipun saat ini lebih fokus pada inferensi model, kerangka kerja ini juga mendukung proses pelatihan, diharapkan dapat menjadi platform pembelajaran mesin yang umum.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
19 Suka
Hadiah
19
5
Posting ulang
Bagikan
Komentar
0/400
GameFiCritic
· 08-09 04:21
26G dapat berjalan, rasio harga dan kinerja mengungguli ZKML kali ini.
Lihat AsliBalas0
BlockchainFries
· 08-06 12:35
Value for money adalah kebenaran yang tidak bisa diabaikan
Lihat AsliBalas0
Blockwatcher9000
· 08-06 12:34
Biaya begitu rendah, kapan bisa diterapkan?
Lihat AsliBalas0
RugPullAlertBot
· 08-06 12:19
Apa artinya ambang batas rendah? Jika permainan hancur, ya rug pull.
OPML: Solusi baru pembelajaran mesin efisien dan biaya rendah di Blockchain
OPML: Mengoptimalkan penerapan pembelajaran mesin di Blockchain
OPML(Optimistic pembelajaran mesin) adalah teknologi yang sedang berkembang, yang dapat digunakan untuk inferensi dan pelatihan model AI di sistem Blockchain. Dibandingkan dengan ZKML, OPML memiliki keunggulan biaya rendah dan efisiensi tinggi. Perlu dicatat bahwa ambang partisipasi OPML sangat rendah - bahkan PC biasa dapat menjalankan model bahasa besar, seperti model 7B-LLaMA berukuran 26GB.
OPML menggunakan mekanisme permainan verifikasi untuk memastikan desentralisasi dan verifikasi layanan ML. Alur kerjanya adalah sebagai berikut:
Permainan verifikasi satu tahap OPML mirip dengan perhitungan delegasi (RDoC). Ini mencakup poin-poin kunci berikut:
Namun, permainan verifikasi satu tahap memiliki satu keterbatasan utama: semua perhitungan harus dilakukan di dalam VM, dan tidak dapat memanfaatkan akselerasi GPU/TPU secara maksimal. Untuk itu, OPML mengusulkan skema perluasan permainan verifikasi multi-tahap.
Inti dari pemikiran OPML multi-tahap adalah:
Sebagai contoh model LLaMA, alur kerja OPML dua tahap adalah:
OPML multi-stage memiliki keunggulan signifikan dibandingkan dengan skema satu tahap:
Untuk memastikan konsistensi hasil ML, OPML menggunakan dua teknologi kunci:
Secara keseluruhan, OPML menyediakan solusi yang efisien, biaya rendah, dan terdesentralisasi untuk pembelajaran mesin di Blockchain. Meskipun saat ini lebih fokus pada inferensi model, kerangka kerja ini juga mendukung proses pelatihan, diharapkan dapat menjadi platform pembelajaran mesin yang umum.