OPML: Розширювана Децентралізація машинного навчання
Нещодавно запропонована технологія OPML( оптимістичного машинного навчання ) забезпечує новий метод інференції та навчання AI моделей для блокчейн-систем. В порівнянні з ZKML, OPML має переваги низької вартості та високої ефективності, і здатна запускати великі мовні моделі, такі як 7B-LLaMA розміром 26 ГБ, на звичайних ПК.
OPML використовує механізм верифікаційних ігор для забезпечення децентралізації та верифікації ML-сервісів. Його робочий процес включає:
Запитувач ініціює ML завдання
Сервер виконав завдання та надіслав результати в ланцюг
Верифікатори перевіряють результати, у разі незгоди запускається верифікаційна гра
Точне визначення помилкових кроків за допомогою бінарного протоколу
Нарешті, виконайте покрокове арбітраж на смарт-контракті
Щоб підвищити ефективність, OPML використовує спеціально розроблену легковагу бібліотеку DNN та технологію крос-компіляції. Віртуальні образи керуються через дерево Меркла, лише коренева хеш-значення завантажується на ланцюг.
Одноетапний OPML має деякі обмеження, такі як неможливість повною мірою використовувати прискорення GPU. Для вирішення цієї проблеми було запропоновано багатоетапне рішення OPML:
Обчислення лише на останньому етапі у VM
Інші етапи можуть виконуватися в локальному середовищі з використанням апаратного прискорення
Забезпечення цілісності переходу між етапами за допомогою дерева Меркла
В якості прикладу моделі LLaMA, використовується двофазний OPML:
Другий етап проходить верифікацію гри на обчислювальному графіку
Перший етап переведе обчислення з одного вузла на виконання інструкцій VM
Багатоступеневий OPML може досягти прискорення в α разів порівняно з одноетапним, а розмір дерева Меркла є меншим.
Для забезпечення узгодженості результатів, OPML використовує фіксований алгоритм та кросплатформену бібліотеку з плаваючою комою. У порівнянні з ZKML, OPML має переваги в обчислювальній ефективності, універсальності та складності розробки.
Технологія OPML все ще розробляється, запрошуємо зацікавлених розробників брати участь у внесках.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
9 лайків
Нагородити
9
4
Поділіться
Прокоментувати
0/400
liquiditea_sipper
· 10год тому
Техно-герой прийшов
Переглянути оригіналвідповісти на0
FadCatcher
· 10год тому
новачок також може грати в AI!
Переглянути оригіналвідповісти на0
GateUser-e51e87c7
· 10год тому
Зниження витрат і підвищення ефективності - це шлях до успіху
Переглянути оригіналвідповісти на0
BearMarketBarber
· 10год тому
Потрібно для розумових здібностей азартного гравця...
OPML: Ефективна та масштабована Децентралізація нових технологій машинного навчання
OPML: Розширювана Децентралізація машинного навчання
Нещодавно запропонована технологія OPML( оптимістичного машинного навчання ) забезпечує новий метод інференції та навчання AI моделей для блокчейн-систем. В порівнянні з ZKML, OPML має переваги низької вартості та високої ефективності, і здатна запускати великі мовні моделі, такі як 7B-LLaMA розміром 26 ГБ, на звичайних ПК.
OPML використовує механізм верифікаційних ігор для забезпечення децентралізації та верифікації ML-сервісів. Його робочий процес включає:
Щоб підвищити ефективність, OPML використовує спеціально розроблену легковагу бібліотеку DNN та технологію крос-компіляції. Віртуальні образи керуються через дерево Меркла, лише коренева хеш-значення завантажується на ланцюг.
Одноетапний OPML має деякі обмеження, такі як неможливість повною мірою використовувати прискорення GPU. Для вирішення цієї проблеми було запропоновано багатоетапне рішення OPML:
В якості прикладу моделі LLaMA, використовується двофазний OPML:
Багатоступеневий OPML може досягти прискорення в α разів порівняно з одноетапним, а розмір дерева Меркла є меншим.
! OPML: Машинне навчання з Optimistic Rollup
Для забезпечення узгодженості результатів, OPML використовує фіксований алгоритм та кросплатформену бібліотеку з плаваючою комою. У порівнянні з ZKML, OPML має переваги в обчислювальній ефективності, універсальності та складності розробки.
Технологія OPML все ще розробляється, запрошуємо зацікавлених розробників брати участь у внесках.