OPML: Ефективна та масштабована Децентралізація нових технологій машинного навчання

robot
Генерація анотацій у процесі

OPML: Розширювана Децентралізація машинного навчання

Нещодавно запропонована технологія OPML( оптимістичного машинного навчання ) забезпечує новий метод інференції та навчання AI моделей для блокчейн-систем. В порівнянні з ZKML, OPML має переваги низької вартості та високої ефективності, і здатна запускати великі мовні моделі, такі як 7B-LLaMA розміром 26 ГБ, на звичайних ПК.

OPML:Використання системи Optimistic Rollup для машинного навчання

OPML використовує механізм верифікаційних ігор для забезпечення децентралізації та верифікації ML-сервісів. Його робочий процес включає:

  1. Запитувач ініціює ML завдання
  2. Сервер виконав завдання та надіслав результати в ланцюг
  3. Верифікатори перевіряють результати, у разі незгоди запускається верифікаційна гра
  4. Точне визначення помилкових кроків за допомогою бінарного протоколу
  5. Нарешті, виконайте покрокове арбітраж на смарт-контракті

OPML:Використання системи Optimistic Rollup у машинному навчанні

Щоб підвищити ефективність, OPML використовує спеціально розроблену легковагу бібліотеку DNN та технологію крос-компіляції. Віртуальні образи керуються через дерево Меркла, лише коренева хеш-значення завантажується на ланцюг.

Одноетапний OPML має деякі обмеження, такі як неможливість повною мірою використовувати прискорення GPU. Для вирішення цієї проблеми було запропоновано багатоетапне рішення OPML:

  • Обчислення лише на останньому етапі у VM
  • Інші етапи можуть виконуватися в локальному середовищі з використанням апаратного прискорення
  • Забезпечення цілісності переходу між етапами за допомогою дерева Меркла

OPML:Використання системи Optimistic Rollup для машинного навчання

В якості прикладу моделі LLaMA, використовується двофазний OPML:

  1. Другий етап проходить верифікацію гри на обчислювальному графіку
  2. Перший етап переведе обчислення з одного вузла на виконання інструкцій VM

Багатоступеневий OPML може досягти прискорення в α разів порівняно з одноетапним, а розмір дерева Меркла є меншим.

! OPML: Машинне навчання з Optimistic Rollup

Для забезпечення узгодженості результатів, OPML використовує фіксований алгоритм та кросплатформену бібліотеку з плаваючою комою. У порівнянні з ZKML, OPML має переваги в обчислювальній ефективності, універсальності та складності розробки.

OPML:Використання системи Optimistic Rollup для машинного навчання

Технологія OPML все ще розробляється, запрошуємо зацікавлених розробників брати участь у внесках.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 4
  • Поділіться
Прокоментувати
0/400
liquiditea_sippervip
· 10год тому
Техно-герой прийшов
Переглянути оригіналвідповісти на0
FadCatchervip
· 10год тому
новачок також може грати в AI!
Переглянути оригіналвідповісти на0
GateUser-e51e87c7vip
· 10год тому
Зниження витрат і підвищення ефективності - це шлях до успіху
Переглянути оригіналвідповісти на0
BearMarketBarbervip
· 10год тому
Потрібно для розумових здібностей азартного гравця...
Переглянути оригіналвідповісти на0
  • Закріпити