Поєднання штучного інтелекту та Web3 викликає нові виклики безпеці, DeFAI стає центром уваги

Нещодавно, Стамбульський тиждень блокчейну зосередився на тенденціях інтеграції AI та Web3, ставши важливою платформою для обговорення безпеки Web3 в галузі. Кілька експертів на круглому столі провели глибоке обговорення актуального стану та викликів безпеки технологій AI у децентралізованих фінансах.

З розвитком великих мовних моделей і AI-агентів поступово формується нова фінансова модель, відома як "DeFAI" (децентралізовані фінансові технології штучного інтелекту). Однак ця інновація також призвела до безпрецедентних ризиків безпеки.

Високопрофільний керівник безпекової компанії зазначив, що хоча DeFAI має великі перспективи, це також змушує нас переосмислити механізми довіри в децентралізованих системах. На відміну від традиційних фіксованих логічних смарт-контрактів, процес прийняття рішень AI-агентів підлягає впливу багатьох факторів, що робить його непередбачуваним, що не лише посилює ризики, але й створює можливості для потенційних нападників.

AI-агенти – це інтелектуальні системи, які здатні приймати автономні рішення та виконувати їх на основі логіки штучного інтелекту, найяскравішим представником яких є AI-трейдингові роботи. Наразі більшість AI-агентів все ще залежить від централізованих серверів та API, що робить їх вразливими до різноманітних атак, таких як ін'єкційні атаки, маніпуляції з моделями або підробка даних. Якщо їх захопити, це може призвести не лише до фінансових втрат, а й вплинути на стабільність цілого протоколу.

Експерти також обговорили типовий сценарій атаки: коли AI-торговий агент DeFi користувача моніторить інформацію в соціальних мережах як торгові сигнали, зловмисники можуть спонукати агента виконувати неналежні дії, такі як терміновий розпродаж, публікуючи фальшиві тривоги. Це не тільки призведе до втрати активів користувача, але й може викликати коливання на ринку, які зловмисники використовують для арбітражу.

Щодо цих ризиків, учасники конференції одностайно вважають, що безпеку AI-агентів повинні спільно підтримувати користувачі, розробники та сторонні безпекові організації. Користувачі повинні обережно надавати дозволи та уважно стежити за високоризикованими операціями AI-агентів. Розробники повинні впроваджувати заходи захисту вже на етапі проектування, такі як зміцнення підказок, ізоляція в пісочниці, обмеження швидкості та логіка відкату. Сторонні безпекові компанії повинні надавати незалежний аудит всіх аспектів AI-агентів і співпрацювати з розробниками та користувачами для виявлення ризиків і пропозицій щодо пом'якшення.

Для розробників, які досліджують напрям DeFAI, експерти рекомендують розглядати AI-агента як код, що може бути атакований, а не як "чорну скриньку". Тому проведення професійного аудиту безпеки та пенетраційного тестування має вирішальне значення.

Як одна з найвпливовіших блокчейн-подій Європи, Стамбульський блокчейн-тиждень залучив понад 15 тисяч розробників, проектних команд, інвесторів та регуляторів з усього світу. З запуском Комісією з капітальних ринків Туреччини ліцензування блокчейн-проектів, статус цієї події в індустрії ще більше зріс.