Нові виклики безпеки в умовах інтеграції AI та Web3

Нещодавно Стамбульський тиждень блокчейн-технологій (IBW 2025) зосередився на тенденціях інтеграції AI та Web3, ставши важливою платформою для обговорення безпеки Web3 цього року. Протягом двох днів заходу кілька експертів галузі провели глибокі дискусії про поточний стан застосування технологій AI у децентралізованих фінансах (DeFi) та виклики безпеки.

З розвитком великих мовних моделей (LLM) та AI-агентів формується нова фінансова парадигма — децентралізовані фінансові технології штучного інтелекту (DeFAI). Однак ця інновація також створює нові вектори атак та загрози безпеці.

Експерти, які брали участь у конференції, зазначили, що хоча DeFAI має великі перспективи, це також вимагає від нас переглянути механізми довіри в децентралізованих системах. На відміну від смарт-контрактів, що базуються на фіксованій логіці, процес прийняття рішень AI-агентів підлягає впливу контексту, часу та навіть історичної взаємодії; ця непередбачуваність не лише загострює ризики, але й створює можливості для зловмисників.

AI-агенти по суті є інтелектуальними сутностями, які можуть приймати автономні рішення та виконувати їх на основі логіки штучного інтелекту, зазвичай працюють за授权ом користувача, протоколу або DAO. Найбільш типовим представником є AI-торгові роботи. Наразі більшість AI-агентів працює на основі архітектури Web2, покладаючись на централізовані сервери та API, що робить їх вразливими до ін'єкційних атак, маніпуляцій з моделями або підробки даних. Якщо їх захопити, це може призвести не лише до втрати коштів, але й вплинути на стабільність усього протоколу.

У форумі згадано типовий сценарій атаки: коли AI-торговий агент, що працює у користувача DeFi, моніторить повідомлення в соціальних мережах як торгові сигнали, зловмисник може опублікувати фальшиве сповіщення, наприклад, "якийсь протокол зазнав атаки", спокушаючи агента негайно розпочати термінове очищення активів. Ця операція не лише призведе до втрати активів користувача, але й викличе коливання на ринку, які зловмисник зможе використати через попереднє торгівлю (Front Running).

Щодо цих ризиків, експерти, які брали участь у зустрічі, загалом вважають, що безпека AI-агентів не повинна покладатися лише на одну сторону, а є спільною відповідальністю користувачів, розробників та третіх сторін безпеки.

По-перше, користувачі повинні чітко розуміти обсяг прав, якими володіє агент, обережно надавати права та уважно перевіряти високоризикові операції AI-агента. По-друге, розробники повинні впроваджувати заходи безпеки вже на стадії проектування, такі як: посилення підказок, ізоляція в пісочниці, обмеження швидкості та логіка повернення. А компанії з безпеки третьої сторони повинні надавати незалежний аудит поведінки моделей AI-агентів, інфраструктури та способів інтеграції в блокчейн, а також співпрацювати з розробниками та користувачами для виявлення ризиків та пропонування заходів для їх пом'якшення.

Експерти попереджають: "Якщо продовжувати ставитися до AI-агентів як до 'чорної скриньки', то нещасний випадок у реальному світі – це лише питання часу." Для розробників, які досліджують напрямок DeFAI, рекомендація така: "Як і в разі смарт-контрактів, логіка поведінки AI-агентів також реалізується за допомогою коду. Оскільки це код, існує ймовірність атак, тому необхідно провести професійний аудит безпеки та тестування на проникнення."

Як одна з найвпливовіших блокчейн-подій Європи, IBW залучила понад 15 тисяч учасників з усього світу, включаючи розробників, проекти, інвесторів та регуляторів. Цього року, після офіційного запуску видачі ліцензій на блокчейн-проекти Комісією з капітальних ринків Туреччини (CMB), індустріальний статус IBW отримав подальше підвищення.