АІ-агенти застрягли в режимі пілота, оскільки банки все ще їм не довіряють

Агентний ШІ привертає увагу у фінансах, але найбільша перешкода галузі вже не полягає у тому, чи є моделі достатньо потужними. Більш складною проблемою є те, чи мають банки, управителі активів і казначейські служби інфраструктуру для делегування фінансових завдань автономним системам без втрати контролю над грошима, відповідальністю або відповідністю.

Опитування Deloitte понад 3300 фахівців з фінансів та бухгалтерії чітко показало цю різницю: 80,5% заявили, що інструменти на базі ШІ, такі як агенти та чатботи GenAI, можуть стати стандартом протягом п’яти років, але лише 13,5% сказали, що їхні організації вже використовують агентний ШІ.

Citi Sky показав, чому важливо обговорювати інфраструктуру

Citi запустила Citi Sky, асистента з багатством на базі ШІ, створеного з використанням технологій Google Cloud і Google DeepMind, 22 квітня. Інструмент був розроблений за допомогою платформи Gemini Enterprise Agent від Google і планується поетапне впровадження для клієнтів Citigold у США цього літа.

Запуск дав живий приклад для дебатів щодо агентного ШІ у банківській сфері. Глава технологій багатства Citi Dipendra Malhotra звернув увагу на пам’ять як на центральне обмеження для високоризикового консультаційного ШІ, запитуючи, скільки довго клієнт може підтримувати розмову, перш ніж система почне галюцинувати.

Більшість агентів покладаються на генерацію з доповненням пошуку для розширення пам’яті через зовнішні бази даних. Окна контексту все ще обмежують кількість інформації, яку агент може тримати одночасно.

У фінансових порадах, управлінні казначейством або виконанні портфеля ця межа пам’яті стає більше ніж технічною проблемою. Це стає операційним ризиком.

МіньЧі Парк, співзасновник CoinFello, сказав, що умови для надійної делегації прості: агент може діяти лише відповідно до інструкцій користувача, користувач може зупинити його, а базові активи ніколи не переходять до третьої сторони.

Ethereum розробляє прототипи на блокчейні для ідентичності агента

Пропозиція Ethereum ERC-8004 вводить системи для ідентичності агента, репутації та верифікації. Проект стандарту передбачає три реєстри: Реєстр Ідентичності, Реєстр Репутації та Реєстр Верифікації.

Разом вони мають допомогти автономним агентам довести свою особу, створити запис поведінки та підтримувати верифікацію іншими учасниками ринку.

ERC-8183 пропонує більш вузький підхід. Він пропонує стандарт ескроу для роботи з оцінювачем, де клієнт фінансує завдання, постачальник подає роботу, а оцінювач завершує або відхиляє результат.

Пропозиція не передбачає арбітраж або формальне вирішення спорів, але дає рамки для агентних ринків щодо ескроу-завдань і підтверджуваного завершення.

У статті arXiv “Економіка агентів: блокчейн-базована основа для автономних агентів ШІ” описується п’ятишарова архітектура для цього переходу, що охоплює фізичну інфраструктуру, ідентичність у мережі, когнітивні інструменти, економічне врегулювання та колективне управління.

Шар репутації все ще має структурну вразливість. Агенти можуть генерувати активність швидше і масштабніше, ніж люди, що робить можливим штучне завищення сигналів довіри за короткий час.

Це залишає фінансові установи з важким питанням: коли агент має хорошу репутацію, чи є ця репутація доказом надійності, чи просто доказом повторюваної автоматизованої активності?

McKinsey оцінює, що 50% до 60% операцій банків належать до сфери діяльності

McKinsey оцінює, що 50% до 60% повних еквівалентів працівників банків пов’язані з операціями. Експерти попереджають про “пекло пілотів”, коли установи запускають вузькі прототипи без повного перепрограмування операційної моделі.

Як повідомляв Cryptopolitan з Гонконгського фестивалю Web3, McKinsey прогнозує, що ринок агентного ШІ зросте з 5,25 мільярдів доларів у 2024 році до приблизно 200 мільярдів доларів до 2034 року.

Генеральний директор W3.io Porter Stowell сказав: “Підприємства не мають способу бачити, контролювати або аудити системи з автономним управлінням щодо їхніх грошей. Надзор людини не зникає. Він просто переміщується вгору по стеку.”

Залишилися чотири нерозв’язані питання: хто несе відповідальність, коли агент ШІ спричиняє фінансові збитки, чи можна довіряти його репутації, хто контролює системи при масштабуванні, і яка нормативна база застосовується, коли агент діє поза межами своєї сфери.

Чи залишити банку найкращу частину? Дивіться наше безкоштовне відео про те, як бути своїм власним банком.