Чому жива структура є основою стимулювання інновацій у фінтеху

Imran Aftab, співзасновник і CEO 10Pearls.

Дізнайтеся про найкращі фінтех-новини та події!

Підпишіться на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інші

Фінанси завжди були чемпіоном цифрових інновацій, і остання хвиля ШІ не є винятком. Як галузь, яка перебуває під зростаючим тиском, щоб надавати клієнтам швидший, більш персоналізований та ефективний цифровий досвід, впровадження передових технологій є обов'язковим.

Оскільки фінтех-компанії переходять від експериментів зі ШІ до вбудовування його в свої основні стратегії, питання полягає не в цінності, яку приносить ШІ, а в тому, як ним керувати з часом. Без чітких керівних принципів, вбудованих у центральну структуру, фінтехи швидко зіткнуться з ризиками з точки зору репутації, регулювання та безпеки.

Жива структура не лише охоплює всі бази, але й робить це, не відстаючи від стратегій, що розвиваються. Вона сприяє, а не стримує інновації — без шкоди для фінтехів у процесі.

Знаходження балансу між справедливістю та точністю

Швидка цифровізація фінансових послуг також створює більше можливостей для потенційного шахрайства та кібератак. Однак некерований ШІ часто стає жертвою галюцинацій та упередженості — це означає, що власники рахунків можуть бути помилково позначені тими самими системами, призначеними для їхнього захисту.

Фінтехи повинні забезпечити послідовну роботу систем ШІ та відповідність стандартам продуктивності. Погане управління даними є наріжним каменем некерованого ШІ і призводить до катастрофічних наслідків. Справа не просто в діях у реальному часі, а в тому, щоб робити це точно та справедливо. Коли дані, що живлять ці системи, не керуються належним чином, розгортання приречене на провал.

Розглянемо систему ШІ, яка була дезінформована погано керованими та викривленими даними і помилково позначила законну велику транзакцію як шахрайство на основі поштового індексу власника рахунку. Певні демографічні групи виокремлюються на основі неточних історичних даних, що лише посилює упередженість проти окремих осіб або груп. Дискримінація не лише підриває довіру та стосунки, але й має довгострокові наслідки для репутації установи, особливо оскільки це прямо порушує закони про захист прав споживачів. Фінтехи мають юридичне зобов'язання справедливо та безпечно використовувати дані протягом усього життєвого циклу системи ШІ, і коли виникають порушення, під сумнів ставляться не інструменти, а команди, які їх використовують.

Наслідки посилюються далі. Ці сценарії створюють додаткове навантаження на команди, які потім змушені втручатися, витрачаючи дорогоцінні людські ресурси та час. Крім того, вони виявляють серйозні прогалини в існуючій основі. Некеровані дані є слабким місцем у цифровій структурі фінтеху, що робить його вразливим до реального шахрайства та кіберзагроз.

Жива структура управління протидіє цим ризикам, оскільки вимагає постійного моніторингу, тестування та переналаштування моделей ШІ. Це дозволяє фінансовим провайдерам постійно максимізувати свою стійкість до безпеки, регулярно оцінюючи та оновлюючи системи в міру зміни даних і ризиків. Водночас упередженість викорінюється, поступаючись місцем справедливості та точності.

Забезпечення пояснюваності та прозорості

Фінтехи, які дотримуються живої структури, запобігають тому, щоб ШІ функціонував як чорна скринька, внутрішня робота якої є загадкою для команд і користувачів. Власники рахунків, співробітники та регуляторні органи потребують запевнень у формі пояснюваності та прозорості щодо будь-якої інтегрованої технології.

Викорінення упередженості вимагає розуміння того, як і чому інструмент ШІ прийняв рішення. Системи ШІ зараз використовуються в таких процесах, як кредитний скоринг, але, на жаль, вони не захищені від упередженості. Наслідки цього є серйозними: дискримінація, особливо щодо меншин, яким непропорційно часто відмовляють у кредитах через несправний ШІ. Такі нормативні акти, як CFPB та закони про справедливе кредитування, вимагають пояснюваності та відстежуваності інструментів ШІ, що використовуються у фінансових послугах. Вони також вимагають усунення упередженості з рівняння.

У моделі живого управління пояснюваність і відстежуваність вбудовуються в кожен випадок використання та робочий процес:

*   Джерела даних та їх призначення чітко реєструються.
*   Усі зміни моделі, тести та спостереження записуються.
*   Логіка прийняття рішень повідомляється таким чином, щоб регулятори та клієнти, а не лише оператори, розуміли, як і чому система ШІ дійшла до рекомендації або дії.

Гарантування відповідності вимогам AML

Фінансові установи звертаються до автоматизації та ШІ для моніторингу підозрілих транзакцій та діяльності в рамках систем боротьби з відмиванням грошей. Однак, коли за ШІ не здійснюється належний нагляд або управління, виникають дві проблеми:

*   Хибні позитиви: законні транзакції помилково позначаються, що призводить до розчарування клієнтів і витрачання дорогоцінних людських ресурсів.
*   Хибні негативи: реальні загрози пропускаються, ставлячи під загрозу цілі набори даних і цифрові системи, підриваючи репутацію організації та руйнуючи довіру.

За допомогою підходу «управління як запобіжники» ці ризики мінімізуються завдяки добре керованим, прозорим і підзвітним даним. Також інтегруються чіткі сповіщення з негайною практичною інформацією для забезпечення швидкого втручання у разі потреби.

Оскільки рішення ШІ продовжують розвиватися, адаптивні, живі структури стають дедалі необхіднішими. Вони не лише захищають установи та окремих осіб від потенційних ризиків, пов'язаних із втручанням ШІ, але й надають фінтехам значну конкурентну перевагу. Ці структури оснащують їх засобами для зміцнення довіри та підвищення репутації шляхом забезпечення підзвітного управління, справедливості та прозорості, а також гарантування надійності та продуктивності.