Відповідальний штучний інтелект у фінансах: шлях до нових можливостей

Чару Нахата (Charu Nahata), керуюча директорка з прикладної аналітики в Accenture, розповідає, як відповідальний та етичний штучний інтелект може стати шляхом до більших можливостей у контексті застосування у фінансовій функції.

Сьогодні провідні фінансові директори (CFO) перетворюють підриви на можливості для конкурентних переваг і зростання, покращуючи при цьому надання продуктів і послуг стейкхолдерам. Організації очікують, що фінансовий департамент стане справжнім бізнес-партнером у цьому прагненні до стійкої конкурентоспроможності та зростання. У зв’язку зі зростаючими вимогами фінансова функція та CFO вдаються до заснованих на даних рішень, що спираються на нові та розумні технології. Серед них:

  1. Прогнозування та моделювання майбутніх бізнес-сценаріїв за допомогою моделей сценарного планування на основі штучного інтелекту (ШІ).
  2. Використання роботизованої автоматизації процесів для автоматизації бек-офісу та підвищення економічної ефективності.
  3. Використання моделей машинного навчання для визначення цілей злиття та поглинання.
  4. «Оптимізація» фінансових процесів, таких як «від замовлення до оплати» (O2C), «від закупки до оплати» (P2P), «від першого запису до фінального звіту» (R2R), за допомогою прогностичних ШІ-моделей.
  5. Покращення якості даних, відстежуваності та надання єдиного уявлення про фінанси за допомогою ШІ-інструментів.
  6. Сприяння фінансовій трансформації та міграції у хмару.

Однак впровадження цифрових технологій, таких як штучний інтелект, і зростаюча взаємозалежність між бізнесами створюють власний набір викликів і наражають фінанси на багато з наведених нижче ризиків:

  • Пояснюваність. Це обмеження стосується багатьох інструментів, моделей і рішень на основі штучного інтелекту, особливо тих, що використовують більш просунуті алгоритми. Механізм моделювання сценаріїв дає рекомендації, які можуть поліпшити фінансові показники організації; однак CFO і керівник планового відділу хотіли б зрозуміти рушійні фактори, що лежать в основі рекомендацій, перш ніж діяти відповідно до них.
  • Упередженість і справедливість. Упередженість може виникнути в моделях планування робочої сили на основі штучного інтелекту, які надають перевагу певній расі або статі. Упереджені результати можливі і в процесі O2C, зокрема, при інкасації з використанням ШІ або встановленні термінів оплати на користь клієнтів чи постачальників на основі їхнього місцезнаходження.
  • Надійність. Якщо ШІ-моделі не є стабільними та надійними, незначні зміни у вихідних даних можуть призвести до помилкових прогнозів, що спричинить непослідовні відхилення, які, у свою чергу, можуть негативно вплинути на бізнес або акціонерну вартість компанії.
  • Ризик для бренду/репутації. Упереджені результати ШІ-моделі можуть мати безпосередній вплив на персонал, клієнтів, продавців і постачальників. Наприклад, неправильна ідентифікація заяв про шахрайство щодо витрат або сповіщення про відмивання грошей може призвести до регуляторних і репутаційних проблем.
  • Ризик комплаєнсу. Використання ШІ та алгоритмів обробки природної мови (NLP) для перевірки юридичних контрактів і регуляторних вимог зростає. Однак відсутність надійної системи управління та процесу перевірки може вплинути на здатність відстежувати регуляторні зміни і наражати організацію на комплаєнс-ризик.

Як впровадити відповідальний ШІ

Accenture визначає відповідальний штучний інтелект (Responsible AI) як практику дизайнування, побудови та розгортання ШІ таким чином, щоб розширювати можливості співробітників і бізнесу, а також справедливо впливати на клієнтів і суспільство в цілому. Працюючи з компаніями по всьому світу, Accenture розробила чотирикомпонентний фреймворк, який допомагає їм впроваджувати та застосовувати відповідальний ШІ у своїй фінансовій функції.

1. Організаційний

Ключовим елементом є впровадження культури Responsible AI, що є критично важливим завданням для фінансового директора. Необхідно розробити керівні принципи впровадження відповідального ШІ та донести їх до всіх співробітників фінансової служби.

Керівники мають розвивати культуру, яка мотивує людей впроваджувати відповідальний та етичний ШІ у свою робочу ДНК і дає їм змогу піднімати питання про проблеми та невдачі, а також діяти етично. Організації повинні докладати зусиль для створення різноманітної команди, яка працюватиме над рішеннями та інструментами на основі штучного інтелекту, оскільки різноманітність приносить різні точки зору та досвід, які допомагають підвищити справедливість цих інструментів і запобігти упередженості.

Нарешті, CFO та фінансові лідери мусять усвідомлювати виклики та ризики, пов’язані зі штучним інтелектом, визнавати недоліки, пов’язані з відповідальним ШІ, і бути готовими до їхнього усунення.

2. Операційний

Прозоре, міждоменне, наскрізне управління підприємством є відправною точкою на шляху до Responsible AI. Корпоративне управління ШІ може допомогти втілити принципи відповідального ШІ на практиці та контролювати їхнє ефективне впровадження, що є ключовим фактором для пом’якшення будь-яких комплаєнс- та репутаційних ризиків, пов’язаних із застосуванням штучного інтелекту.

Рішення, прийняті за допомогою ШІ, можуть вплинути на більш широку фінансову функцію, яка включає в себе кілька підрозділів, таких як казначейство, податкова служба та служба контролю. Необхідно створити Центр передового досвіду (CoE) в галузі фінансового ШІ, підзвітний усім фінансовим підрозділам і наділений повноваженнями щодо впровадження принципів відповідального ШІ.

3. Технічний

Організації повинні мати можливість застосовувати технічні методи, щоб зробити ШІ-моделі більш прозорими, справедливими, надійними та менш упередженими. Слід зосередити увагу на таких сферах:

  • Пом’якшення упередженості. Організація має інтегрувати алгоритмічні інструменти зменшення упередженості в процес ШІ-моделювання, щоб усунути упередженість даних, моделей та операційних упереджень. Accenture розробила інструментарій Algorithmic Assessment, який автоматично виявляє упередженість алгоритмів ШІ і може допомогти фахівцям з аналізу даних ефективно вирішити цю проблему.
  • Пояснюваність. Додавання рівня пояснюваності до ШІ-моделі може допомогти в інтерпретації рішень, які він приймає. Широко використовуваним рівнем пояснюваності є значення Шеплі, і його можна використовувати для вимірювання внеску кожної ознаки в рішення, прийняте моделлю. Інші методи включають Permutation Importance (перестановочна корисність) або LIME. Гібридні підходи до пояснюваного моделювання також можуть вирішити цю проблему, поєднуючи підхід пояснюваного моделювання зі складним методом «чорної скриньки».
  • Надійність і безпека. ШІ-моделі слід перевіряти на надійність, створюючи несприятливі зміни в даних і проводячи ретельну перевірку, супровід і частий моніторинг моделей і рішень, що приймаються. Безпека процесів штучного інтелекту має охоплювати весь спектр рішень та інструментів ШІ: від даних, ШІ-моделей, систем/платформ до фінальної звітності та комунікації.

4. Репутаційний

Кожна фінансова організація має дотримуватися певних регуляторних норм на додаток до своєї підзвітності акціонерам та інших функцій. Бізнес-рішення, прийняті на основі неконтрольованого використання ШІ, можуть завдати шкоди репутації всієї компанії, а в екстремальних випадках — призвести до санкцій.

Проактивний підхід до створення організаційної, операційної та технічної бази допоможе компаніям скористатися перевагами штучного інтелекту без ризику для репутації. Це також допоможе організаціям визначити свою місію відповідального та етичного ШІ та сприятиме впровадженню керівних принципів в основу діяльності організації.

Джерело: www.management.com.ua

 

Схожі статі

Які нові пільги для електрокарів діють у різних країнах Європи

Європейська Асоціація автовиробників АСЕА оприлюднила оновлений перелік пільг та бонусів, які у різних країнах євроспільноти надаються електричним, електрифікованим та іншим транспортним засобам із мінімальним рівнем…

Amazon і Stellantis починають спільну роботу над новими клієнтоорієнтованими технологіями та рішеннями

Amazon і Stellantis починають спільну роботу над новими клієнтоорієнтованими технологіями та рішеннями, які будуть імплементовані на мільйонах автомобілів та прискорять перетворення програмного забезпечення на головний…

Коментарі та відгуки

ukУкраїнська