В РАН предупредили о главных угрозах при внедрении ИИ в финансах

Многие компании, в том числе финансовые организации, сегодня активно используют искусственный интеллект (ИИ) в своей работе. Однако в некоторых случаях это может привести к серьезным негативным последствиям, о которых предупредил доктор экономических наук Института экономики РАН Дмитрий Кочергин в статье «Основные направления использования искусственного интеллекта в финансовой сфере».

Как банки используют ИИ

Сегодня ИИ играет важную роль в работе банковского сектора. Как подчеркнул экономист, еще в 2024 году более 70% финансовых организаций применяли искусственный интеллект в различных сферах:

• платежи;
• кредитный анализ;
• страхование;
• управление активами.

Нейросети способны повысить эффективность работы благодаря минимизации расходов, в том числе на персонал, следованию законодательству, предотвращению мошенничества и повышения качества обслуживания клиентов.

Также ИИ может усовершенствовать следующие направления банковской деятельности:

• автоматизация бизнес-процессов и оптимизация ресурсов;
• решение сложных задач посредством анализа больших объемов данных;
• замещение в трудоемких процессах людей;
• стимулирование инноваций.

Угрозы использования ИИ в финансах

• Кибератаки. Использование искусственного интеллекта повышает риски мошеннических схем с использованием рассылок с вредоносными кодами. Эти фишинговые ссылки передают злоумышленникам доступ к устройству жертвы.
• Атаки с отравлением данных. Это приводит к тому, что мошенники получают возможность вносить изменения в информационные массивы банков, на базе которых происходит обучение больших языковых моделей. Так меняется и поведение этой модели.
• Предвзятость и дискриминация. ИИ может принять несправедливое решение в отношении того или иного клиента, что подорвет репутацию самого банка. Этот прецендент сегодня часто проявляется в блокировках операций и счетов добросовестных клиентов при выявлении подозрительных признаков, а также в отказе в выдаче кредита при оценке платежеспособности потенциального заемщика.
• Потеря конфиденциальности. Приватное пользование при работе с ИИ также остается под вопросом.
• Юридические риски. Искусственный интеллект повышает вероятность таких негативных последствий из-за отсутствия объяснимости моделей и склонности к «галлюцинациям».
• Повышенная зависимость. Использование ИИ в работе предполагает высокую зависимость от компаний, которые разработали искусственные модели. Если у них случится сбой или кибератака, то проблема коснется всех пользователей.
• Риск нарушения финансовой стабильности. Так как финансовые компании используют идентичные модели ИИ, то их поведение будет схожим, что может спровоцировать массовые распродажи или покупки активов. А это уже является манипулированием рынком, что запрещено на законодательном уровне.

Как банкам использовать ИИ

Ранее председатель правления ПАО «НБД-Банк» Александр Шаронов, отвечая на вопросы главного редактора Bankiros.ru Екатерины Титовой на пресс-конференции в Нижнем Новгороде, также высказался о влиянии искусственного интеллекта на работу банков.

По словам банкира, данная технология вызывает опасения потому, что до конца не изучена. При этом использовать ИИ в общении с клиентами – «не очень уважительно».

Но можно внедрять искусственный интеллект в другие сферы, добавил Шаронов. Например, в рекламу.