Банк России инициировал обсуждение новых механизмов регулирования моделей искусственного интеллекта, применяемых в финансовом секторе. Регулятор выражает серьезную обеспокоенность тем, что массовое внедрение глобальных ИИ-платформ отечественными кредитными организациями может создать системные риски для экономики. Основной целью предлагаемых мер является минимизация угроз финансовой стабильности и обеспечение технологического суверенитета банковской системы.

Риски использования глобальных ИИ-технологий

По мнению Центрального банка, зависимость крупнейших игроков рынка от ограниченного числа международных ИИ-моделей создает угрозу единообразия ошибок и высокой концентрации рисков. В случае сбоя или некорректной работы алгоритма у одного поставщика, это может привести к эффекту домино во всей финансовой системе страны.

Среди ключевых опасений регулятора выделяются:

  • Дискриминация клиентов при принятии решений по кредитным продуктам.
  • Непрозрачность алгоритмов принятия решений (проблема «черного ящика»).
  • Уязвимость перед кибератаками на обучающие выборки данных.
  • Возможная блокировка доступа к облачным ИИ-сервисам со стороны зарубежных провайдеров.

Подходы к будущему регулированию

Центральный банк планирует разработать стандарты тестирования и валидации моделей, которые банки используют для скоринга, риск-менеджмента и противодействия мошенничеству. Рассматривается возможность введения обязательного аудита алгоритмов на предмет отсутствия предвзятости и устойчивости к внешним шокам. Это позволит сделать использование нейросетей более предсказуемым и безопасным для конечных потребителей финансовых услуг.

Использование единых глобальных платформ без должного контроля может привести к накоплению системных рисков, которые сложно купировать стандартными методами пруденциального надзора — отмечают эксперты, близкие к обсуждению инициативы.

Внедрение строгого контроля над ИИ-моделями станет важным этапом в цифровой трансформации российского финтеха. Несмотря на возможные дополнительные издержки для банков на приведение систем в соответствие с новыми нормами, в долгосрочной перспективе это должно повысить прозрачность банковских процессов и защитить интересы вкладчиков. Ожидается, что детальные требования к моделям будут представлены регулятором после консультаций с участниками рынка до конца текущего года.