Применение искусственного интеллекта выводит возможности финансовых организаций на новый уровень. Но параллельно возникают и риски. Как не допустить ошибок при разработке регулирования вопросов, связанных с применением искусственного интеллекта на финансовом рынке, и, что страшнее, – поспешить с регулированием или опоздать? Это обсуждали участники сессии «Искусственный интеллект: подходы к регулированию» на Финансовом конгрессе Банка России, который состоялся в начале июля в Петербурге.
Михаил Цибулевский, партнер Б1, руководитель группы по предоставлению консультационных услуг для организаций финансового сектора:
– У банков есть большой опыт по разработке и применению моделей искусственного интеллекта. Важно помнить, что бремя ответственности лежит не только в области разработки технологических решений, но и в практическом разрезе применения ИИ.
Каким должно быть регулирование в вопросах, связанных с ИИ, мягким или жестким? Считаю, что мягкое регулирование является более подходящим инструментом по нескольким причинам. Во-первых, это временная мера, которая в дальнейшем может трансформироваться в более жесткую форму. Во-вторых, мягкое регулирование является стимулирующим. Если мы рассматриваем стратегию развития искусственного интеллекта до 2030 года, то основной целью является достижение лидирующих позиций. А для этого нужно создать определенные условия. В-третьих, именно мягкое регулирование быстро адаптируется с учетом стремительного роста и изменений технологий, поддерживая стабильность регуляторной среды.
Александр Крайнов, директор по развитию технологий искусственного интеллекта, Яндекс:
– Не стоит рассматривать ИИ как замену текущим методам, потому что он представляет собой некую вероятностную модель, которая не годится для выдачи точных данных без каких‑то серьезных дополнений. А финансовая область в моем понятии вообще самая точная: все остальное в мире может быть приблизительным, а финансы должны быть очень точными.
Если говорить про ответственность разработчика, то, мне кажется, самая важная и первая его задача – честно и максимально полно рассказывать о возможностях и ограничениях того решения, которое дается. Потому что, с одной стороны, можно получить абсолютно гениальные и блестящие мысли, а с другой стороны – абсолютно детскую ошибку.
Разработчик должен стараться сделать так, чтобы пользователь, неважно, это бизнесмен или простой человек, не мог увернуться от получения полной информации о том, как это работает.
Должна ли происходить корректировка законодательства в связи с появлением искусственного интеллекта? Конечно. Развитие технологий искусственного интеллекта и появление новых сервисов, возможностей или трансформации чего‑то действующего в связи с применением искусственного интеллекта влечет за собой точечные изменения регуляторики. Думаю, что чаще речь будет идти не о законах, а о внутренних нормативных актах, технических регламентах и так далее.
Вадим Кулик, заместитель президента – председателя правления ВТБ:
– Если мы и дальше будем находиться в относительно джунглевом состоянии, то так или иначе однажды кто‑то придет и нас так зарегулирует, что мы потом дышать не сможем. Мы как индустрии, активно использующие искусственный интеллект, должны проявить инициативу, понять и выступить с предложениями на тему того, как и что регулировать – как регулировать все процессы обмена данными, ответственность разработчиков, равенство доступа и так далее. Вот таким путем я бы предлагал двигаться.
Иван Оселедец, генеральный директор Института искусственного интеллекта AIRI:
– Разделения по некоторой достаточно условной функциональности в нашем очень быстро меняющемся мире создает для нас большие проблемы, в первую очередь, с отсутствием тех кадров, которые нужны для оперативного ответа на эти вызовы.
Институт работает над решением проблемы токсичности. Мы провели два международных соревнования по определению токсичности на текстах на разных языках, сильно улучшили модели. То есть наука в этом направлении движется, но пока до практического бизнеса еще идти и идти.
Чем для генеративного искусственного интеллекта принципиально отличается финансовый сектор? Банки сидят на огромных, уникальных, массивных данных, которые вы не найдете в интернете.
Чтобы дать толчок генеративным технологиям, нужно начать с биржи данных, обмена данных. То есть для привлечения научного сообщества достаточно сформировать большой открытый датасет транзакционных данных.
Все существенные с точки зрения качества и понимания прорывы в области генеративного ИИ начинались с появления хорошо сформулированных открытых датасетов. Это можно делать и в рамках отдельного банка или в рамках калаборации. В любом случае это существенно приблизило бы к пониманию возможности генеративного ИИ.
Дмитрий Зауэрс, заместитель председателя правления Газпромбанка:
– В целом можно выделить три вида моделей. Первое – это большие модели общего назначения, например, большие лингвистические модели. Второй уровень – модели, при создании которых банки заинтересованы в сотрудничестве, в частности для антифрод-решений. И третье – это модели, за счет которых банки конкурируют друг с другом, и они всегда будут разрабатываться внутри. На мой взгляд, большие модели по сути становятся естественными монополиями. И здесь требуется серьезное регулирование для того, чтобы общество в целом могло получать пользу от этих разработок. Что касается общих для банков решений, то здесь также нужны какие‑то нормы, потому что требуется обмен большим количеством данных, и он должен быть регламентирован. Когда речь идет о моделях, за счет которых банки конкурируют, – тут нужно нулевое регулирование.
В том числе тут обсуждалась интерпретируемость моделей, я считаю, что это является ограничением для развития технологий, потому что более сильный класс моделей, например нейросети, не являются интерпретируемыми. В качестве сравнения: большинство не понимает, как устроены двигатели внутреннего сгорания, но успешно пользуется автомобилями. И также интерпретируемость моделей не влияет на их эффективность.
Анджей Аршавский, управляющий директор по управлению и монетизации данных Московской биржи:
– Хотел подсветить тему, которую не обсуждают, но она угрожающе быстро растет. Это алготрейдинг. Чтобы было понятно: через инфраструктуру Московской биржи проходят в год больше квадриллиона рублей, обрабатывается порядка 65 тысяч транзакций в секунду (это больше, чем у Visa). И доля алгоритмической торговли, алготрейдинга, очень велика: на фондовом рынке – треть от всех объемов торгов, а на срочном рынке – больше 60%. Причем эта доля постоянно нарастает. Алготрейдинг делится на две части. Первая – высокочастотный трейдинг, который мы видим. Вторая – подземная часть айсберга алготрейдинга, которая есть, но мы не можем ее видеть в данных, потому что она проявляется на больших временных горизонтах. Алгоритмическая торговля развивается на основе искусственного интеллекта. Есть гипотеза, что искусственный интеллект может существенно повлиять на ее эффективность.
Какие тут возникают возможности и риски? Если говорить про возможности, то алгоритмическая торговля сейчас недоступна массовому инвестору. Последний оказывается в ситуации, когда алгоритмы забирают всю прибыль, а он не может ими пользоваться. Скорее всего, ситуация изменится, если появится публично доступный алгоритм, в который частный инвестор сможет вкладывать деньги как в доверительное управление.
Но чтобы добиться позитивного исхода, нужна инфраструктура, нужно регулирование, в том числе – прозрачность алгоритмов. Не исключено, что возникнет некая площадка, на которой эффективность алгоритмов будет валидироваться с какой‑то инфраструктурной стороной, не относящейся ни к владельцам, ни к создателям алгоритмов, и контролироваться работой этих алгоритмов с точки зрения compliance, манипуляции рынков и так далее. Тогда появится возможность, в том числе для частных инвесторов, эффективно пользоваться новыми возможностями.
Любовь БЫКОВА
Фотографии предоставлены оргкомитетом Финансового конгресса Банка России
