Регулированию искусственного интеллекта (ИИ) быть! Но это не точно. Точно одно — ЦБ, как и обещал, опубликовал доклад для общественных обсуждений, уже в названии которого предпочел избежать упоминания о регулировании. Озаглавлен документ нейтрально: «Применение искусственного интеллекта» на финансовом рынке. И это не просто так. Сам тон документа свидетельствует о том, что к регламентированию использования ИИ на финрынке ЦБ намерен подходить без нахрапа, на мягких, как это принято говорить, лапках.
Регулирование ИИ стало одной из важнейших тем, которая обсуждалась 1 сентября на конференции, посвященной 10-летию мегарегулятора. Скажу больше — именно тогда прозвучало заявление о такой перспективе впервые громко и звонко. Уже на пленарной сессии всех заинтриговал Сергей Швецов, в прошлом первый зампред ЦБ, а ныне глава набсовета Мосбиржи. Он заявил, что на ближайшие 10 лет Центробанк ждет вызов в виде нового регулирования. Но распространяться, о чем идет речь, не стал.
Это открылось уже на другой сессии, где Сергей Швецов в свойственной ему яркой манере отметил, что если сейчас не обеспокоиться выстраиванием механизмов взаимодействия с ИИ, то в следующие 10 лет будем беспокоиться о том, насколько управляем он «и не превратит ли восстание машин нас в подопытных кроликов».
Гипербола, конечно. Но давайте представим на секунду, что концепция суперсильного ИИ, который превзойдет человеческий разум, — не плод футуристических фантазий, а перспективная реальность. Если представишь, то осознаешь, что начинать это ему не позволять нужно уже сейчас. Впрочем, многие эксперты давно выступают с алармическими настроениями, что момент уже упущен, а если это и не так, то нужно бежать контролировать развитие ИИ в финсекторе со скоростью света. Иначе не догонишь. Ибо обучается машинным образом он быстрее, чем его достижения анализируются на предмет соответствия безопасности.
В Центробанке, кстати, не возражали, что регулирование ИИ нужно. Еще в сентябре на конференции первый зампред ЦБ Ольга Скоробогатова сказала, что это одна из ключевых задач на обозримую перспективу. Правда, и торопиться в этом вопросе Центробанк не собирался. Она анонсировала, что до конца этого года будет опубликован доклад для общественного обсуждения, затем пройдут обсуждения с участниками рынка и до конца 2024-го ЦБ определится с подходами по регулированию.
Практически все развитые страны с подходом этим уже определились. В России интерес к этому вопросу возник несколько позже. Пожалуй, не ошибусь, если свяжу его с распространением генеративного ИИ, который позволяет создавать контент, идеи и прочее. Появление ChatGPT и его российских аналогов — GigaChat и YandexGPT — произвели в нашем сознании революцию в отношении искусственного интеллекта.
Он стал осязаем и понятен для широкой общественности, которая раньше хотя и слышала об ИИ из каждого утюга, но слабо представляла, что это за зверь. Проще говоря, мемом из ДМБ, суслика никто не видел, но все знали, что он есть, генеративный ИИ этого суслика материализовал. Как и риски, которые он несет. Взять хотя бы тревожные предсказания, что он полностью заменит человека.
Это вряд ли, наверное. Но, как считают многие эксперты, в ближайшие годы именно генеративный ИИ станет одним из самых растущих направлений. И финансовый сектор может получить значительную выгоду от его использования, прежде всего в развитии клиентских сервисов — чат-боты и голосовые помощники, управления рисками и комплаенс.
Так, с развитием генеративного ИИ цифровые помощники, которые сейчас зачастую кажутся нам несколько, мягко выражаясь, глуповатыми, смогут трансформироваться настолько, что общение с ними будет таким же, как с живым человеком. И тут возникает вопрос доверия клиентов, защиты прав потребителей финуслуг, что неоднократно подчеркивается в докладе ЦБ.
Или человеку откажут в кредите, поскольку искусственный интеллект соберет искаженную информацию из открытых источников и создаст неправильный профиль. Отдельная история — системы распознавания лиц и голосов. Как они будут использованы? А это уже вопрос безопасности. Как и передача и использование данных о человеке. Вопросов не просто много, их тьмы и тьмы.
И Центробанку придется разделить их на категории, в чьей компетенции они находятся, как должны контролироваться. Так, некоторые моменты, вероятно, должны регулироваться государством — скажем, дипфейки, вопросы безопасности передачи данных и прочее. Есть то, что можно отнести к разряду этики и регулировать кодексами, что делается уже сейчас. Например, в США очень много и часто всплывает проблема дискриминационности ИИ, когда при выдаче кредитов он отсекает определенный вид людей, которые в его понимании относятся к категории риска.
Существует несколько подходов к регулированию ИИ на финрынке. Как следует из доклада ЦБ, для себя он пока принял некую нейтральную форму. Если перевести с официального на русский понятный, то Центробанк планирует не мешать банкам самостоятельно внедрять новые технологии и развивать ИИ, но учитывать при этом риски на основании своих подходов и моделей. При этом, с учетом развития в том числе генеративного искусственного интеллекта, будет наблюдать за процессом, возникновением новых рисков, анализировать их и определяться уже с их регулированием.
В общем, решили поспешать медленно. Но нет ли опасности в том, что так можно и опоздать? Шанс есть. Но есть и аргументы за эту позицию. Во-первых, любой плод должен созреть, то есть на финрынке должна накопиться критическая масса использования искусственного интеллекта, когда потребуется вмешательство регулятора. Если пережать на старте, то есть риск, что до финиша инновация не дотянет. Примером того может служить Евросоюз, где применяется ограничительный подход, который предусматривает регламенты и прямые запреты. ИИ там зарегулирован до такой степени, что он перестал активно развиваться.
Намного лучше обстоят дела в США и Китае, где применяется гибридный подход, сочетающий различные формы, начиная от норм и регламентов, заканчивая саморегулированием. При этом самое свободное регулирование выбрала Великобритания, что простимулировало развитие ИИ.
Во-вторых, сейчас многие специалисты говорят о необходимости создания международных стандартов регулирования искусственного интеллекта, и некоторые страны пошли по этому пути. Но, к сожалению, общие правила могут работать в случае, если их примут все участники на глобальном уровне. Пока в условиях санкций для России в этом процессе довольно сложно принять участие.
Повторюсь, Центробанк избрал для себя путь наимягчайшего регулирования. Не приведет ли это к тому, что через 10 лет, как выразился Сергей Швецов, восстание машин превратит нас в подопытных кроликов? Не будет ли суперсильный интеллект искусственного происхождения манипулировать нами?
На мой взгляд, одним регулированием этого не решить. И естественный интеллект хорошо бы развивать. Ведь когда мы постоянно обращаемся к той же Алисе — «Включи колонку», «Как пройти в библиотеку?», «Где находится Ботсвана?», «Что такое ИИ?», то не он ли нами управляет? Уже…
Позиция редакции может не совпадать с мнением автора
