Искусственный интеллект: эволюция или угроза человечеству?

60
Изображение: Freepik.com
Изображение: Freepik.com

Технологии искусственного интеллекта (ИИ) становятся не просто предметом научных исследований, а основой конкурентных преимуществ для бизнеса в разных индустриях. С одной стороны, ИИ является хорошим помощником, с другой – существуют опасения относительного так называемого сильного ИИ, способного подражать человеческому интеллекту или поведению. Риски и перспективы его развития эксперты обсудили на Восточном экономическом форуме.

 

Анатолий Бобраков
Анатолий Бобраков

Анатолий Бобраков, заместитель министра Российской Федерации по развитию Дальнего Востока и Арктики:

– Что касается участия искусственного интеллекта в принятии решений в области государственного управления. К примеру, Сахалинская область использует специальную платформу, где на основе снимков с высоким разрешением алгоритм показывает чиновникам внезапно образовавшиеся незаконные свалки, непредвиденные антропогенные события. Выходит, математические модели и алгоритмы могут стать подсказчиками, фокусирующими внимание людей на проблемах, которые требуют решения в настоящий момент. Такие модели будут полезны для государства.

Возникает вопрос, как эти модели позиционируются. Я являюсь сторонником того, чтобы не отделять продукт от разработчика, не наделять алгоритмы какой‑либо самостоятельной субъектностью. Тогда весь тот контент, который мы получаем от ИИ, а математические модели позволяют не только анализировать, но и синтезировать информацию, будет иметь подпись о том, алгоритм какого разработчика этот продукт сформировал и выдал обществу. С этого момента все угрозы, связанные с ИИ, закончатся, поскольку за результат работы алгоритма будет отвечать конкретное лицо.

 

Елена Мартынова
Елена Мартынова

Елена Мартынова, заместитель руководителя Федеральной службы государственной регистрации, кадастра и картографии (Росреестр):

– Не государство должно подчиняться искусственному интеллекту, а ровно наоборот. Предлагаю развивать ИИ в тренде полного подчинения человеку – физическому или юридическому лицу, профессиональному участнику рынка или государству в целом, в четком соответствии с законодательством страны, в которой работает инструмент, технология, ИИ, математическая модель.

С 2020 года Росреестр придерживается клиентоцентричного подхода. Когда появился соответствующий посыл со стороны Правительства РФ, мы уже были в тренде, поскольку заранее заложили в технологический реинжиниринг наших процессов идеологию клиентоцентричности и поставили человека во главу угла.

 

Нельзя стать лучше для других людей, не наведя порядок внутри собственной структуры. В этом органам власти помогают нейросеть и алгоритмы.

 

Рассматривая с помощью аналитических моделей претензии людей по качеству услуг, поняли, что 60–70% из них, в зависимости от выборки, не имеют отношения к работе процессов Росреестра. К примеру, был интересный кейс, когда чат-бот Сбербанка сказал клиенту, что в ситуации виноват Росреестр, а оказалось, что банк просто не подтвердил транзакцию, и мы, ориентируясь на определенные правила и порядки, не могли оказать государственную услугу. Не стали искать виноватых, а решили работать в парадигме эко-партнерства со всеми профучастниками рынка – банковским сообществом, университетами, бизнесом, нотариатом, риелторами, саморегулируемыми организациями, кадастровыми инженерами, оценщиками, что позволяет оперативно решать проблемы людей.

Росреестр активно применяет технологии искусственного интеллекта, часть из них в опытной эксплуатации, некоторые уже в промышленной. Так, разработан и протестирован сервис «Умный Кадастр» на основе предобученных нейросетей и алгоритмов пространственного анализа, который помогает защищать имущественные интересы граждан и вовлекать в оборот неиспользуемые объекты недвижимости.

Нельзя стать лучше для других людей, не наведя порядок внутри собственной структуры. В этом органам власти помогают нейросеть и алгоритмы. Системы Росреестра очень высоконагруженные. В 2020 году мы оказывали три-четыре услуги в секунду, сегодня в три раза больше. Развиваем внутренние технологии исключительно под управлением человека, поскольку понимаем, что решение нашего регистратора может повлиять на чью‑то жизнь. Не запускаем новые технологии в промышленную среду до тех пор, пока не убедимся, что они работают на 100%. К примеру, больше года обучали цифрового помощника регистратора «Еву», который хорошо показал себя в эксплуатации и теперь также помогает при приеме и выдаче документов в многофункциональных центрах (МФЦ).

Дело в том, что специалисты, принимающие документы, не обладают экспертизой и знаниями в сфере недвижимости, регистрации прав. Они не всегда могут ответить на вопросы граждан, проверить достаточность пакета документов, соблюдение существенных условий договора. Мы настроили нейросеть так, что она проверяет существенные условия договора и полноту пакета подаваемых документов, когда человек приносит их в бумажном виде. Выстроен абсолютно цифровой процесс взаимодействия Росреестра с МФЦ. Сейчас работа с документами происходит в электронном виде, более того, работник МФЦ, воспользовавшись подсказкой «Евы», может сказать, что пакет документов не полный.

Стартовали с Великого Новгорода: в 2022 году внедрили в промышленную эксплуатацию цифрового помощника в городские МФЦ и в единый государственный реестр недвижимости (ЕГРН). Теперь же «Ева» работает в 28 субъектах.

Благодаря искусственному интеллекту наш регистратор сократил свою работу на 13 минут. Кроме того, «Ева» помогает в контексте машиночитаемого права, но под управлением человека. Распознавая документы, «Ева» видит приписки, неработающие существенные условия договора. Бывает, что заявитель, подавая документы, делает ошибки, «Ева» их идентифицирует, подсказывает, как быть, и мы не возвращаем документы заявителю. Таким образом, превентивно снижаем количество приостановлений работы с документами, во многих субъектах они сводятся к нулю.

Я категорически не согласна с мнением, что из‑за развития искусственного интеллекта люди могут потерять рабочие места, а качество услуг ухудшится. Сегодня мы видим обратную ситуацию.

 

Дмитрий Пристансков
Дмитрий Пристансков

Дмитрий Пристансков, статс-секретарь – вице-президент по взаимодействию с органами власти и управления, ПАО «ГМК “Норильский никель”»:

– Специфика нашей деятельности заключается в критичности и непрерывности процессов, поэтому к внедрению искусственного интеллекта мы подходим крайне осторожно. Все возможные сценарии его использования и влияние на технологические процессы изучается достаточно глубоко, проводим обязательную апробацию через прототипирование. По сути, все происходит под строгим контролем человека, робот является помощником, советчиком для оператора.

В полной автономии роботы работают только там, где гарантируется стопроцентная безопасность для человека. Например, на безлюдном руднике предполагается полная автоматизация отдельных участков глубоко под землей, использование роботизированных инструментов в таком виде обеспечивает физическую невозможность причинения кому‑либо вреда, повреждение оборудования в большинстве случаев сводится к повреждению роботом самого себя.

При этом искусственный интеллект является сильнейшим инструментом развития рынка труда в целом и появления новых профессий, связанных с его внедрением, обслуживанием. Таким образом, можно закрывать дефицит кадров в определенных низкопривлекательных отраслях. Пример – в Норильске в связи с тяжелыми условиями труда и холодным климатом исторически не хватает водителей. Появившаяся альтернатива в виде беспилотных автомобилей дала новые рабочие места высококлассным специалистам, которые решают логистическую проблему в компании.

Сегодня как никогда важны приватность и конфиденциальность, мы обеспечиваем их на всех уровнях, начиная от стандартов высокого качества и заканчивая физической изолированностью сетей, производственных объектов. У нас большинство производственных решений на базе ИИ работают с неперсонифицированными данными, и, по сути, никакой угрозы для сотрудников нет. Более того, существующая в компании видеоаналитика фиксирует лишь факт нарушения специалистом каких‑либо правил, а его персональные данные определяются вручную.

 

Искусственный интеллект является сильнейшим инструментом развития рынка труда в целом и появления новых профессий, связанных с его внедрением, обслуживанием.

 

В «Норильском никеле» интенсивно внедряются новые технологии: нами реализованы десятки прототипов, около 300 идей находятся в воронке разработки, из них 90 – в активной стадии. Диапазон применения ИИ в горно-металлургической сфере широкий: он служит для повышения производительности труда, оптимизации производственных процессов, контроля безопасности наших сотрудников на объектах и решения многих других задач. Мы используем видеоаналитику, временные ряды, самообучающиеся машины, аудиоданные для диагностики, надводные беспилотные летательные аппараты. У нас огромный технологический ряд. С учетом интенсивного развития ИИ за пять лет дошли до продвинутого уровня использования данных. Как пример, внедрили на Медном заводе в Норильске собственное решение – мутномер – систему видеоанализа мутности воды. Если раньше контроль мутности осуществлялся вручную каждые четыре часа, то теперь мониторинг происходит в режиме реального времени, и сотрудники мгновенно реагируют на оповещения системы.

«Норникель» сейчас не горно-металлургическая компания, это огромный технологический холдинг, где оцифрованы практически все процессы – от управленческих, горного передела, логистики, сбыта до общения с клиентской базой.

 

Анна Мещерякова
Анна Мещерякова

Анна Мещерякова, предприниматель, основатель проекта «Третье мнение»:

– Я нередко задаюсь вопросом, существует ли риск того, что ИИ заменит предпринимателя. Предпринимать – значит действовать в условиях неопределенности, часто на новых рынках, когда не все возможно просчитать и проанализировать. На первый взгляд, это как раз та зона логики, зона анализа, с которой ИИ комфортно. Однако неопределенность, риски – границы, за которые ИИ, как правило, не заходит и где мы, как предприниматели, можем действовать более успешно.

Вероятно, те предприниматели, которые не смогут успешно интегрировать в свою работу инструменты ИИ, не смогут принять ИИ в широком смысле слова к себе в штат, не смогут контактировать с теми, кто сделает это в самое ближайшее время – сегодня.

Пропускная способность алгоритмов и скорость, с которой они могут проанализировать огромный объем информации, в том числе совершенно разноплановые риск-факторы, не сравнится с пропускной способностью любого аналогичного отдела, имеющегося на предприятии. Можно провести параллель с медициной. Конечно, ИИ не заменит врача, но тот специалист, который смотрит на подсказки цифровых помощников, принимает во внимание информацию, предоставленную алгоритмом на основе анализа больших данных и оцифрованного медицинского опыта, чувствует себя более уверенно. Такой врач снимет с себя рутинную нагрузку, сосредоточится на действительно сложных случаях, высвободит время на персональную коммуникацию с пациентом, либо на той информации, которую необходимо проанализировать более творчески.

Искусственный интеллект может предложить интересные продуктовые гипотезы, но без стратегического предпринимательского видения, без определенной интуиции сложно выбрать из них ту, которая в какой‑то динамической перспективе сможет отличить компанию в конкурентном ряду. ИИ может провести анализ клиентской базы, сегментировать клиентов, но он не выстроит отношения с клиентами и партнерами. Взять нас – мы молодая технологическая компания, которая внедряет инновационные продукты в медицине, по кирпичикам строим отношения с окружающим миром, завоевываем доверие. ИТ-разработчики, которые где‑то опережают текущее время, где‑то взаимодействуют с консервативной отраслью медицины, первично вызывают недоверие и сомнение – насколько можно полагаться на подсказку алгоритма? Я считаю, что кооперация, объединение инновационности разработчиков и опыта профессиональных медиков, может дать продукт нового качества. Здесь ответ не в выборе, а в совместной работе.

 

Искусственный интеллект является сильнейшим инструментом развития рынка труда в целом и появления новых профессий, связанных с его внедрением, обслуживанием.

 

Предприниматель может и должен полагаться на ту информацию, которую ему дают и подсказывают алгоритмы, но то, что всегда остается за нами, – это возможность вдохновлять, делать так, чтобы команда шла за идеей, за своим лидером. Уверенность, точность действий, скорость реакций – то, в чем могут помочь алгоритмы.

 

Изображение: Freepik.com
Изображение: Freepik.com

В настоящее время несколько регионов, в том числе на Дальнем Востоке, внедряют инновационные продукты и идут такими быстрыми темпами, что готовы пользоваться не только тем, что есть, например анализировать медицинские диагностические изображения на предмет патологических изменений, которые может подсказать нейросеть, но и предлагают новые идеи, допустим, использовать одновременно голосовых помощников, способных надиктовывать команды и задачи, которые врач хочет поручить алгоритму.

Мы видим, как искусственный интеллект становится магнитом, центром притяжения для людей, нам интересно получать привычные услуги с цифровым компонентом. Так, интерес нас, как получателей медицинских услуг, к ИИ приводит к тому, что мы более охотно пользуемся медициной превентивно, когда ничего не болит: в частности, приходим на диспансеризацию, плановые осмотры, мы заинтересованы в том, чтобы увидеть риски развития каких‑то заболеваний в будущем. Тем самым повышается вероятность того, что мы будем жить как можно дольше в проактивном состоянии.

 

Елена ВОСКАНЯН
Фото: Фотобанк Росконгресс