Искусственный интеллект (ИИ) способен заметно облегчить рутину в бизнесе — например, взять на себя расшифровку совещаний, систематизацию документов и формирование черновиков внутренних материалов. Но передавать ИИ право принимать решения, чреватые серьезными последствиями, недопустимо.
Такой позиции придерживается руководитель направления развития сервисов ИИ в мобильном приложении УК «Альфа‑Капитал» Екатерина Лисовская. Своими рекомендациями она поделилась с изданием «Газета.Ru».
Эксперт предлагает выстраивать взаимодействие с ИИ по принципу трех зон ответственности. В «зеленой» зоне находятся задачи, где ошибка не приведет к ощутимым убыткам или рискам — сюда относятся типовые операции вроде подготовки черновиков и сортировки файлов. «Желтая» зона предполагает, что ИИ формирует результат, но финальную проверку обязательно проводит человек.
Особого внимания заслуживает «красная» зона: в этих сферах ИИ не должен влиять на итоговые решения. К ним эксперт относит назначение компенсаций клиентам, медицинские диагнозы, юридические консультации и проектные работы, например, проектирование зданий. По словам Екатерины Лисовской, доверие к ИИ стоит рассматривать не как абстрактную идею, а как четко выстроенную систему: важно фиксировать, какие данные поступили в модель, какие действия ей разрешены, как контролируется результат и кто несёт ответственность за возможные ошибки.
В качестве подтверждения рисков Екатерина Лисовская ссылается на эксперимент с участием 758 консультантов Boston Consulting Group. В сложных кейсах, выходящих за рамки возможностей модели, применение ИИ снижало вероятность верного решения на 19 процентных пунктов. При этом ошибочные выводы нередко выглядели убедительно и логично — это провоцировало сотрудников излишне полагаться на результаты работы алгоритма.
Для безопасного внедрения ИИ в рабочие процессы эксперт считает недостаточным просто обучить сотрудников формулировать запросы. Бизнесу необходимы четкие критерии проверки ответов нейросети, формальные ограничения на еедействия, ведение журнала операций и механизм экстренной остановки автоматизированных процессов. Кроме того, персонал должен четко понимать, в каких ситуациях выводы ИИ обязательно нужно сверять с первоисточниками.