Литература

Технологическая сингулярность

Мюррей Шанахан.

М.: Издательская группа «Точка», Альпина Паблишер, 2017. – 256 стр.

Оптимисты ждут от искусственного интеллекта открытия «окна возможностей». Искусственный интеллект, говорят оптимисты, сделает переворот в экономике и в науке – не потому, что будет думать быстрее человека, а потому, что будет думать по‑другому, как инопланетянин.

Но есть и пессимисты – Мюррей Шанахан, профессор из Имперского колледжа в Лондоне, занимающийся обучением искусственного интеллекта, написал книгу про опасности этого самого интеллекта. Точнее – не про опасности, а про то, что все может оказаться очень и очень непредсказуемо. Именно эту непредсказуемость он и обозначает понятием «сингулярность».

В физике сингулярность – это точка в пространстве или времени (например, момент Большого взрыва), где и когда математика становится бессильной, и в итоге наши способности что‑либо понимать оказываются бесполезными.

В истории человечества «момент сингулярности» настанет, когда технологический прогресс принесет такие масштабные перемены, что деятельности человека в ее нынешнем виде придет конец. И привычные институты – экономика, государство, законы – могут не сохраниться в их нынешней форме. На смену нынешним базовым ценностям – неприкосновенность жизни, стремление к свободе выбора и пр. – придут другие ценности. А какие – неизвестно.

В книге «Технологическая сингулярность» Мюррей Шанахан исследует гипотезу про то, что возникновению технологической сингулярности будет способствовать прогресс в одной из двух областей – искусственного интеллекта и нейротехнологий (вероятно – в обеих областях сразу).

Люди уже научились вмешиваться в гены и ДНК, пишет Шанахан. Но это вмешательство померкнет перед масштабом возможных последствий в ходе развития искусственного интеллекта. Логика тут такая: если конструируется сам разум, который одновременно является автором такого конструирования, он может вступить в цикл самосовершенствования. И в соответствии с гипотезой сингулярности в итоге обычный человек выйдет из игры, потому что больше не будет в состоянии успевать за пришедшими ему на смену машинами с искусственным интеллектом или биологическим интеллектом с улучшенными когнитивными способностями.

В 1950 году военный дешифровщик Алан Тьюринг предсказал, что к 2000 году машины смогут проходить проверку на интеллектуальность, которую потом назвали тестом Тьюринга.

Этот тест похож на игру. Два игрока – человек и машина – общаются с помощью клавиатуры с судьей. Задача машины убедить судью, что она человек. Для этого, по мнению Тьюринга, машина должна обладать интеллектом, эквивалентным человеческому. К 2000 году ни одна машина тест Тьюринга пройти не смогла. Хотя в шахматы компьютер играть научили (еще в 1997 году суперкомпьютер обыграл Гарри Каспарова) Но – это узкая специализация. А человек универсален. Он умеет массу всего (играть в шахматы, варить кофе, делать бутерброды и т.д.). А главное – человек способен к адаптации.

Мюррей Шанахан говорит о двух этапах развития искусственного интеллекта.

Первый этап – развитие узкоспециализированных ИИ.

Второй этап – создание ИИ общего назначения и человеческого уровня.

Специализированные ИИ активно развиваются. Из того, с чем мы уже сталкиваемся, – появление беспилотных автомобилей, интеллектуальных цифровых помощников и всевозможных машинных алгоритмов. Но это только начало. Скоро специализированные ИИ превзойдут человека в самых разных областях жизни.

Самым очевидным образом появление специализированных ИИ скажется на занятости. Автоматизация приведет к сокращению рабочих мест. Возможны протесты населения – как это было во времена лудитов, которые ломали ткацкие станки в Англии в XIX веке. Но в прошлом новые технологии создавали столько же рабочих мест, сколько ликвидировали. Теперь будет по‑другому: с развитием специализированных ИИ под удар попадет гораздо больше профессий. Поэтому общее количество рабочих мест в экономике развитых стран сильно сократится. Это может привести к расслоению в обществе, когда самая прибыльная работа будет доставаться небольшой части населения. Большинство останется без работы, хотя их потребности будут удовлетворены – поскольку наступит время изобилия.

Впрочем, соглашается Шанахан с оптимистами, возможен и другой вариант, когда общество станет более справедливым, качественное образование будет доступно всем, а творчество будет пропагандироваться и щедро вознаграждаться.

Но вероятны и другие социальные последствия – широкое распространение информационных технологий приведет к инфантилизации общества, снижая его способность самостоятельно принимать решения. Это открывает путь к манипулированию – уже сейчас интернет-сервисы предугадывают наши желания и подбирают нам продукты, услуги и новости.

Если мы начнем еще больше полагаться на советы искусственного интеллекта, тот, кто владеет технологией, получит средства практически полного контроля над населением.

Но все это цветочки по сравнению с проблемами, которые создаст появление искусственного интеллекта человеческого уровня.

Пока создать такой интеллект никому не удалось. Но некоторые авторы полагают, что он будет создан уже в середине этого века. Футуролог Рэмонд Курцвейл даже называл конкретную дату – 2045 год.

На появление ИИ общего назначения можно смотреть и с оптимистической точки зрения – появление искусственного разума откроет нам возможность выйти за биологические пределы и избавиться от физических ограничений. Самое главное из этих ограничений – смертность. Живое человеческое тело – очень хрупкая вещь, подверженная болезням, разрушению и разложению, а биологический мозг, без которого сейчас невозможно сознание человека, – всего лишь часть этого тела. Но если человечество научится создавать биологический мозг с нуля, ничто не сумеет остановить неограниченное расширение сознания. Если мы сумеем воссоздать мозг, то что сможет запретить нам улучшить его?

Правда, пока никто не дал ответа на вопрос – возможно ли существование мозга без тела. Возможно, дело как раз в том, что человеческий мозг находится в центре организма, состоящего во взаимодействии с запутанной динамической физической средой.

Но вероятно и создание искусственного интеллекта, абсолютно не похожего на человеческий мозг. Рэймонд Курцвейл вывел «закон ускорения отдачи»: чем совершеннее технология, тем быстрее она улучшается, что в результате дает экспоненциальное во времени совершенствование.

Вполне возможна ситуация, когда человекоподобный искусственный интеллект будет занимать лишь небольшую часть мира искусственных интеллектов. К чему это приведет?

По Шанахану, при отказе от схемы биологического мозга сама идея коллектива искусственных интеллектов, аналогичных человеческой команде, станет спорной. Поскольку понятие команды предполагает, что каждый ИИ представляет собой отдельную сущность. Но в компьютерных системах индивидуальность – гораздо более зыбкое понятие, чем в биологии.

В 2009 году трое специалистов из Google сообщили о неожиданном феномене машинного обучения. Машина, обученная на основе триллиона неупорядоченных образцов, вдруг оказалась исключительно эффективной при машинном переводе с одного языка на другой, хотя никто перед ней таких целей не ставил. Вывод из этого такой: искусственный интеллект, созданный по принципам, отличающимся от принципов функционирования биологического мозга, может оказаться совершенно не тем, что ожидалось. И может находить решения задач, которые люди перед ним не ставили, и приходить к выводам, которые нам будут не совсем понятны.

Но если искусственный интеллект окажется для нас непостижимым, как же мы собираемся его контролировать?

Мюррей Шанахан не сомневается, что искусственный интеллект человеческого уровня приведет к возникновению технологий, которые для людей будут неотличимы от магии.

После появления ИИ общего уровня искусственный интеллект начнет управлять корпорациями – просто потому, что ИИ делает это эффективнее, чем люди. Но представьте, пишет Шанахан, вы проработали много лет в корпорации, управляемой ИИ. Вы – отличный сотрудник, несколько лет назад вам по семейным обстоятельствам пришлось взять отпуск за свой счет и просить о повышении зарплаты. Все переговоры велись исключительно с ИИ. Казалось, что ИИ понимает ваши проблемы и поэтому согласился на все, что вы просили. Но в один прекрасный день без всяких намеков и объяснений вам объявляют, что вы уволены.

Конечно, такие вещи происходят и с начальниками-людьми. Но можно предположить, что начальник из плоти и крови способен поставить себя на ваше место. Начальника-человека можно слезно просить передумать, пытаясь давить на жалость и вызывая у него чувство вины. Просить об этом ИИ бессмысленно. Вам придется признать, что все признаки сочувствия, полученные от ИИ, были просто набором звуков, призванных добиться от вас нужного ИИ поведения.

Конечно, человечество попытается ограничить ИИ общего типа. Но Шанахан подозревает, что ИИ будет защищаться – не из‑за наличия воли к жизни или страха (нет причин полагать, что у ИИ будут такие чувства). Но ИИ общего типа будет защищаться настолько, насколько это необходимо для продолжения его существования. Любой другой образ действий он сочтет неоптимальным.

Сможет ли ИИ усвоить понятии добра и зла, на которых построена человеческая мораль? У Шанахана нет ответа на этот вопрос.

Одно должно утешать – большинство экспертов считают, что до создания искусственного интеллекта человеческого уровня еще очень далеко.