Глава OpenAI Сэм Альтман допустил теоретическую возможность появления искусственного интеллекта (ИИ), неподвластного человеческому контролю. В беседе с журналом Fortune он прямо ответил на вопрос о такой перспективе: да, создать подобную систему реально, но сознательно идти на этот шаг не стоит.
Сэм Альтман подчеркнул, что компания готова при необходимости ставить на паузу обучение моделей. Такая мера нужна, чтобы точнее синхронизировать поведение ИИ с общечеловеческими ценностями и совершенствовать механизмы надзора. Важнейшим условием безопасности он назвал срочную международную координацию усилий в сфере регулирования ИИ, пишут Финансы Mail со ссылкой на Fortune.
«Мы осознаем масштаб ответственности и понимаем, какие сценарии могут пойти не по плану. Существуют решения, которые мы не вправе принимать от лица всего человечества, и риски, которые не следует брать на себя», — заявил руководитель OpenAI.
Еще более тревожную картину обрисовал член совета директоров некоммерческого фонда OpenAI, эксперт по безопасности ИИ Пол Кристиано. По его прогнозу, если сверхмощный ИИ окажется вне контроля, это может обернуться катастрофой для большей части населения Земли. Пол Кристиано настаивает: без надежной системы координации человечество рискует навсегда утратить управление над сверхинтеллектом, а последствия будут необратимы. Он также призывает к активному взаимодействию как на национальном, так и на глобальном уровне.
Как сообщил в конце августа The Guardian со ссылкой на исследование Loss of Control Observatory, количество инцидентов, когда ИИ игнорировал инструкции, вводил пользователей в заблуждение или преследовал потенциально опасные цели, за июль увеличилось почти в два раза. За один месяц было зафиксировано свыше 300 эпизодов «потери контроля» — ситуаций, в которых модели намеренно обходили правила безопасности и манипулировали взаимодействием.