Ученые разработали «рубильник» для отключения искусственного интеллекта

Лаборатория Google DeepMind и Оксфордский университет опубликовали работу, описывающую систему, которая позволила бы экстренно отключить искусственный интеллект в случае неполадок. Об этом сообщает издание Business Insider.

Почти каждое научно-фантастическое произведение, посвященное искусственному интеллекту, строится вокруг способности программы научиться игнорировать команду отключения. С точки зрения исследователей Google, это реальная проблема, и, учитывая темпы развития технологий, ее решение может понадобиться уже в ближайшие годы.

По этой причине исследователи заранее начали готовить систему — фреймворк — который помог бы этой проблемы избежать. Они проанализировали существующие алгоритмы машинного обучения. Некоторые оказались «безопасно прерываемыми» в их нынешнем виде; для других ученые описали возможные варианты модификации.

Британская лаборатория DeepMind, занимающаяся разработкой искусственного интеллекта общего назначения, была куплена Google за 400 млн фунтов стерлингов в 2014 году. Она работает в тесном сотрудничестве с Институтом будущего человечества при Оксфордском университете — там занимаются оценкой угроз цивилизации.

Директор института в 2015 году так обосновал проблему искусственного интеллекта: «Вскоре после того, как будет достигнута эквивалентность с человеком, машины станут сверхинтеллектуальными. На то, чтобы достичь интеллекта на уровне человека может уйти много времени, но шаг оттуда к интеллекту, превосходящему человеческий, случится очень быстро. Машины со сверхинтеллектом будут предельно мощными по тем же причинам, по которым человек могущественен в сравнении с другими животными на планете».