Ученые разработали «рубильник» для отключения искусственного интеллекта
Лаборатория Google DeepMind и Оксфордский университет опубликовали работу, описывающую систему, которая позволила бы экстренно отключить искусственный интеллект в случае неполадок. Об этом сообщает издание Business Insider.
Почти каждое научно-фантастическое произведение, посвященное искусственному интеллекту, строится вокруг способности программы научиться игнорировать команду отключения. С точки зрения исследователей Google, это реальная проблема, и, учитывая темпы развития технологий, ее решение может понадобиться уже в ближайшие годы.
По этой причине исследователи заранее начали готовить систему — фреймворк — который помог бы этой проблемы избежать. Они проанализировали существующие алгоритмы машинного обучения. Некоторые оказались «безопасно прерываемыми» в их нынешнем виде; для других ученые описали возможные варианты модификации.
Британская лаборатория DeepMind, занимающаяся разработкой искусственного интеллекта общего назначения, была куплена Google за 400 млн фунтов стерлингов в 2014 году. Она работает в тесном сотрудничестве с Институтом будущего человечества при Оксфордском университете — там занимаются оценкой угроз цивилизации.
Директор института в 2015 году так обосновал проблему искусственного интеллекта: «Вскоре после того, как будет достигнута эквивалентность с человеком, машины станут сверхинтеллектуальными. На то, чтобы достичь интеллекта на уровне человека может уйти много времени, но шаг оттуда к интеллекту, превосходящему человеческий, случится очень быстро. Машины со сверхинтеллектом будут предельно мощными по тем же причинам, по которым человек могущественен в сравнении с другими животными на планете».
Популярные комментарии
Евгения СамотохинаТо что отрицательные оценки нужны — я согласна, но здесь должен быть ряд факторов: 1) как по мне текущая система оценки (пятибалльная, а по факту четырехбальная) — не то чтобы объективная. Особенно чувствуется на объемных заданиях в старших классах, когда в тексте на 2 страницы допустил 2-3 ошибки и пооучаешь тройку. Как по мне система должна иметь разбивку хотя бы в 10 баллов. 2) Часто каждый учитель сам определяет как оценивать ученика. Если с точными науками и каким-нибудь диктантом ещё более-менее понятно, то с более творческими заданиями, пересказами вообще непонятно — у одного учителя ты получаешь 5 у другого за пересказ того же качества — 3.
«Двойка должна жить». Учитель — о том, почему плохие оценки нужны детям
АнастасияДа уж… Уважительное общение не включено в общеобразовательные стандарты и экзаменационные вопросы. Можно иметь аттестат и даже не один диплом, но при этом оставаться полнейшим хамом. Системный кризис.
«Короче, училка, варежку свою закрой». Топ-20 цитат из переписок родителей с учителями, от которых волосы встают дыбом
Виктория ИльинаА может, пора честно посмотреть на проблему не только глазами учителя? Учитель жалуется: слишком много часов, слишком много отчётности, слишком много требований сверху. И с этим трудно спорить. Но есть один неудобный вопрос: а не является ли сама школа частью проблемы, которую она годами создаёт? Попробуйте хотя бы на минуту посмотреть на ситуацию глазами ученика. Этот ребёнок, которого сегодня заставляют заучивать километры информации «для галочки», завтра станет взрослым человеком. Возможно, чиновником, руководителем, тем самым человеком, который будет писать новые стандарты, программы и инструкции для школ. Не удивительно ли, что система воспроизводит сама себя? Главная ошибка многих педагогов — не в любви к знаниям. Знания нужны. Ошибка в другом: в убеждении, что ребёнку обязательно нужно загрузить весь огромный школьный багаж, не задумываясь, что из этого действительно пригодится именно ему. И когда обществу годами пытаются доказать ценность каждого килограмма ненужной информации, неудивительно, что эта работа перестаёт восприниматься как источник реальной пользы. Может быть, выход проще? Не превращать каждый предмет в борьбу за выживание. Не ломать детей и не выгорать самим. Если ребёнку ваш предмет объективно мешает сосредоточиться на тех знаниях, которые нужны ему для будущего, — поставьте законную тройку и дайте ему возможность развиваться дальше. Иногда настоящая педагогика — это не заставить выучить всё. А понять, что именно действительно стоит учить.
«Мы согласились со своим бесправием». Учительница – о том, почему ее коллеги терпят унижения
