Искусственный надзиратель | Мел
Искусственный надзиратель
  1. Блоги

Искусственный надзиратель

Время чтения: 4 мин

Искусственный надзиратель

Время чтения: 4 мин

«Уже в 2021 году из российских вузов начнут отчислять по рекомендации искусственного интеллекта, который будет изучать цифровой след студентов и обращать внимание, в том числе, на их общественную жизнь», пишет Znak.

Я хотел бы обратить ваше внимание на одно понятие, фигурирующее в этом тексте — на «цифровой след» (от англ. digital footprint). Оно упоминается не всеми СМИ, писавшими о разработке ИИ-надзирателя российскими технократами из центра EdCrunch University, созданного на базе НИТУ «МИСиС». Но я очень сомневаюсь в том, что журналисты сами решили использовать подобный термин, к тому же, не расшифровывая его. Скорее всего, он был произнесён Нурланом Киясовым, директором вышеупомянутого центра, на которого ссылаются все СМИ. Иными словами, вероятность того, что это какая-то ошибка, минимальна.

Так что же скрывается за таинственным словосочетанием «цифровой след»? Вкратце, цифровой след — это всё, что вы оставляете в интернете (от картинок с котиками, запощенных в давно покинутом аккаунте в Одноклассниках, до комментариев на Меле), и всё, связанное с вами, что оставляют в интернете другие люди. Здесь я пользуюсь определением, данным в курсе Эдинбургского университета.

Итак, давайте расшифруем тезис, с которого начали. Новый искусственный интеллект, основанный на неизвестных нам методах машинного обучения, будет самым наглым образом вторгаться в жизнь студентов, собирая по сети данные, связанные с ними и «их общественной жизнью». Читатель может здесь заметить, что цифровой след — это публичная информация, а значит в её сборе нет ничего криминального. Но это не вполне верно. Да, формально никто не мешает кому угодно увидеть те же самые данные, ведь они находятся в публичном доступе, и никакого преступления в их сборе нет. Но есть три немаловажных аспекта:

  1. Не всегда то, что люди выставляют на всеобщее обозрение в интернете, предназначается сразу всем. Зачастую они предпочитают, как в «реальной жизни», делить предоставляемую другим информацию о себе на куски, предназначающиеся для разных аудиторий. Простейший пример: некоторые заводят в соцсетях сразу два аккаунта — формальный, «рабочий» и неформальный. Вряд ли такие люди хотели бы, чтобы партнёры по работе видели в ленте их полуобнажённые фотографии из отпусков, а друзья — сухие факты о новых проектах. Точно так же не все студенты горят желанием передать свои данные из онлайна вузовской администрации, даже если эти данные будут представлены в обобщённом виде.
  2. При сборе информация агрегируется, то есть берётся из разных источников и объединяется в одном месте. Думаю, вы уже догадываетесь, в чём тут проблема. Не каждый хотел бы, чтобы то, что он оставил в своём профиле на LinkedIn, в сообществе любителей brutal death metal'а и на форуме фанатов My Little Pony, было собрано в одном месте. А уж тем более в базе всех студентов университета, которую, вообще говоря, могут и взломать.
  3. Как следует из данного в начале определения, не весь свой цифровой след мы можем легко контролировать. Если в группе НОДа о вас написали, что вы фашист, агент Госдепа и растлитель молодёжи, — это тоже ваш digital footprint.

Но всё вышеперечисленное ещё полбеды. Дело в том, что в подавляющем большинстве российских вузов студенты де-факто бесправны (то есть их права не подкреплены серьёзными механизмами контроля), а официальные профсоюзы занимаются тем же, чем занимаются все официальные профсоюзы в России. Чем угодно, кроме защиты прав. Внедрив наш замечательный ИИ, мы просто дадим университетским бюрократам ещё один рычаг давления на и без того дискриминируемое студенчество. Думаете, он не будет использоваться для того, чтобы выгонять тех, чьи скрепы недостаточно духовны, а разум склонен к защите академических свобод и гражданских прав, митингам и прочему бузотёрству? О, наивные…

Ладно, с цифровым следом разобрались. Но, может, достаточно убрать пункт с ним из разработки, и она окажется хорошей? Кажется, что да. Нам обещают молочные реки и кисельные берега: оценивание активности студентов, защиту от человеческой предвзятости и, как пишет РИА, снижение отчислений до 10% учащихся. Звучит неплохо? Нет. На мой взгляд, ущербна сама цель разработки искусственного интеллекта.

Здесь я должен сделать отступление и вспомнить одного из самых влиятельных интеллектуалов XX века, французского философа Мишеля Фуко, а точнее его книгу «Надзирать и наказывать: Рождение тюрьмы». В ней Фуко приводит проект идеальной тюрьмы Иеремии Бентама, называемой «паноптиконом», для описания модели, лежащей в основе современных тюрьмы, больницы, школы и распространяющейся на общество в целом. Паноптикон представляет собой расположенные по кругу камеры, пространство внутри которых видимо снаружи, и башню, расположенную в центре круга, в которой находится невидимый для заключённых наблюдатель-страж. В этой модели власть становится незримой (потому что невидим её источник) и непрерывной (потому что никто из заключённых не может быть уверенным, что в данный момент за ним не наблюдают из башни). Фактически, власть становится автономной: заключённые оказываются её источниками (субъектами) и объектами одновременно. Паноптическое устройство социальных институтов и общества потворствует «отправлению» дисциплинарной власти. Дисциплина по Фуко — это особый тип властвования, позволяющий делать людей одновременно послушными и эффективными, снижающий издержки по сравнению с предыдущим, менее эффективным типом — властью суверена. (Весь этот абзац — большое, но вынужденное упрощение идей французского мыслителя; прошу не воспринимать его как лекцию по философии.)

Чтобы было совсем понятно, приведу пример, настолько бытовой, насколько мне удалось придумать. Это человек, не переходящий улицу, потому что горит красный, когда рядом нет ни машин, ни полиции, ни даже камер. Ему не угрожает наказание за нарушение, и нет угрозы ДТП (именно для их предотвращения придуманы правила дорожного движения, а не просто «чтобы исполнялись»). Но человек всё равно продолжает стоять, пока не загорится зелёный, потому что он дисциплинирован, потому что невидимая и вездесущая власть в каждый момент времени «проходит сквозь него».

Для чего я написал последние два абзаца, казалось бы, не имеющие отношения к теме? Для того, чтобы вы поняли одну простую вещь. Да, отечественные вузы и без того были паноптическими и дисциплинарными (это легко обнаружить, если задуматься о том, что представляет из себя студенческая культура в современной России), но внедрение ИИ-надзирателя в разы усилит дисциплинарную власть. Если раньше над студентами довлела пронизывающая всю университетскую структуру, но не всегда слаженно работающая и ответственная бюрократия, то теперь к ней добавится «машина», которая не упустит ничего в пределах своей компетенции (а где эти пределы заканчиваются, определит, видимо, всё та же бюрократия). Искусственный интеллект действительно лишён «предвзятости» в том смысле, что ему плевать на адекватность учебного плана и расписания, психологическое состояние студентов и общую атмосферу на факультете, а также другие факторы, влияющие на нелёгкую студенческую жизнь. Он честно выполнит свою работу: соберёт данные, сделает предсказание (могу ошибаться, но мне кажется, решается задача машинного обучения именно такого типа; терминология взята из курса ОмГТУ) и отправит «наверх» результат в виде рекомендации. Как именно его учитывать — о, это полностью во власти вузовского административного аппарата.

Таким образом, вуз превратится в тюрьму с идеальным надзирателем.

В этом и состоит специфика технократического подхода: в нём мыслится категория эффективности, а не человеческого благополучия. Количество отчислений снизится на несколько процентов? Прекрасно! А то, что внедрение ИИ усилит бюрократическую диктатуру в вузах, увеличит перекос в распределении власти внутри них, станет предпосылкой для ещё большей дискриминации студентов (а может быть и рядовых преподавателей) — это уже неважно.

Здоровый же подход таков: сначала дайте студентам реальные, а не фиктивные инструменты влияния на развитие вузов; поощрите создание реальных, а не фиктивных профсоюзов; защитите от домогательств; обеспечьте психологическую поддержку… в общем, обеспечьте незыблемость наших прав и дайте нам автономию. А затем пусть идут цифровизации, оптимизации, инновации и иже с ними.

Чтобы сообщить об ошибке, выделите текст и нажмите Ctrl+Enter
К комментариям
Комментариев пока нет
Больше статей