Вижу то, что лайкаю. Как не дать умной ленте обмануть себя

Словосочетание «искусственный интеллект» и термин «нейросети» большинству до сих пор кажутся научной фантастикой, хотя на самом деле мы пользуемся ими каждый день. Вместе с «Академией ИИ» разбираемся, как алгоритмы меняют мир прямо сейчас, а главное — что в них хорошего и плохого.

Рекомендательные сервисы

Стриминговые сервисы действительно навсегда изменили индустрию развлечений. YouTube, Netflix и Spotify — когда-то пионеры, а теперь флагманы. Они одними из первых начали использовать нейросети, чтобы предлагать пользователям только то, что будет им интересно. Алгоритмы анализируют множество переменных (от всё тех же лайков и дислайков до продолжительности просмотра или прослушивания), сравнивают поведение миллионов людей по всему миру и выдают персональные рекомендации.

Как только вы закончили смотреть один ролик или фильм, сервис тут же предложит следующий — непременно такой же интересный. Конечно, может показаться, что рекомендует он часто невпопад, однако аудитория растёт с каждым годом, а в английском языке появился термин, лаконично описывающий феномен Netflix и YouTube, — binge-watching, или просмотр запоем. Так что алгоритмы работают, пока вы отдыхаете.

У алгоритма есть ощутимые недостатки: контент, который совсем не похож на то, чем вы обычно интересуетесь, может просто до вас не дойти. Как следствие — всё та же ограниченная картина мира. Плюс — высокий риск «залипнуть» на несколько часов. Детям особенно сложно фильтровать рекомендации: их качество и количество. Особенно когда речь идёт о младших. Поэтому не удивляйтесь тому, что услышите от них вечером.

Умная лента социальных сетей

Главная особенность современных соцсетей вроде Facebook, Twitter, Instagram и «ВК» — лента новостей, которая показывает посты ваших друзей и страницы, на которые вы подписаны. С появлением кнопки «Мне нравится» на смену хронологической последовательности выдачи пришли алгоритмы.

Соцсети отслеживают, каким записям человек ставит больше лайков, какими делится, где проводит больше времени, и формируют индивидуальную ленту, основанную на его предпочтениях и интересах. Звучит здорово, но есть и свои минусы.

Конечно, в такой ленте меньше мусора — только то, что, по мнению совершенствующихся алгоритмов, будет интересно пользователю. Однако есть пара существенных недостатков:

• Из-за того, что в ленту попадают далеко не все новости, у человека формируется неполная или даже искажённая картина мира. К примеру, он поделился новостью о сборе средств на приют для бездомных животных. Вскоре он начинает видеть всё больше аналогичных записей и приходит к выводу, что, кажется, все вокруг беспокоятся о животных. На самом деле такие публикации ему подкидывает алгоритм.
• Листая только интересные посты, легко залипнуть в соцсети надолго. Во многом для этого и трудятся разработчики. Пользователи проводят много времени онлайн, им показывают больше рекламы, соответственно, компания больше зарабатывает.

Голосовые помощники

«Окей, гугл», «Привет, Алиса» — то, с чего дети охотно и с азартом начинают общение с виртуальными помощниками. Они отзываются на голос, неплохо понимают вопросы и уже многое умеют, хотя самое интересное у них ещё впереди. Свои ассистенты есть у Mail.ru, Amazon, Apple, Google и даже Тинькофф Банка. Голосовое управление встроено в смартфоны, автомобильные навигаторы, планшеты, отдельные приложения, ноутбуки, а с недавних пор ещё и в умные колонки.

Голосовые помощники работают благодаря усилиям компьютерных лингвистов. Они научили алгоритмы распознавать речь, правдоподобно её имитировать и даже понимать смысл сказанного, чтобы поддержать разговор. Помимо IT-специалистов, сами пользователи работают над совершенствованием программ. Чем больше они общаются с «ассистентами», тем те становятся умнее.

В 2018 году было продано 114 миллионов устройств с голосовыми помощниками — тех самых умных колонок. Рынок растёт с неимоверной скоростью. Гаджеты покупают для дома, но всё чаще — специально для детских и школьных классов. Дети без ума от голосовых помощников: они знают ответы на все вопросы (даже на те, от которых родители покрутят пальцем у виска), с ними можно бесконечно играть в «Слова» или «Города».

Они ставят музыку, рассказывают сказки, включают мультфильмы — в общем, безотказно исполняют любые детские прихоти, на которые взрослые не всегда согласятся

Но у этого есть и обратная сторона. «У таких устройств нет эмоционального интеллекта, — говорит Элисон Друин, профессор Мэрилендского университета, изучающая использование технологий детьми. — Они мыслят фактами». Как следствие, слишком много общаясь с безэмоциональным роботом, ребёнок может в будущем испытывать трудности в разговорах с реальными людьми, в понимании их (и собственных) чувств.

Более того, с недавних пор некоторые разработчики стали программировать помощников так, чтобы они выполняли запрос, только если их просят об этом вежливо. Достаточно слова «пожалуйста». Случилось это потому, что многие дети начинают хамить и оскорблять устройство. Или говорят с ним только в приказном тоне.

Компьютерное зрение

Помните, как впервые увидели QR-код? Наводите на квадратный штрихкод камеру смартфона и переходите по закодированной ссылке. Во многом именно благодаря этой японской технологии из начала 2000-х сегодня вы можете примерить маску «Джокера» в Instagram, поймать покемона в парке, посмотреть на себя в старости, разблокировать смартфон, просто взглянув на него, и даже узнать, сколько стоит и как называется одежда, в которую одет прохожий.

Если не вникать в нюансы кода и анализа данных, то суть технологии довольно проста: на множестве примеров алгоритм учится находить значимые места — основные контуры, формы, очертания объектов — и никогда не перестаёт учиться.

К сожалению, уже сегодня компьютерному зрению нашли не столь благородное применение. В 2015 году появился веб-сервис FindFace, который позволял найти страницу человека во «ВК» по его фотографии. И хотя вскоре разработчики алгоритма закрыли свободный доступ к нему, начали сотрудничать с коммерческими организациями и властями, в сети есть немало аналогов. Они всё ещё неплохо справляются с задачей по идентификации личности человека по изображению. Вот так вторжение в частную жизнь из удела папарацци становится неоднозначной забавой интернет-сталкеров.

Разумеется, возможности компьютерного зрения не ограничиваются развлечениями и поиском людей в интернете:

• Его используют в медицине: наученные множеством примеров алгоритмы куда эффективнее людей обнаруживают опухоли и симптомы атеросклероза.
• В промышленности технология позволяет контролировать качество конечного продукта буквально одним взглядом.
• Самонаводящиеся ракеты и другое умное вооружение тоже работает благодаря компьютерному зрению.
• Пресловутые беспилотные автомобили, напичканные камерами, благодаря которым распознают дорожные знаки, пешеходов и другие автомобили. Пока не безупречно, конечно, но, согласитесь, это куда серьёзнее QR-кодов.

А как же образование?

Уже сегодня школы и университеты тестируют умные системы сбора и анализа данных учеников и студентов. Алгоритмы анализируют успеваемость, активность на занятиях, посещаемость, участие в общественной жизни и другие переменные.

В результате руководство сможет предлагать ученикам действительно персонализированные программы обучения и личные рекомендации. Так персонализированный подход станет действительно индивидуальным. Просто представьте: учитель вместо бесконечной проверки домашних заданий доверяет эту задачу программе, а сам корректирует курс в зависимости от потребностей отдельных учеников.

И как, получается?

• 700 бельгийских школ используют технологию, которая анализирует не только успехи ребёнка, но и то, нравится ли ему предмет, какие темы даются сложнее всего. Наверстать материал ученику помогут интерактивные микроуроки, сгенерированные программой.
• Приёмные комиссии американских колледжей пользуются искусственным интеллектом, чтобы избежать предвзятых решений и минимизировать человеческий фактор при отборе абитуриентов.
• В России уже больше года работает бесплатный сервис для учителей начальной школы: он автоматизирует оценку посещаемости, проверку домашних заданий и помогает учителю быстрее готовиться к уроку. А ещё предлагает тысячи интересных заданий, которые дети могут делать онлайн.