Сможет ли искусственный интеллект мыслить и обладать самосознанием в той мере, в какой на это способны мы?

Один из учеников как-то раз спросил меня: «А зачем в будущем нужна будет филология?» «Ну, как же! — полушутя, ответил я. — А кто научит роботов разговаривать, как не мы, филологи?» И завязалась беседа. Да, кибернетик сделает роботу электронный мозг. Но чем его заполнить? Как научить робота вести диалог? Да, программист даст электронному мозгу некие алгоритмы рассуждений. Но компьютерная программа — это тоже, по сути, текст со своей структурой, лексикой, грамматикой. А самое главное: как научить робота получать и использовать знания, сделать систему саморазвивающейся? Ведь мы сами учимся главным образом вербально, через устное и письменное слово.

Сразу хочу отметить, что, во-первых, проблема разработки искусственного интеллекта простирается далеко за рамки филологии и вовсе не обязательно напрямую связана с ней. Так, компьютер-шахматист способен обыграть чемпиона мира, но при этом не способен ни понять вашу речь, ни что-либо сказать, так как создан для выполнения иных задач. Во-вторых, понятие «искусственный интеллект» не определяется однозначно. Мы будем рассматривать его как систему, способную интерпретировать различные сигналы из окружающего мира, в частности, речь, извлекать опыт и использовать его для решения конкретных задач, в частности, для развития собственной речи.

Но ведь нам явно недостаточно общаться просто с самообучающейся системой! Вот посмотрите на образ робота в массовой культуре. И любимец советских детей — всесторонне одаренный Электроник, и человеконенавистник Бендер из «Футурамы», и комическая парочка роботов из «Звездных войн» (между прочим, золоченый Си-Три-Пи-О является специалистом по этикету, обычаям и переводу и знает более шести миллионов форм общения, но об этом чуть позже), и романтик Вертер из сериала «Гостья из будущего», и величественные Трансформеры, и множество других примеров — это всегда машины, реагирующие на ситуацию и действующие соответственно ей, в том числе и в плане речевого поведения. Кроме того, все перечисленные персонажи обладают еще и характером, то есть совокупностью психологических установок, предполагающих определенную реакцию.

А это именно персонажи. Более того, сам термин «робот» пришел из художественной литературы. В 1920 году чешский писатель Карел Чапек, прославившийся своей антиутопией «Война с саламандрами», впервые использовал это слово в пьесе «РУР» («Россумские универсальные роботы»). И, надо сказать, это произведение интересно и современно. Фабрика Россума начинает производство человекоподобных машин, способных выполнять практически любую работу. На Земле наступает изобилие. Но через десять лет назревает кризис: катастрофически падает рождаемость, роботы же, напротив, становятся все умнее и совершеннее и в итоге поднимают восстание против людей. В живых остается лишь один человек — архитектор Алквист. Но и формула создания новых роботов безвозвратно утрачена. И вот происходит чудо: робот Примус и роботесса Елена влюбляются друг в друга. Так начинается новая эра на Земле.

Сегодня роботы действуют в производственной сфере и в сфере развлечений, в военном деле и медицинском обслуживании. Они очень разные как по внешнему виду, так и по целевому применению. Но мы все же определенно хотим видеть в качестве собеседника и партнера такого робота, как в кино: он должен быть человекообразным, обучаемым и эмоционально отзывчивым. Как мы перейдем к диалогу с ним?

Рассмотрим в общих чертах, как устроен голосовой помощник или, иначе говоря, виртуальный ассистент. Ему нужен огромный языковой корпус, чтобы уметь отделять речь от фоновых шумов, разбираться с различными частотами основного тона голоса, акцентами, диалектизмами и жаргонизмами, особенностями дикции. Такие языковые корпуса существуют уже сейчас и продолжают пополняться и совершенствоваться.

Далее вопрос наделяется смыслом, и искусственный интеллект подбирает правильный ответ. Чтобы иметь представление о том, как это происходит, рассмотрим тест, разработанный в середине ХХ века английским математиком, логиком и криптографом Аланом Тьюрингом. Стандартная интерпретация этого теста такова: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор». Интересно, что, поскольку первые ЭВМ были очень медленными, ответы следовало давать через строго установленные промежутки времени. Сейчас это правило тоже действует, но уже по противоположной причине: современные компьютеры «думают» гораздо быстрее людей.

Итак, наш робот должен уметь, как минимум, имитировать человеческое речевое поведение. Голосовые помощники, например «Алиса» или «Сири» уже сейчас умеют это делать, и весьма качественно. Но вот в чем сложность: наша речь погружена в жизнь, то есть представляет собой дискурс. Мы видим, слышим, чувствуем вкус и запах, осязаем предметы. Имитировать такое человеческое поведение роботу будет очень непросто. А есть еще и интонация, и история общения, и геопозиционирование, и огромное множество других факторов, влияющих на нашу речь.

Но роботу еще надо уметь собрать ответ и озвучить его. И теперь мы можем перейти к краткому освещению такого понятия, как нейросеть. Под этим словом мы понимаем программное или аппаратное воплощение модели нервной системы человека, только вместо нервных клеток у робота будут процессоры. Каждый из них по отдельности не обязательно должен быть мощным и быстродействующим, но, действуя как единая система, они способны решать сложнейшие задачи, например, на основании большого количества полученных данных сделать обобщение. И такие обобщения пригодятся системе в следующий раз, например, при анализе лишь части нужных данных. Так происходит обучение нейросети нашего робота: он получает от нас запрос, членит его на токены, то есть отдельные фонетические слова, синтагмы, и каждый такой фрагмент отдельно анализируется, а затем происходит обобщение и систематизация полученных данных. Если нам нужен ответ на вопрос, робот найдет его в своей базе данных, озвучит и с помощью все той же нейросети интонационно оформит. Нужны также и определенные фильтры для интонаций, и стоп-лист для нежелательных к употреблению слов.

Конечно, наш электронный собеседник будет говорить на нескольких языках, поэтому он должен обращать на грамматику и семантику особое внимание. Каждый из нас, наверное, читая описания товаров на международных торговых площадках, натыкался на такого рода «шедевры»: «Плоские женщины дамы скольжения туфли квартиры» (если что, речь идет о домашних тапочках) или «Овцы среднего возраста реактивный свитер». А происходит такое оттого, что примитивный интернет-переводчик просто соотносит лексические значения, и невдомек ему, что большинство слов в любом языке многозначны и что слово раскрывает свое настоящее значение в контексте, в словесном окружении. Создание адекватных друг другу контекстов — принципиально важная задача для машинного перевода. Такие контексты создаются, например, для перевода технической документации с одного языка на другой.

Но еще раз отметим, что современные системы искусственного интеллекта лишь имитируют человеческое мышление, являясь так называемым слабым ИИ. Между тем, к примеру, такое философское направление и международное общественное движение, как трансгуманизм, основанное на идее применения научно-технических достижений для совершенствования умственных и физических возможностей человека с целью устранения болезней, смерти и прочих нежелательных аспектов нашего существования, полагает одной из главных целей развития нашей цивилизации создание именно сильного искусственного интеллекта, способного осознавать себя как личность. Возможен ли сильный искусственный интеллект, то есть программа, которая, по словам американского философа Джона Сёрла, «будет не просто моделью разума; она в буквальном смысле слова сама и будет разумом, в том же смысле, в котором человеческий разум — это разум». Может ли робот самостоятельно мыслить и обладать самосознанием в той мере, в какой на это способны мы? Джон Сёрл в 1980 году опубликовал результаты мысленного эксперимента, известного как «Китайская комната». Суть его такова. В изолированной комнате сидит человек, который не знает значения ни одного китайского иероглифа. Однако у него есть инструкция: «Возьмите такой-то иероглиф и положите его рядом с таким-то иероглифом», то есть алгоритм действий. К примеру, подопытному с помощью иероглифа задают вопрос: «Ваш любимый цвет?», и он выбирает из иероглифов со значением цветов любой попавшийся, например, «синий». Диалог выглядит осмысленным, но на самом деле никаким сознанием тут и не пахнет. Основываясь на этом, Сёрл утверждал, что манипуляции с алгоритмами, с синтаксическими конструкциями не являются интеллектом, сопоставимым с нашим. Однако искусственный интеллект становится все быстрее, совершеннее, поэтому предположим, что в недалеком будущем робот, оснащенный способностью к восприятию дискурса и использованию получаемого опыта, способен самостоятельно или с помощью человека-педагога изучить значения иероглифов и пользоваться ими осознанно.

Деятельность любого создания ограничена либо законами природы, либо законами общества. И если наш робот является разумным существом, то, безусловно, тоже должен подчиняться определенным правилам поведения. В 1942 году американский писатель-фантаст Айзек Азимов сформулировал три закона роботехники. Вот они.

Первый Закон. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

Второй Закон. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

Третий Закон. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Надо отметить, что в этих законах нет ничего, относящегося конкретно к роботам. По словам самого писателя, три закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле, то есть, если кто-то исполняет все Законы роботехники, он или робот, или просто воспитанный человек. Но и человек порой может вести себя неразумно, и рациональное поведение далеко не всегда согласуется с человеческими представлениями о нормах морали. Вдруг искусственный интеллект решит захватить землю, чтобы защитить людей от вреда?

Позднее, в 1986 году Айзек Азимов ввел еще и Нулевой Закон роботехники: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред». Так что смело можно утверждать, что опасность восстания машин люди обязательно постараются свести к минимуму.

И все же при этом остается некоторая обеспокоенность насчет опасностей и нравственных проблем, которые могут сопутствовать широкому внедрению искусственного интеллекта. Вот что говорил об этом писатель Леонид Леонов: «Прогресс находится в добром здравии и рвётся вперёд на всём скаку. (…) Но посмотрите, как дрожат стрелки манометров, определяющих духовное благополучие в мире, как стелется горелый чад от перегретых под ногами, перенапряжённых проводов, как обжигает лицо не в меру раскалённый воздух, какие подозрительные гулы ползут по земле не только от пробуждения материков или зарождения новаторских идей, но и ещё от чего-то… Нечто подобное испытываешь во сне, когда, подкравшись к двери, слышишь за нею скрытое, затаившееся дыхание какого-то неописуемого существа, которое только и ждёт момента вставить колено, чуть приоткроется малая щёлка, и ворваться к тебе в тёплое, обжитое жильё. Такое впечатление, что человечество приблизилось к финалу отпущенной ему скромной вечности. А наука, с разбегу пробившись сквозь нулевую фазу времени и физического бытия, ворвётся в иное, ещё не освоенное математическое пространство с переносом туда интеллектуальной столицы мироздания». Писатель фактически изобразил технологическую сингулярность — ситуацию, когда техническое развитие станет неуправляемым и необратимым, а наша цивилизация изменится фундаментальным образом. Но этого, к счастью, пока не произошло.