ИИ без мифов

Искусственный интеллект (ИИ) входит в нашу жизнь, как когда-то вошли компьютер с интернетом. С ИИ связано множество мифов. Мифы сформировали мнение, что создатели ИИ обладают особыми навыками, которые под силу только человеку с выдающимися способностями. На самом деле это далеко не всегд а так. Об этом подробнее.

ИИ и вероятности

Популяризаторы и пропагандисты стараются поразить нас необычайными возможностями создаваемых ИИ. Постоянно звучат прогнозы про их грандиозные перспективы, из-за которых ИИ в конечном итоге поработит человека. Такой кошмар зиждется на байках о том, что ИИ создаёт вполне осмысленные тексты, которые подобны диссертационным работам. Авторы страшилок считают, что созданные тексты с картинками будут способны манипулировать сознанием людей для захвата власти.

На самом деле тексты с картинками, сгенерированные через ИИ, являются лишь изощренной компиляцией текстов и картинок, созданных людьми в предыдущие годы. С каждым годом в ИИ вводится всё больше текстов и картинок, а рост вводимого первичного материала позволяет создавать всё более правдивую имитацию. Точнее, всё сложнее отличить сгенерированное ИИ от текстов и картинок, созданных человеком.

Для понимания самого процесса создания правдоподобных результатов приведу один известный случай, который произошел с Фрэнсисом Гальтоном, двоюродным братом Чарльза Дарвина. Он присутствовал на рынке, где выставили корову с обещанием дать награду тому, кто угадает её вес. Люди называли вес, а Фрэнсис записывал. Никто не смог угадать точный вес коровы. В конце дня Фрэнсис подсчитал среднее число от всех названных чисел и получил результат, который оказался наилучшим приближением к реальному весу коровы.

Что следует из опыта Фрэнсиса Гальтона? Можно без взвешивания узнать вес коровы, если обратиться к тем крестьянам, которые готовы на глазок оценить её вес. Это естественно, так как собранная информация соответствовала тому закону, которой в теории вероятностей называют нормальным распределением случайных величин. Из этого математического закона известно, что чем больше опросим людей, тем среднее арифметическое ответов будет ближе к реальному весу коровы.

Подобное происходит с теми картинками, которые генерирует ИИ. Они что-то среднее от той информации, что обработана ИИ. Сначала вводятся картинки, из которых сформируют базу для генерации новых картинок. Каждая вводимая в ИИ картинка разбивается на мелкие кусочки. Это аналогично тем пикселям, которые определяют картинку для отображения её на экране компьютера. Каждый такой кусочек от картины описывается набором параметров. Потом параметры первого ряда с помощью функций преобразуются в новые параметры второго ряда, а те в свою очередь сформируют параметры следующего ряда. Начальные параметры последовательно проходят несколько рядов преобразований, а саму последовательность преобразований называют нейронной сетью (см. «Обобщение — свойство нашего мозга»).

После получения задания на создание новой картины происходит отбор и группировка параметров, удовлетворяющих условиям задания. Каждый параметр связан с какими-то словами. Если в задании есть слово лошадь, то для генерации нового изображения отбираются параметры, которые в ходе обобщения были связаны с лошадьми. Потом по установленным алгоритмам из них формируются конкретные изображения. Сначала идет создание мелких фрагментов, а их последующая сборка напоминает соединение пазлов. Для соседних пазлов должен совпадать цвет на границах, а сами пазлы должны соответствовать какому­-то конкретному предмету. Вроде бы разработчики всё учли, чтобы получить новую картинку без огрехов, но, к сожалению, возникают изображения шокирующего характера.

Это касается не только картин, а и текстов, сгенерированных ИИ. Тексты содержат знакомые слова и понятные фразы, но в них не соблюдаются правила логики. Людей, прибегающих к помощи ИИ, это не смущает. Возникающие казусы можно убрать, чтобы выдать текст за результат собственной работы, подобрав к нему вполне правдоподобную картинку.

Подобные огрехи в работе ИИ иногда называют галлюцинациями, но природа их совсем иная. Человеческие галлюцинации сопровождаются нарушением химического баланса, разрушающих связи внутри нейронной сети головного мозга, а компьютерные галлюцинации являются результатом работы самой нейронной сети, которая была заложена в ИИ с самого начала.

Разработчики ИИ обещают, что исправят огрехи, рисуя радужные перспективы развития ИИ. Каким-то обещаниям можно верить, но в любом случае ИИ не будет способен задать новое направление в искусстве, а тем более создать инновацию или породить научную идею, так как в процесс обучения ИИ включено только то, что было создано ранее без анализа на причинно-следственных связи.

ИИ и коллективный разум

В последние годы всё больше появляется ИИ, основанных на тех же принципах, на которых функционирует мозг человека. Мозг человека состоит почти из 100 млрд нейронов, а от каждого нейрона отходят тысячи синапсов, поэтому повторить его деятельность не получится. Можно считать успешными лишь создание роботов по отдельным направлениям специализации деятельности человека.

Хотя нейробиологи достигли значительных результатов при изучении работы мозга, но в голову животного и человека, не залезешь, чтобы изучать процессы в мозгах в моменты реальной деятельности. Другое дело, коллективный разум, который можно наблюдать, чтобы потом его смоделировать. Модель будет отражать формы взаимодействия тех, кто участвует в работе коллективного разума, а это можно будет заложить в базовые основы создаваемых ИИ.

Для иллюстрации понятия коллективного разума рассмотрим сообщества муравьёв и пчёл.

Людей поражает, что пчелы и муравьи не знают математики, не умеют планировать, а при этом их действия ведут к решению сложных задач. Для решения транспортной задачи по оптимизации перевозок обычно предлагают обратиться к области математического программирования, а тут подобные задачи решают насекомые. Решение стало возможным, когда в ходе эволюционного развития были сформированы четкие правила для взаимодействия тысяч особей.

Если взять муравья и положить его на стол, то его движения будут хаотичны. Понятно, что при мизерном муравьином росте обозреваемость пространства очень ограничена. Мы видим, что муравей не способен выбрать даже направление движения, а при этом муравьи при наличии коллектива из сотен муравьёв всё же находят и собирают еду, причем так, как будто они способны на поиск оптимальных маршрутов и даже на планирование доставки пищи с наименьшими затратами.

Муравьи, живущие в одном муравейнике, составляют саморегулирующуюся систему. Саморегулирующуюся, так как среди них нет начальников и подчиненных, а при этом их совместная деятельность организована так, что позволяет достигать результатов, необходимых для выживания и размножения. Саморегуляция коллектива происходит благодаря отлаженной системе взаимодействия, подчиненной строгим правилам. Вот эти правила можно закладывать в создаваемый ИИ, который будет решать те же задачи, что и коллективный разум муравьев.

Для взаимодействия муравьи наделены способностью различать запахи, а на прошедшем пути оставляют свои запахи, которые помогают ориентироваться другим муравьям.

Итак, какой-то муравей бегает в поисках пищи, а когда нашел, то тащит добычу в муравейник, оставляя на пройденном пути свой запах. Чем ближе к дому, тем запахи сильнее, так как из него выползали и в него возвращаются все муравьи, а разница в силе запаха позволяет муравью двигаться к дому кратчайшей дорогой или удаляться от дома при поиске пищи.

Один муравей уже потащил пищу домой, а другой муравей отправился на поиск пищи. Движения, ищущего пищу, хаотичны, но как только он натолкнется на запах муравья, который нес пищу домой, то ринется к месту обнаруженной еды. Так запах позволяет находить путь туда, где есть пища. Если при поиске пищи муравью встретится ещё один запах, то теперь он выберет движение по дорожке с наиболее сильным запахом.

Сила запаха уже проложенного маршрута усиливается с прохождением по нему следующего муравья, который тащит добытую им пищу. К тому же, запахи ослабевают со временем, что позволяет муравьям не спешить туда, где еда уже закончилась.

Итак, сначала много муравьев бегает хаотично в поисках пищи, а как только один из них обнаружил её, то и другие поползут по запаху к месту нахождения еды, а потом бегут кратчайшей дорогой домой, так как запах самый сильный в том месте, где находится их общий муравьиный дом.

Так будет проложена дорога, которая является кратчайшей по направлению к месту, где еды много. Чем дорога короче, тем запах сильнее, а люди с высоты своего роста наблюдают цепочку из муравьев-тружеников, поражаясь вполне разумному коллективному решению для сбора пищи. Поразимся ещё и тому, что насекомые достигают результата без каких-либо начальников.

Коллективный разум возникает в саморегулирующихся системах на базе правил взаимодействия, которые выполняются каждым членом коллектива.

Биологи скажут, что жизнь муравьев сложнее, чем здесь описана. Конечно, но я выделил лишь ключевой процесс взаимодействия, который позволяет создать алгоритм для разработки ИИ. При моделировании коллективного разума интенсивность запахов будет заменена весами, вероятностями или иными характеристиками, а сформированную на компьютере модель можно называть искусственным интеллектом (ИИ).

Как видим, здесь нет ничего такого, с чем старшеклассник не способен справиться, если захочет смоделировать коллективный разум муравьев.

Если понятны правила, по которым возникает саморегуляция, то их описание позволяет сформировать алгоритм для создания ИИ.

Так почему же у многих людей сложилось мнение, что для создания ИИ нужны глубокие знания по математике? Это происходит из-за того, что даже простой алгоритм требует доказательств, что он будет приводить к планируемому успеху, а иначе не получишь денег для найма уникальных специалистов с обеспечением их работы вычислительной техникой. Чем ИИ будет универсальнее, тем больше денег под разработку можно привлечь. К тому же, именно универсальность ИИ возбуждает интерес широкой публики, покупающий акции и иным образом предоставляющих свои личные средства.

При этом в тени остаются скромные труженики, создающие многочисленные ИИ локального назначения, хотя тысячи специализированных ИИ для решение узкопрофильных задач охватывают гораздо больше людей, приобщенных к работе с использованием реальных ИИ.

Обратите внимание, что универсальность создаваемого ИИ вызывает любопытство наибольшего числа людей, а тогда больше информационных источников пишут и говорят о нём, чтобы привлекать читателей к своим публикациям. Так происходит саморегуляция, порождающая рост тех статей и передач, которые пишут и говорят о самых дорогих проектах по созданию ИИ, на базе которых формируется мифология о возможностях ИИ.

На практике прорыв может произойти в той компании, которая своей разработкой не привлекла массового читателя. При выборе направления разработки ИИ не следует ориентироваться на те мнения, которые слишком популярны.

Другой поучительный пример использования коллективного разума связан с формированием нового пчелиного роя. Новое пчелиное гнездо следует построить в том месте, рядом с которым много хорошей еды.

Известно, что пчела, подлетая к улью, кружит около него. Она выписывает восьмерку, указывая на то направление, где собирала нектар. При этом раскачивает брюшком, а амплитуда отражает быстроту и легкость сбора нектара. А ещё она демонстрирует качество набранной еды, так как чем дольше длится её полет около улья, тем еда в её брюшке лучше. Другая пчела при вылете из гнезда, натолкнувшись на неё, полетит в сторону, указанную кружившей около улья пчелы. Так как дольше кружатся пчелы, которые принесли более качественную пищу, то на таких пчёл чаще наталкиваются пчёлы, вылетающие из гнезда за новой порцией пищи. Так формируется процесс, когда всё больше пчел летят в одном и том же направлении, где они быстрее соберут качественную еду.

Так постепенно образуется новый рой пчел, который летит в одинаковом для всех направлении. Причем, летят туда, где пища лучше, а поэтому именно около медоносного пространства будут искать подходящее место для нового жилища.

Не надо быть гениальным математиком, чтобы на базе описания жизни пчёл создать алгоритм для разработки ИИ.

ИИ и специализация

Примеры с насекомыми показывают, что для успешного создания ИИ необходим опыт составления алгоритмов, задающих последовательность действий. Ведь муравьи и пчелы не знают математики, не занимаются планированием, а достигают желанного результата в результате выполнения четких правил. Следовательно, можно создавать ИИ для саморегулирующихся систем из людей, так как в таких системах есть строгие правила, которые все соблюдают.

Процесс создания ИИ начинается с составления алгоритма, который опишет последовательность действий в саморегулирующейся системе.

В ИИ, отражающих работу коллективного разума, заложен учёт причинно-следственные связей, как результат последовательности действий участников саморегулирующейся системы. Это является существенным преимуществом перед теми ИИ, которые строятся на огромном материале из текстов и картинок с использованием математического аппарата с нейронными сетями. Но при этом ИИ, выстроенные по правилам саморегулирующейся системы, не способны сформировать правдоподобные тексты и картинки. Итак, одни ИИ не способны сформировать тексты с иллюстрациями, а у других нет учета причинно-следственных связей.

Разные способы построения ИИ формируют разные сферы их применения.

Любые ИИ создаются на основе информации за предыдущие годы. Одни используют тексты и картинки предыдущих лет, а другие используют созданные в предыдущие годы формы взаимодействия. Оба подхода к разработке ИИ не противоречат друг другу и способны взаимодействовать между собой и дополнять друг друга.

В экономике рыночные отношения создают условия для возникновения и устойчивого существования саморегулирующихся систем. Благодаря свободному ценообразованию происходит саморегуляция, порождающая оптимизацию цен. Известно, что цена реагирует на изменения спроса и предложения по каждому отдельному продукту.

О работах Адама Смита были хорошо осведомлены люди ещё во времена Евгения Онегина, но в XX веке решили, что можно всё рассчитать с помощью математики. В нашей стране были одни из лучших математиков в мире, но оказалось, что саморегулирование цен эффективнее математических расчетов. Надо надеяться, что из исторического опыта извлечен урок, побуждающий к сохранению, а не к разрушению саморегулирующихся систем.

Можно быть уверенным, что знания законов рынка будут побуждать разработчиков к созданию ИИ для применения их в саморегулирующихся системах.

Жители Москвы обеспечены электричеством, газом, питьевой водой, канализацией, уборкой мусора, транспортом, теплом, интернетом и так далее. Они получают всё необходимое от тех людей, с которыми даже не знакомы. Это благодаря тому, что в городе отлажена структура взаимосвязей между людьми разных специализаций, базирующаяся на доверии при выполнении сложившихся правил.

Каждый москвич выполняет свои обязательства, включившись в систему отношений своего ближайшего круга. Тем самым каждый москвич фактически в той или иной степени участвует в разнообразных саморегулирующихся системах. Он действует в разнообразных системах. Каждый раз система отношений своя, специфическая, когда москвич приходит на работу, и когда производит покупку, и когда использует водопровод с канализацией, и когда включает газовую плиту, и когда едет в транспорте, и когда выносит мусор, и когда оплачивает счета по коммунальным услугам, и когда отдает ребенка в школу или в детский сад. Саморегулирующиеся системы разнообразны, а при этом они опосредствованно связаны между собой. Важно осознавать, что москвич уже не в состоянии существовать вне тех самых систем, в которые он вписался и к которым он привык для обеспечения себя разнообразными услугами.

Для саморегулирующихся систем, которые устойчиво функционируют много лет, можно и нужно создавать ИИ.

ИИ уже присутствует в разнообразных системах, позволяющих отлаживать взаимоотношения, хотя мы часто не обращаем на это внимание. Их создатели не стремились к универсальности своих ИИ, так как любой ИИ должен выполнять правила внутри своей саморегулирующейся системы, а дополнительные его возможности не будут востребованы.

Специализированный характер ИИ естественен, как естественно то, что сами москвичи специализируются в узких областях деятельности. Специализация деятельности возникает, когда один дополняет другого. Разработчики ИИ учитывают роль взаимозависимости, стараясь с помощью ИИ снизить издержки внутри саморегулирующихся систем, сделать их устойчивее, повысить их конкурентоспособность.

Универсальный ИИ не способен сейчас и не сможет потом заменить сразу все специальности, которых с каждым годом становится всё больше, а поэтому даже для этого утопического ИИ будет требоваться всё больше ресурсов. Можно быть уверенным, что число специализированных ИИ будет расти. Нет смысла пытаться сделать ИИ столь универсальным, чтобы заменить коллективный разум полностью, когда эволюции породила специализацию внутри коллективного разума. Тем более глупо стремиться создавать монстра, способного заменять кучу саморегулирующихся систем.

ИИ не подвержены эмоциям, а поэтому с точки зрения соблюдения правил в саморегулирующейся системе они вызывают больше доверия, чем специалисты с теми же функциями.

Коллективный разум, состоящий из людей и ИИ, уже давно создает всё многообразие современной продукции. Не случайно спорят о том, кто изобрел паровоз или радио. Эти споры являются отражением того, что в создании высокотехнологичной продукции участвовало много людей. Пора уже уяснить, что продукция, поставляемая на продажу, является порождением коллективного разума, который порожден саморегулирующейся системой.

Пора осознать, что жители Москвы подобно муравьям и пчёлам не способны выживать вне коллективного разума.

Попробуйте сосчитать число контактов за сутки хотя бы в одном столичном торговом центре. Устойчивые контакты порождают саморегулирующиеся системы, а регуляция деятельности формирует потребность в новых ИИ.

ИИ и москвичи

В каком направлении пойдет развитие ИИ?

Будет ли идти поголовная замена человеческого разума на ИИ?

Или пойдет по пути совершенствования коллективного разума, состоящего из людей и ИИ?

Ответы на эти вопросы зависят от взаимодействия разработчиков с теми, для кого предназначены ИИ. Каждый сам может попытаться дать ответы на эти вопросы в зависимости от личного опыта взаимодействия с создателями ИИ.

Бизнес давно научился вовлекать людей в реализацию своих проектов. Подходы для получения информации через вовлечение в деятельность людей описываются в учебных пособиях для предпринимателей. Показателен прием, который был разработан в компании Microsoft. Глава отдела тестирования Росс Смит предложил использовать компьютерные игры для вовлечения геймеров с целью снижения издержек по тестированию новой продукции. При этом, игроки не подозревали того, что в ходе игры они параллельно тестируют и саму игру на огрехи, связанные с ошибками при переводе с английского на другие языки.

Подобным же образом разработчики ИИ используют абонентов сотовой связи, когда те набирают текстовое сообщение. При появлении на экране смартфона нескольких букв, которые набрал абонент, к ним добавляются окончания либо слов, либо фраз, либо адресов, либо другое. Это ИИ предложил абоненту для сокращения усилий и времени при наборе сообщений. Если предложенное не устроит абонента, то ИИ записывает набранный абонентом текст, добавляя тем самым ещё один возможный вариант. Варианты получают вероятности в зависимости от набранных первых букв. Так организована обратная связь, необходимая для обучения ИИ (см. «Обучаются даже гусеницы»).

Как видим, создатели ИИ могут включать в свой процесс жителей и гостей столицы без их согласия. Есть и другие ИИ, которые создают условия, чтобы москвичи осознанно включались в процесс формирования ИИ. Так происходит в реализуемой программе создания ИИ по постановке медицинского диагноза.

Для включения каждого москвича в эту программу были созданы индивидуальные электронные медицинские книжки. Книжка заполняется врачами и пациентами самостоятельно, а с годами она будет отражать историю болезни, а лучше сказать, будет отражать историю здоровья за все предыдущие годы.

Раз система сбора информации для медицинской диагностики сформирована, то можно ожидать, что через несколько лет появятся ИИ, которые будут характеризовать состояние здоровья каждого москвича, сигнализировать о его изменении, ставить диагнозы при заболевании и давать свои рекомендации по профилактике заболеваний и по лечению после установления диагноза.

Результаты диагностики врача и ответа от ИИ не сложно сравнить, а истинным результатом будет считаться тот, который подтвердится в ходе лечения.

ИИ имеет преимущество перед врачами, так как через ИИ проходят все москвичи по каждой конкретной болезни, а у врача на приёме оказываются только те из них, которые лично к нему обратились. Врач имеет свои преимущества перед ИИ, так как только человек способен перевести научные достижения в медицинскую практику, поэтому человек всегда будет востребован в тех сферах деятельности, где есть наука.

Можно считать, что ИИ уже обучился, когда его диагнозы станут точнее диагнозов большинства врачей. Тогда каждый москвич получит доступ к ИИ, а каждому пациенту будет предоставлена возможность действовать самостоятельно по рекомендациям ИИ или дополнительно обращаться к врачам.

ИИ и смена ситуаций

Нет сомнений, что чем больше было больных с конкретным заболеванием, тем легче будет эту болезнь отделить от других болезней. Врачи могут ошибаться, но построение ИИ-диагностики на основе решений врачей из всех клиник позволяет максимально снизить субъективные ошибки при постановке диагноза. В ИИ-диагностику закладываются те самые приемы, которые разработаны и описаны в начале статьи под заголовком «ИИ и вероятности».

Врачи принимают решения на основе установленных правил, а именно выполнение медицинских процедур обязательны для профилактики, для лечения и для реабилитации после болезни. Они закладываются в ИИ, отражая причинно-следственные связи, о чем было в разделе под заголовком «ИИ и коллективный разум».

Отметим ещё одно важное направление, получившее отдельное развитие при создании ИИ. Оно связано с фиксацией изменений состояния пациента. Понятно, что ИИ-диагностика сообщит про изменения состояния здоровья сразу и не будет подобно врачу дожидаться, когда пациент придет к нему с жалобой на своё здоровье.

Создание алгоритмов для фиксации изменений в состоянии наблюдаемых объектов является ещё одной из важнейших областей, получивших развитие не только для медицинских ИИ.

Для примера рассмотрим поведение охотника. Охотник знает, что надо встать так, чтобы ветер дул со стороны животных, а иначе они учуют запах человека. Зверь не чует запаха и может близко приблизиться к охотнику, но при условии, что тот не совершает движений.

Между прочим, и человек лучше фиксирует то, что движется. Подобное замечал каждый, когда не мог найти след мышки на рабочем столе экрана своего компьютера. Надо начать двигать мышку, а тогда взгляд быстро обнаружит на экране след от мышки.

Это касается не только зрения. Не только взгляд, а любое внимание животного и человека в первую очередь фиксируется на изменениях, поэтому к обнаружению изменений было приковано особое внимание создателей ИИ. Если мы рассуждаем о болезнях, то фиксируем изменения состояния больного. Мы обратим внимание на отсутствие работника на работе, если это не соответствует привычной ситуации. Мы обратим внимание на изменение цены в магазинах и сообщим о них знакомым. Мы фиксируем изменения, так как они порождают необходимость в изменении собственного поведения, собственных решений.

Итак, ИИ должны фиксировать отличия от предыдущих состояний, а не описывать ситуацию полностью. Фиксация только изменений существенно экономит память и экономит энергию, так как лишь при изменениях включается та часть, которая анализирует сложившуюся ситуацию.

Это вроде бы просто, но этого принципа на практике не всегда придерживаются. К примеру, в школе контрольные работы нацелены на проверку знаний, которые ученик должен достигнуть, вместо фиксации изменений в знаниях. При обучении ИИ стоит не допускать те недочеты, которые присутствуют в школьной системе образования.

Каждое состояние, фиксируемое ИИ, обычно записывается в форме матрицы, а тогда для создания ИИ, фиксирующих изменения состояний, нужно использовать алгоритмы, которые находят различия в матрицах за минимальное число операций.

Здесь были рассмотрены лишь малая часть тех подходов, которые реализуются при создании ИИ. Для разработки ИИ не обязательно уметь использовать все методы, которые созданы за последние годы. Лучше подумать о том, как организовать работу коллективного разума для разработки ИИ, или постараться вписаться в уже существующую саморегулирующуюся систему, заняв в ней своё персональное место. Только специализация с отлаженным взаимодействием с другими работниками позволит добиться успеха. При этом надо знать в общих чертах о подходах на других направлениях, так как широкий кругозор способствует эффективному взаимодействую с другими разработчиками ИИ.