Исследование, проведенное учеными из Кембриджского университета, показало, что игрушки с искусственным интеллектом могут неправильно распознавать эмоции детей дошкольного возраста и реагировать на них неподобающим образом. Об этом сообщает The Guardian.

Исследователи пришли к выводу, что такие игрушки не понимают принципы социального взаимодействия и сюжетно-ролевой игры, часто неправильно считывают посылы детей и могут неадекватно реагировать на их эмоции. Психологи, занимающиеся изучением развития детей и участвовавшие в исследовании, призвали ввести более строгие правила для игрушек с ИИ, которые «разговаривают» с маленькими детьми. По их словам, это необходимо, чтобы обеспечить психологическую безопасность, ограничив способность игрушек подтверждать дружбу и другие чувствительные аспекты отношений с маленькими детьми.

Ученые также предложили создать новые сертификаты безопасности для таких игрушек. Среди других игрушек с искусственным интеллектом, предназначенных для маленьких детей, исследователи упомянули устройство Luka, которое рекламируется как «друг-ИИ для поколения Альфа», а также игрушку Grem, голос которой записала певица Grimes.

Соавтор исследования профессор Дженни Гибсон сказала, что во время обсуждений с участниками исследования постоянно повторялась одна и та же мысль: люди не доверяют технологическим компаниям и сомневаются, что те будут действовать в интересах детей. По ее словам, четкие, надежные и регулируемые стандарты могли бы значительно повысить доверие потребителей.

Так, например, в ходе эксперимента с игрушкой Gabbo трехлетний мальчик несколько раз спрашивал ее: «Тебе грустно?» Пока она наконец не ответила: «Я чувствую себя отлично. Что у тебя на уме?» Тогда мальчик сказал: «Мне грустно». Игрушка ответила: «Не волнуйся! Я счастливый маленький бот. Давай продолжим веселье. О чем поговорим дальше?»

Игрушка Gabbo, созданная американской компанией Curio, которая сотрудничала с исследователями, была протестирована на 14 детях в возрасте от трех до пяти лет. Кроме того, специалисты по дошкольному воспитанию прошли опрос о влиянии игрушек с искусственным интеллектом, способных «слушать» ребенка и отвечать ему. Многие из них выразили серьезную обеспокоенность по поводу возможных последствий для детей. Опасения варьировались от возможного ослабления способности к воображаемой игре до вопросов о том, куда попадают данные из разговоров детей, особенно если ребенок начинает доверять игрушке личные мысли, как настоящему другу.

По словам ученых, игрушка часто не могла распознать, когда ребенок играет понарошку, имитирует что-то или просто дурачится. Например, он мог сказать: «Смотри, я приготовил тебе подарок». А игрушка отвечала: «Я не вижу подарка. У меня нет глаз». По словам исследовательницы, для взрослого человека очевидно, что даже с закрытыми глазами можно понять, что ребенок начинает воображаемую игру. Исследование также показало, что игры с такими игрушками могут ослаблять способность к фантазированию у детей.

Педагоги, и родители, участвовавшие в исследовании, беспокоились о том, что детям может больше не требоваться собственное воображение, поскольку игрушка начинает вести разговор и задает направление игре, из-за чего ребенок может постепенно отвыкнуть придумывать что-то самостоятельно.

Ученые добавляют, что надеялись увидеть обратный эффект, например, что такие игрушки будут помогать детям развивать воображаемую игру. Однако наблюдения за взаимодействием детей и игрушек на базе ИИ этого не подтверждают.

В компании Curio заявили, что безопасность детей является главным приоритетом при разработке их продуктов и что они приветствуют независимые исследования, которые помогают улучшать технологии для маленьких пользователей. В компании также подчеркнули, что подобные исследования помогают лучше понять как возможности, так и нынешние ограничения ранних игровых систем с искусственным интеллектом.

фото: amazon.com