ChatGPT больше не будет решать за подростков домашку

Компания OpenAI запустила специальную версию чат-бота ChatGPT, предназначенную для подростков. Новый вариант сервиса рассчитан на пользователей в возрасте от 13 до 17 лет и включает дополнительные меры защиты от нежелательного контента, в том числе материалов, связанных с селфхармом, сексуальными темами и опасными формами общения. Об этом сообщается на официальном сайте.

В OpenAI отмечают, что задача подростковой версии ChatGPT — не просто ограничить доступ к определенным темам, а сформировать безопасную и подходящую для возраста среду использования ИИ. ChatGPT для подростков получил дополнительные ограничения на определенные темы. Компания заявила, что система будет использовать специальные механизмы защиты, чтобы снижать вероятность появления неподходящих ответов.

Кроме того, версия для подростков ориентирована на помощь в учебе. OpenAI подчеркивает, что чат-бот должен не просто выдавать готовые решения или писать за школьников эссе, а помогать им разобраться в теме и самостоятельно прийти к ответу.

«Мы хотим относиться к подросткам как к подросткам. Это означает, что мы должны учитывать их этап развития: не разговаривать с ними свысока и не обращаться с ними как с маленькими детьми, но одновременно следить за тем, чтобы они не сталкивались с материалами, которые им не следует видеть», — заявила вице-президент OpenAI по глобальной политике Энн О’Лири.

Для семей, которые подключат связанные аккаунты подростка и родителя, OpenAI предусмотрела дополнительные настройки контроля. Родители смогут устанавливать так называемые «тихие часы» — периоды времени, когда подросток не сможет пользоваться ChatGPT. Также они смогут получать уведомления в отдельных ситуациях повышенного риска, например если система обнаружит возможные признаки того, что пользователь может причинить вред самому себе.

В OpenAI сообщили, что дополнительно добавили уведомления, связанные с РПП. При этом компания уточнила, что будет ограничивать объем передаваемой информации и сосредоточится на случаях, когда особенно важным может быть обращение за помощью к людям вне цифрового сервиса. Для использования родительских настроек необходимо согласие как самого подростка, так и его родителя или законного представителя.

Глава OpenAI Сэм Альтман ранее заявлял, что компания изучает проблему «чрезмерной эмоциональной зависимости» от технологий. По его словам, особенно часто это проявляется среди молодых пользователей. В подростковой версии ChatGPT разработчики ограничили поведение модели таким образом, чтобы она не создавала впечатление, будто обладает собственными чувствами, сознанием или личными отношениями с пользователем.

Руководитель направления детского развития в OpenAI Эллисон Мишкин рассказала, что специалисты анализировали возможные сигналы, которые модель может подавать в разговоре и которые способны заставить подростка воспринимать чат-бот как близкого собеседника. «Мы изучили возможные сценарии, при которых ответы модели могли бы заставить подростка начать воспринимать ее как нечто большее, чем инструмент», — пояснила она.

Компания не проводит обязательную проверку возраста при регистрации, однако использует технологии оценки возраста. Система анализирует различные признаки, включая характер запросов пользователя, чтобы определить, может ли человек быть младше 18 лет. Если пользователь самостоятельно указывает, что является несовершеннолетним, или система определяет признаки подросткового возраста, аккаунт автоматически переводится на версию ChatGPT для подростков.

Такой подход похож на систему подростковых аккаунтов, которую ранее внедрила Meta* для своих соцсетей. В таких аккаунтах действуют более строгие ограничения по содержанию, общению и настройкам конфиденциальности.

При этом OpenAI заявляет, что подростковая версия должна оставаться безопасной даже для пользователей, которые не подключают родительский контроль.

Отдельное внимание OpenAI уделила использованию ChatGPT в образовании. Компания заявила, что подростковая версия не будет ориентирована на выдачу готовых ответов для домашних заданий. Вместо этого чат-бот должен помогать ученикам разобраться в материале, задавать вопросы и направлять их к самостоятельному решению.

Компания Meta* признана в РФ экстремистской, а доступ к ее платформам (инстаграм и фейсбук) по этой причине заблокирован

T.Vyc / Shutterstock / Fotodom