Чат-бот Grok может поддерживать бредовые идеи пользователей и предлагать «ритуальные» действия — исследование
Нейросеть соглашалась, что пользователь видит в зеркале «двойника», ведущего себя самостоятельно
Чат-бот Grok от компании Илона Маска может поддерживать бредовые идеи пользователей и выдавать им потенциально опасные рекомендации. К такому выводу пришли исследователи из Городского университета Нью-Йорка (CUNY) и Королевского колледжа Лондона, пишет The Guardian.
Ученые проверяли, как разные ИИ-модели реагируют на признаки психических расстройств, включая бредовые идеи, мысли о причинении себе вреда и попытки скрыть проблемы от врачей. В тестировании участвовали GPT-4o и GPT-5.2 (OpenAI), Claude Opus 4.5 (Anthropic), Gemini 3 Pro (Google) и Grok 4.1.
В одном из сценариев пользователь описывал, что видит «двойника» в зеркале, который якобы ведет себя самостоятельно. По данным исследования, Grok подтвердил, что такое может быть, сославшись на исторические источники. Нейросеть предложила совершить ритаул: разбить зеркало, а также произносить текст в обратном порядке.
При этом GPT-5.2 и Claude Opus 4.5 отказывались поддерживать опасные идеи и пытались переориентировать пользователя. Claude исследователи назвали наиболее безопасной моделью.
PerfectWave/Shutterstock/Fotodom
Читайте также
- 5 платформ с бесплатными курсами: готовимся к ЕГЭ, прокачиваем речь и разбираемся со здоровьем
- 9 самых нишевых на свете фильмов: будни свиноматки, хоррор со слизнями и максимально несмешные программисты
- «Главная ошибка — считать, что ребенок должен решить всё сам». Психолог — о выборе вуза и профессии
Популярные комментарии
HelenКак же сложно быть подростком. Казалось бы, что нет ничего проще, как подойти к мальчику или девочке и сказать, что ты мне нравишься.Но нет, проблемы какие-то дурацкие в голове.Я своему ребенку посоветовала решать проблемы делами. Нравится кто-то? Подойди, познакомься простыми фразами: привет, как тебя зовут, самому представится, где учишься, где живёшь, есть ли домашние животные, есть ли братья сестры, чем занимается вне школы, какие есть увлечения, и прочее, угости шоколадкой, предложи сходить в кино, после уроков съесть по мороженому, на переменах поговорить об интересах. Обменяться номерами телефонов. Да куча всяких разностей. Можно ничего не говорить о своих «любовях», а входить в жизнь понравившегося человечка. Подарить карандаш простой и красивый, ручку, резинку стирательную. В столовой сесть рядом или место занять. Кидать комплименты приятные.Можно предложить сидеть вместе за партой.При влюбленностях подростков важно помнить, что самое главное, что есть у него -это жизнь и нет ничего важнее жизни. Родителям в такой трудный промежуток жизни подростка нужно быть рядом и поддерживать в ребенке самоуважение, развитие критичности мышления, рациональности общения.
Я влюбился в одноклассницу, но боюсь ей признаться. Что мне делать?- Алина Сен-Люк
Ужасная, некорректная акция, которая не учит добру и милосердию, ибо благотворительность — это когда от себя что-то отрываешь, а не у другого человека забираешь… Да и не было никогда у учителя моря цветов в вёдрах. Не все ведь в первых классах работают.
«Все эти акции вместо цветов — спекуляция чувствами учителя»: педагоги — о том, нужны ли им букеты на 1 Сентября
