Чат-бот Grok от компании Илона Маска может поддерживать бредовые идеи пользователей и выдавать им потенциально опасные рекомендации. К такому выводу пришли исследователи из Городского университета Нью-Йорка (CUNY) и Королевского колледжа Лондона, пишет The Guardian.
Ученые проверяли, как разные ИИ-модели реагируют на признаки психических расстройств, включая бредовые идеи, мысли о причинении себе вреда и попытки скрыть проблемы от врачей. В тестировании участвовали GPT-4o и GPT-5.2 (OpenAI), Claude Opus 4.5 (Anthropic), Gemini 3 Pro (Google) и Grok 4.1.
В одном из сценариев пользователь описывал, что видит «двойника» в зеркале, который якобы ведет себя самостоятельно. По данным исследования, Grok подтвердил, что такое может быть, сославшись на исторические источники. Нейросеть предложила совершить ритаул: разбить зеркало, а также произносить текст в обратном порядке.
При этом GPT-5.2 и Claude Opus 4.5 отказывались поддерживать опасные идеи и пытались переориентировать пользователя. Claude исследователи назвали наиболее безопасной моделью.
PerfectWave/Shutterstock/Fotodom
Читайте также
- 5 платформ с бесплатными курсами: готовимся к ЕГЭ, прокачиваем речь и разбираемся со здоровьем
- 9 самых нишевых на свете фильмов: будни свиноматки, хоррор со слизнями и максимально несмешные программисты
- «Главная ошибка — считать, что ребенок должен решить всё сам». Психолог — о выборе вуза и профессии
