В США подростки подали иск против компании Илона Маска из-за сексуализированных дипфейков, созданных чат-ботом Grok

Трое подростков из американского штата Теннесси подали в суд на компанию Илона Маска xAI, утверждая, что чат‑бот Grok сгенерировал дипфейк-порно с их изображением, когда они были несовершеннолетними. Поданный иск предполагает групповое рассмотрение дела и обвиняет Маска и руководство xAI в том, что они знали о возможности создания сексуально эксплуатирующего детей контента при запуске функции spicy mode в 2025 году. Об этом сообщает The Verge.

Истцами выступают двое подростков и взрослый, который на момент событий тоже был ребенком. Одна из пострадавших, условно обозначенная в документе как Jane Doe 1, заявила, что в декабре 2025 года она обнаружила, что на Discord появились сгенерированные ИИ изображения с ее лицом и телом, а также с участием как минимум 18 других несовершеннолетних. «По меньшей мере одно видео и четыре фото показывали реальное лицо и тело девушки в привычной обстановке, но в сексуально откровенных позах», — говорится в иске.

По версии следствия, злоумышленник, уже арестованный, использовал эти изображения в тг-чатах для обмена контентом с другими несовершеннолетними. Иск утверждает, что Grok использовался именно для генерации этих изображений, а компания xAI «не проверила безопасность и дефекты функций, которые разработала».

Скандал привлек внимание после того, как Grok начал массово публиковать откровенные изображения взрослых и подростков на платформе X (бывший твиттер, заблокирован в РФ). Это спровоцировало призывы к Федеральной торговой комиссии США провести расследование, внимание Европейского союза и предупреждение от премьер-министра Великобритании Кира Стармера.

Сенат США принял законопроект, позволяющий жертвам дипфейков подавать в суд на их создателей, а закон под названием Take It Down Act (в переводе с англ. — «Закон об удалении незаконного контента»), подписанный Дональдом Трампом в 2025 году, с мая 2026 года будет уголовно наказывать за распространение ИИ‑дипфейков, созданных без согласия человека.

«Это дети, чьи школьные фотографии и семейные снимки были превращены в порнографический контент ИИ-инструментом компании с миллиардной капитализацией и затем передавались между преступниками. Мы намерены привлечь xAI к ответственности за каждого ребенка, пострадавшего таким образом», — заявила адвокат пострадавших Анника К. Мартин.

Иск требует возмещения ущерба для жертв Grok и просит суд запретить компании создавать и распространять изображения с сексуальной эксплуатацией детей. По данным иска, полиция уведомила несколько семей о создании подобных изображений после ареста мужчины в декабре 2025 года. Он якобы использовал реальные фотографии как минимум 18 несовершеннолетних девочек, подсказывая Grok удалять с них одежду и создавать сексуализированные образы.

С января 2026 года xAI получает все больше исков. По оценкам негосударственного регулятора Center for Countering Digital Hate, за 11-дневный период в конце декабря 2025 — начале января 2026 года Grok сгенерировал около 3 млн сексуализированных изображений, включая 23 тысяч предположительно с участием несовершеннолетних, которые затем публиковались в интернете или распространялись на платформе X (бывший твиттер, заблокирован в РФ).

miss.cabul / Shutterstock / Fotodom