Обложка: проект #Страшноважно и АНО «Тебе поверят». Фото: пресс-служба Lamoda
Новости

Lamoda усилила защиту детей при использовании онлайн-примерки одежды

Ко Всемирному дню ребенка Lamoda расширила проект #Страшноважно, уделив внимание безопасности онлайн-примерки.

Lamoda объявила о новом этапе совместного проекта #Страшноважно с АНО «Тебе поверят». Компания распространила принципы защиты детства и личных границ на инструменты ИИ на онлайн-примерку одежды.

Теперь сервис проверяет загружаемые фотографии на возрастной контекст и наличие чувствительного контента. Если система обнаруживает признаки детского изображения и потенциально небезопасный контент, обработка снимка блокируется.

Для проверки фотографий Lamoda использует две отдельные модели искусственного интеллекта. Первая определяет возрастной контекст изображения, вторая анализирует, есть ли на нём чувствительный контент. Если обе модели выявляют соответствующие признаки, система не допускает фотографию к обработке в онлайн-примерке.

При этом в компании подчёркивают, что определение возраста с помощью искусственного интеллекта — вероятностная технология, поэтому она может давать ошибки. Lamoda учитывает эту особенность при настройке ограничений для сервиса.

В компании также уточнили, что детская категория в онлайн-примерке не поддерживается: функция изначально не предназначена для примерки одежды на детях в возрасте от 0 до 12 лет. При обработке пользовательских фотографий дополнительно действуют ограничения, учитывающие возраст изображённых людей и характер контента.

Как развивается проект #Страшноважно

Для Lamoda первый этап проекта #Страшноважно был посвящён физическим границам ребёнка и ответственному отношению к детству. Платформа вместе с автономной некоммерческой организацией «Тебе поверят» разработала рекомендации по использованию фотографий детей в каталоге интернет-магазина. Эти правила распространили среди участников индустрии, а для изображений детей, которые пользователи размещают в отзывах, внедрили дополнительную модерацию.

Теперь проект распространяется и на новые технологические инструменты. По мере развития искусственного интеллекта компания считает необходимым учитывать безопасность детей не только при публикации и распространении фотографий, но и при их обработке с помощью цифровых сервисов.

Управляющий директор по продукту и данным Lamoda Татьяна Умряева отметила, что раньше вопросы цифровой безопасности детей чаще связывали с ответственностью родителей: какие материалы ребёнок может смотреть, какие фотографии публиковать и кому их отправлять. Однако с развитием искусственного интеллекта ответственность за безопасность возникает и у разработчиков технологий.

По словам Умряевой, компании важно, чтобы цифровые сервисы самостоятельно учитывали контекст использования и имели чёткие ограничения для потенциально небезопасных сценариев. Поэтому Lamoda продолжает развивать проект #Страшноважно и распространять его принципы на цифровую среду. При этом задача компании — создавать технологии, которые помогают решать повседневные задачи, не подвергая детей дополнительным рискам.

Lamoda развивает проект #Страшноважно с 2023 года. Он посвящён ответственному отношению к детству, возрасту и личным границам. С появлением генеративных технологий компания расширяет его действие на цифровую среду, уделяя внимание безопасности как пользовательского контента, так и самих технологических решений.

Реклама. ООО «Купишуз»ИНН 7705935687, erid: 2W5zFHT5vUr

Читайте также