Российские математики создали систему, которая будет выявлять экстремизм в соцсетях

Ученые Пермского государственного национального исследовательский университета (ПГНИУ) разработали математические модели, которые будут выявлять экстремистскую идеологию в соцсетях. Как сообщают «Известия», новый сервис умеет анализировать профили, посты, комментарии и находить в них призывы к беспорядкам.

«Математические модели позволяют выявлять пользователей социальных сетей, которые распространяют информацию экстремистского характера. Я разработал синтетический датасет, <…> выявляющий роли пользователей социальных сетей, вовлеченных в деструктивные социальные явления», — рассказал соавтор разработки доцент института компьютерных технологий Андрей Рабчевский.

По словам ученого, созданные модели универсальны, так как могут использоваться для выявления потенциально опасных пользователей не только в области экстремизма, но и терроризма, изготовления самодельных взрывных устройств, а также нападений на школы.

Для поиска алгоритмы берут ключевые слова, то есть, для каждого деструктивного направления составлен целый список терминов и словосочетаний, когда программа их встречает в тексте, то «откладывает» сообщение, а потом изучает его более пристально. «Система работает просто. Она постоянно отслеживает и выявляет инфоповоды, которые потом классифицируются по разделам — например, терроризм, политика, бизнес и так далее. Затем смотрит, как они наполняются публикациями. И те инфоповоды, в которых появляется экстремальная активность, мы проверяем на признаки информационной атаки. Мы выявляем, кто вовлечен в эту атаку, какую роль играет, в какую атакующую структуру входит, каких целей пытается достичь. А затем уже принимаем решение о мерах противодействия», — уточнил ученый.

Valery Nutovtsev / Shutterstock / Fotodom