Американские школы начали использовать искусственный интеллект для поиска опасных учеников в соцсетях

Высшая техническая школа и (Массачусетс, США) начала использовать искусственный интеллект (ИИ), чтобы следить за сообщениями учеников в соцсетях и выявлять опасных подростков. Систему сканирования разработала компания Social Sentinel, у которой уже есть опыт работы со школами, пишет WBUR.

Гендиректор Social Sentinel Гэри Марголис рассказал, что компания не занимается мониторингом и расследованиями, а является системой предупреждения угроз и сотрудничает с лингвистами и психологами, чтобы натренировать искусственный интеллект.

В базе данных Social Sentinel больше 450 тысяч слов и фраз, которые указывают, опасен ли ученик для окружающих или самого себя. В полиции рассказали, что с помощью программы уже удалось спасти школьника, который планировал самоубийство.

Школа Шошин Вэлли тратит на услуги компании десять тысяч долларов в год. В Social Sentinel не стали приводить статистику об успешности работы ИИ, однако отметили, что случаются и «ложные тревоги».