Известно, что людей, находящихся в кризисных ситуациях, на грани самоубийства, или с психическими отклонениями — можно распознать даже по речи. Зачастую даже выбор контента в социальных сетях или неосторожное высказывание может привлечь излишние внимание, а порой людей, буквально кричащих о помощи, никто не замечает.
Как в этом может помочь Искусственный Интеллект и что такое Social Sentinel?
Social Sentinel — американская аналитическая компания, разработавшая алгоритм распознавания признаков того, что человек находится в кризисной ситуации. Так, просматривая аккаунты в социальных сетях, сотрудники SS могут распознать и предотвратить причинение вреда окружающим или самому себе.
Одними из первых, кто на практике внедрил систему отслеживания, стала школа Shawsheen Valley Technical High School. Администрация учебного учреждения утверждает, что ученики не подозревают о просмотре их аккаунтов.
Генеральный директор Sosial Sentinel Gary Margolis утверждает, что компания сотрудничает с учителями и психологами для того, чтобы обучить Искусственный Интеллект распознавать угрозы. По его словам первоначальными источниками стали личные страницы подростков, расстрелявших детей и сотрудников школ. Контент, который они выбирали, личные мысли, опубликованные ими, — всё это послужило для обучения системы.
Компания планирует создать так называемую «библиотеку угроз» для того, чтобы ИИ смог идентифицировать потенциальных нарушителей в сети. В нее будут входить как реальные манифесты правонарушителей, так и то, что по мнению команды психологов и социальных педагогов может свидетельствовать о намерении причинить вред себе.
Очень часто подростки, склонные к суициду, замыкаются в себе и не говорят о своих проблемах с окружающими. Система распознавания скрытых угроз от Socisl Sentinel может вовремя определить проблему и оповестить специальные службы.
Внедрение Искусственного Интеллекта уже оправдало себя. Начальник полиции Арлингтона недавно рассказал журналистам о случае, когда SS распознала потенциального самоубийцу, им оказался местный подросток, которого удалось спасти.
Сотрудники компании намерены продолжать обучать систему для более тонкого понимания и распознавания угроз. Несмотря на то, что услуги SS обошлись Shawsheen Valley Technical High School в 10 тыс.долларов, представители полиции и администрация школы признают систему довольно полезной и желают продолжать сотрудничество.
