"ВКонтакте" защитит пользователей от травли

27.02.2021 13:54

"ВКонтакте" защитит пользователей от травли. Социальная сеть представила фильтр на основе нейросети, который распознает враждебные высказывания. Программа определяет только прямые угрозы, но в будущем научится отличать иносказательные и замаскированные оскорбления. При создании алгоритмов использовалось большое количество русскоязычных текстов — например, субтитры из фильмов, сериалов и видео.

Сейчас нейросеть правильно определяет угрозы в 80% случаев. Установить фильтр могут администраторы сообществ и только добровольно. Пока функция доступна в половине пабликов и уже пользуется высоким спросом. Однако по итогам тестирования от фильтра отказалось каждое пятое сообщество.

"Мне кажется, эта система вполне успешно может защищать пользователей от травли. Уже сейчас у модераторов групп и сообществ есть инструменты для блокировки нежелательных слов. Создается список, он блокирует их автоматически. "ВКонтакте" хочет сделать такую же возможность в ленте, комментариях обычных участников. Она вполне реализуема", — считает руководитель Лаборатории Community Влад Титов.

Подробнее о том, почему сообщества отказываются использовать этот фильтр, рассказал Влад Титов в эфире радио "Москва FM".