В России разработали технологию борьбы с травлей в интернете

19.05.2022 12:10

Фото: depositphotos/TheVisualsYouNeed

В Национальном исследовательском технологическом университете МИСИС разработали программу, которая распознает признаки кибербуллинга и блокирует сообщения.

Автор программы – студентка четвертого курса Алена Минаева. В интервью радио "Москва FM" она рассказала, как научить алгоритмы отличать оскорбление от простой шутки.

Алена Минаева

автор программы для распознавания кибербуллинга

Оскорбление – это довольно философский вопрос, потому что у каждого разная чувствительность. Очень часто сложно избежать субъективности. То есть, например, для меня какое-то сообщение может показаться оскорбительным, а мой молодой человек говорит, что это нормально. Но, конечно, в своей работе я рассматриваю всего два субъективных искажения. То есть это искажения мозга, из-за которых мы как раз таки мыслим оскорбительно. Довольно сложная работа из-за того, что нет готовых наборов данных для обучения тех же моделей. Я их собираю вручную из социальных сетей, комментариев.

В будущем разработка может стать основой для фильтров в мессенджерах. С помощью программы они будут отслеживать беседу пользователей и в реальном времени принимать меры для нейтрализации агрессии и запугивания.

Алена Минаева

автор программы для распознавания кибербуллинга

Надо в целом жертву изолировать от обидчика, потому что кибербуллинг характерен тем, что он не прекращается. То есть если мы говорим про травлю, например, в школе – там, может, например, учитель и разнять учеников. Или мы можем, например, ребенка перевести в другой класс. Если мы берем интернет-пространство, то обидчик все равно доберется до жертвы.

Необходимость такой системы назрела уже давно, отметил подростковый психолог, специалист центра "Перекресток" Илья Хломов.

Илья Хломов

подростковый психолог, специалист центра "Перекресток"

Если говорить о времени до пандемии – общение в интернете имело как-будто бы не такое большое значение. Сейчас, конечно, это очень важно и это такой, может быть, ключевой канал. Потому что мы наблюдаем в школах: часто дети туда ходят, но при этом не очень общаются друг с другом. В интернете при этом происходит реальное общение, реальные отношения, реальные переживания, реальные страдания. Поэтому, конечно, это реальная проблема, которая должна быть затронута, на которую нужно обращать внимание.

Согласно исследованиям, с кибербуллингом не раз сталкивались почти 70% школьников. При этом четверть ребят не собираются делиться переживаниями по поводу травли ни с кем. Каждый третий пожаловался на травлю после личных ссор со знакомыми, а каждый десятый сообщил, что его оскорбляют регулярно.

Подкасты

Почему оперный певец Василий Ладюк никогда не читает рецензии на свои концерты

Заслуженный артист России Василий Ладюк рассказал Алле Омелюте, почему игнорирует отзывы в интернете, на кого ориентируется в профессиональном плане и как успевает выкраивать время на рыбалку с дочерью и друзьями.

24.12.2024 12:00
Событийный календарь 2025

В подкасте "Дома хорошо" – автор проекта "Россия вдохновляет на путешествия" Геннадий Шаталов. Обсудили рождественские базары, фестиваль цветов, открытку на Байкале, музыку балконов и другие туристические события страны.

23.12.2024 12:00
"Дедморозовка. Новые приключения", "Чебурашка. Ушастые елки" и зима в "Царицыно"

Прогуляемся по музею-заповеднику "Царицыно", встретимся с Чебурашкой в Международном центре бокса и отправимся встречать Новый год в космос.

21.12.2024 00:00
Что мешает интимной жизни россиян

Психолог Юлия Дердо рассказала, из-за чего эта тема так долго была табуированной и ее обсуждение до сих пор многих невротизирует, а также в чем на самом деле задача секса и почему он перестает приносить удовольствие в длительных отношениях.

20.12.2024 18:00

Все подкасты

Новости

Программы

Лица

В России разработали технологию борьбы с травлей в интернете

Подкасты