Защитить пользователей от оскорбительных комментариев поможет нейросеть ВКонтакте

Как сообщила пресс-служба ВКонтакте, сегодня, 4 ноября, запустят тестирование двух функций, которые призваны обезопасить пользователей от негатива и травли в комментариях. В частности, речь идет об оскорблениях по национальному признаку, на религиозной почве.

Администраторы в соцсети смогут использовать в настройках сообществ специальный фильтр враждебных высказываний. При этом невежливым комментаторам покажут сообщения с предложением отказаться от негативных реплик. Как рассказали в пресс-службе, работают инструменты на алгоритмах. Задействована в том числе и нейросеть, которая может определять угрозы и уничижительные высказывания.

Эксперимент продлится сутки. Отметим, что комментарии, где есть оскорбления, пожелания смерти и так далее, будут удаляться нейросетью. У администратора будет возможность просмотреть эти комментарии и принять решение – либо восстановить, либо забанить их автора. Специальный фильтр можно включать и отключать в любое время.

Как отметили представители ВКонтакте, результаты этого эксперимента используют, чтобы продолжить обучение нейросети и доработать фильтр враждебных высказываний.

Планируется также расширить проведенный в прошлом году эксперимент с рекомендациями отказаться от оскорбительных комментариев. С помощью алгоритмов в тексте выявляются признаки негатива – в результате автору предлагается отказаться от обидного высказывания. По данным, полученным в ходе прошлогоднего эксперимента, количество негативных комментариев сократилось на 36 процентов.

Сейчас предполагается, что спектр негативных высказываний расширится – функция сможет определить также нетерпимость по нацпризнаку, оскорбления на религиозной почве, по половой принадлежности и др.

При этом сегодня, 4 ноября, в эксперименте примут участие все пользователи – предупреждение о негативном тоне комментариев увидит каждый. А дальше начнется рассчитанный на более долгий срок тест – в нем будет участвовать только часть аудитории ВКонтакте.

В пресс-службе напомнили, что пользователи соцсети по-прежнему могут пожаловаться на негатив в тексте с помощью специальной кнопки. Функция "Пожаловаться" есть у записей, видео, клипов, историй и комментариев. Кроме того, в соцсети добавилась еще одна причина для жалобы – "Враждебные высказывания". Аккаунт, с которого поступают угрозы и оскорбления, можно занести в черный список.

О том, как в соцсети препятствуют распространению негативных высказываний, подробно написано в разделе "Нормы платформы".