«ВКонтакте» тестирует нейросеть для борьбы с хейтспичем
Пресс-служба сайта «ВКонтакте» сообщила, что соцсеть работает над искусственным интеллектом для автоматического распознавания материалов с враждебными высказываниями. Технология нужна для увеличения скорости обработки жалоб, чтобы пользователи ВК меньше сталкивались с нетерпимостью.
Данная нейросеть учится определять различные проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религии, возраста, внешности или наличия заболеваний. Также появилась новая категория жалоб — «Враждебные высказывания».
Цитата руководителя команды модерации «ВКонтакте» Ивана Корнеева:
Мы разделяем позицию наших пользователей и партнёров касательно языка вражды и прославления насилия. Модераторы «ВКонтакте» ежедневно обрабатывают огромный объём контента, в том числе с использованием искусственного интеллекта — большинство опасных материалов удаляются ещё до того, как их кто-то увидит. Если же вы заметили оскорбительную публикацию, пожалуйтесь на неё. С проявлениями нетерпимости эффективнее бороться вместе — и мы призываем пользователей присоединяться к нам в этой борьбе.
И немного статистики: за первые 6 месяцев этого года в ВК было удалено 520 000 единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих хейтспич.
