Борьба Facebook с запрещенным контентом

И снова Facebook. Для этой социальной сети май выдался особо жарким и богатым на события. Мы уже писали о том, что Facebook блокирует фейковые аккаунты, и усилил действия в этом направлении. Также ведется активная деятельность в направлении обеспечения защиты пользоввателей от запрещенного в сети контента.

Пользователи принимают участие в этой борьбе, отсылая жалобы на нежелательный контент, обнаруженный в соцсети. Модераторы Facebook рассматривают жалобы и вручную разбираются с контентом. Естественно, что пользователи и модераторы – это не единственные борцы с запрещенным контентом в Facebook.

Специальные алгоритмы, разработанные командой Facebook, занимаются поиском и удалением запрещенного контента. Только за первый квартал 2018 года в Facebook было автоматически удалено около двух миллионов публикаций с про-террористическим содержанием. Причем, автоматическое удаление такого контента при помощи алгоритмов составило 99% из общего количества, и только лишь 1% - по жалобам пользователей.

Машинный поиск в Facebook стремительно развивается и совершенствуется. Искусственный интеллект способен различать порнографическое содержание в фото и видео, выявлять сцены насилия. Технологии машинного обучения развились до понимания контекста контента. Например, ИИ уже определяет призывы к насилию, к употреблению наркотиков, к суициду.

Технологии машинного обучения позволяют Facebook бороться со спамом, а также улучшать качество рекламы.