Модерация: понятие, процесс, виды

Автор Максим Пушкарёв

На чтение 7 минут

• Понятие и принципы модерации
• Процесс модерации контента: как выглядит
• Виды модерации
• Плюсы и минусы работы модератором

Понятие и принципы модерации

Если говорить простыми словами, то модерация – это процесс контроля за соблюдением определенных требований в сообществе, которое может быть представлено группой в социальных сетях, форумом или же онлайн-конференцией. В дословном переводе с французского языка moderation означает сдержанность или умеренность. Современная трактовка гласит, что модератор – это человек, обладающий по сравнению с обычным пользователем интернета на сетевых ресурсах более широкими правами и полномочиями.

Основная задача модератора заключается в проверке размещаемого контента на соответствие правилам площадки, а также осуществлении управления им. Здесь имеются в виду посты, аудио и видеозаписи, комментарии и так далее. Для каждого модератора характерны свои права и обязанности, поскольку их определяет собственник ресурса или назначенный им администратор.

К примеру, обязанности модератора тематического сообщества или форума в социальной сети заключаются в наблюдении за тем, чтобы участники общались между собой в соответствии с установленными правилами. Не допускается оскорбление друг друга, реклама сторонних сервисов или товаров, а также все то, что запрещает владелец или администратор ресурса. Все это должно быть отражено в чек-листе модератора. В зависимости от того, как часто участник нарушает правила, ему выписывается либо предупреждение, либо бан, который может быть временным или постоянным.

К основным задачам модерации относятся:

• предоставление ограниченного доступа к беседе или аккаунту для определенных пользователей за нарушение правил площадки;
• удаление нетематических сообщений, в которых присутствуют ругательства и оскорбления личного характера в адрес других пользователей, а также запрещенных ссылок на другие ресурсы;
• удаление из беседы фейков и ботов;
• редактирование старого контента и добавление нового;
• стимулирование целевой аудитории путем размещения на странице интересного контента.

Помимо этого, для модерации характерна еще одна цель или направление. Не секрет, что в некоторых случаях, а иногда и довольно часто, живые или онлайн-мероприятия проводятся довольно нудно и неинтересно, результатом чего является потраченное время без найденного консенсуса. Именно на таких мероприятиях модератор является ключевой фигурой, задача которого заключается в вовлечении в процесс всех участников конференции. Важным дополнением является то, чтобы обсуждение шло строго по заданной тематике, а все участники концентрировали свое внимание на сути проблемы.

Принципы работы модерации в этом случае можно сформулировать так:

• Систематичность. Задача модератора состоит в том, чтобы следить за логической последовательностью обсуждаемого вопроса.
• Структурность. Любое мероприятие строго регламентируется и имеет свой рабочий план, за соблюдение которого отвечает профессиональный модератор.
• Прозрачность. На модераторе лежит ответственность за контроль выполнения установленных правил мероприятия. Поскольку эти правила можно найти в Сети в свободном доступе, то ознакомиться с ними может любой желающий.

Резюмируя все вышесказанное, можно отметить, что с помощью модерации на площадке, сайте, форуме или в группе поддерживается порядок, проверяется информация пользователей на предмет соответствия правилам. Без модерации любая площадка в скором времени превращается в «помойку». Кроме контроля за соблюдением правил на конференциях, на модераторе лежит ответственность за координацию рабочего процесса.

Процесс модерации контента

Модерация статей, модерация рекламы, модерация объявлений, а также любого иного контента может осуществляться двумя путями, первый из которых заключается в найме людей для ручной проверки сообщений от пользователей. Во втором случае контроль осуществляется благодаря искусственному интеллекту. На выбор конкретного способа влияют следующие факторы:

• размер онлайн-сообщества, а также тип модерируемого контента;
• слова, отдельные фразы или изображения визуального характера, которые собственник бизнеса или сам бренд разрешает или запрещает использовать;
• количество постов пользователей, с которыми бренду приходится сталкиваться каждый день.

Любой тип модерации характеризуется наличием руководства или инструкции, где должны быть перечислены объем и ограничения по регулированию контента, который предоставляют пользователи. К примеру, одно из требований бренда или клиента прямо запрещает употреблять слова или термины, которые любым образом связаны с терроризмом, а также фразы, трактующиеся как сексуальная активность. Лицо, отвечающее за отслеживание сообщений от участников сообщества и его подписчиков, а именно модератор, в соответствии с этим руководством определяет, какими методами модерации пользоваться при работе.

Суть модерации заключается в тщательной проверке каждого сообщения, после чего принимается решение о том, можно ли публиковать такой контент, блокировать его или продолжить изучать дальше. Немедленному удалению подлежит такая информация пользователей, которая нарушает принципы сообщества и откровенно оскорбляет его участников.

Кроме модерации, осуществляемой человеком, для управления и регулирования контента на различных ресурсах можно использовать искусственный интеллект, или ИИ, благодаря которому произошла революция в части модерации большого объема пользовательских сообщений в крупных сообществах.

Модерация, осуществляемая с помощью искусственного интеллекта, для точной проверки входящих текстов использует машинное обучение, управляющее процессами ввода групп информации и назначения. К ним относятся ключевые слова и фразы, образцы картинок и видео. Базовой моделью также называются наборы информации и ссылок для модерации.

Отличительной чертой модерации на основе искусственного интеллекта является то, что она требует большого количества объемных базовых моделей. Это связано с тем, что для машинного разума характерно ограничение возможностей по оценке и определению намерений пользователя. ИИ не может самостоятельно принимать решения и работает только при условии заблаговременного программирования человеком на предмет мониторинга и оценки контента.

Виды модерации

Формы модерирования контента зависят от пожеланий клиентов, отраслевых стандартов и иных требований бизнеса. Также на выбор методики модерации влияет само интернет-сообщество, которому в группу требуется модератор. Каждая площадка или сообщество имеют свои правила модерации. Они зависят от тематики ресурса, требований владельца и так далее. Чтобы убедиться в том, что выбран именно тот тип модерации, который отвечает всем требованиям и условиям бизнеса, необходимо провести тщательную проверку.

1. Предварительная, или премодерация. Под предварительной модерацией понимается проверка контента пользователей ответственным лицом непосредственно перед публикацией. Ее можно применять по отношению к любому типу материала, например, комментариям, отзывам, изображениям и видео. Пользователь, перед тем, опубликовать контент, должен отправить его на модерацию. Целью премодерации является защита интернет-сообщества от таких потенциальных угроз, как личные оскорбления, спам, дезинформация и тому подобное.



Любой материал, который отправляется пользователем, находится в статусе «ожидает проверки», и работать с ним может только модератор. Сколько идет модерация? Это зависит от загруженности модератора, требований площадки и так далее.

Преимущества премодерации заключаются в:

• защите бренда и репутации, поскольку появляется возможность в отсеивании нежелательного контента, тем самым в Сети поддерживается имидж компании;
• контроле качества, так как модератор несет ответственность за то, чтобы все размещаемые на площадке материалы соответствовали установленным стандартам и правилам;
• безопасности, поскольку предотвращается распространение вредоносных ссылок, случаев мошенничества и так далее.
2. Постмодерация. Представляет собой вид отложенного модерирования, способствующий проведению текущих обсуждений, в которых участвуют члены интернет-сообщества. По причине того, что проверка контента осуществляется позже, он не подвергается премодерации и сразу публикуется. Наиболее часто такой вариант модерирования применяется сайтами, которые имеют свои каналы в социальных сетях, форумы или иные формы активных сообществ.



В своей работе модераторы пользуются специальным инструментом – панелью управления, с помощью которой появляется возможность дублирования каждого сообщения, благодаря чему его содержание можно изучать более внимательно. По окончании проверки принимается решение о сохранении или удалении сообщения. Важно учитывать момент роста сообщества, поскольку если этот процесс происходит очень быстро, то вместе с ним и увеличивается объем проверяемого контента, с которым один модератор просто не в силах справиться. Соответственно, для быстро растущих сообществ модерацию после публикации лучше доверить искусственному интеллекту или же привлекать для работы несколько модераторов.

3. Распределенная модерация. В основе такой модерации лежит система рейтингов, в соответствии с которой участниками сообщества проводится голосование на предмет того, отвечает контент правилам или нет. Система на основе набранного среднего балла в результате оценок определяет степень приемлемости материала. Процесс голосования контролируется модераторами.



Как правило, крупные компании не стремятся доверить своим пользователям модерацию контента, так как возможны риски юридического характера. Но в то же время такой подход повышает вовлеченность и активность пользователей в сообществе. Также в этом случае время модерации минимально.




Преимущества распределенной модерации заключаются в:

• активном участии, поскольку сами пользователи напрямую задействованы в процессе модерации контента, что приводит к повышению чувства ответственности и вовлеченности;
• снижении нагрузки, так как модераторы вправе рассчитывать на получение помощи от пользователей сообщества, благодаря чему они могут фокусироваться на более сложных задачах;
• экономии ресурсов, поскольку происходит сокращение расходов на модерацию из-за выполнения работы участниками сообщества.
4. Эмоциональная модерация. По сравнению с распределенной, она не прибегает к помощи голосования. В ее основе лежит активная позиция пользователей, самостоятельно отслеживающих и помечающих такие негативные сообщения, как личные оскорбления, спам и тому подобное.



Для того чтобы такая система заработала эффективно, аудитория сообщества должна быть лояльной и целеустремленной, заинтересованной в том, чтобы на сайте сохранялась позитивная атмосфера. Пользователи будут облегчать работу по поддержанию порядка штатным модераторам путем маркировки негативного контента.

К примеру, такое сообщество, как «Фейсбук», практикует реализацию эмоциональной модерации, так как каждый пользователь вправе пожаловаться на контент неприемлемого характера.

Преимущества эмоциональной модерации заключаются в:

• быстрой реакции, поскольку пользователи напрямую сигнализируют о «неправильном» контенте, благодаря чему модерация носит оперативный характер;
• сплоченности сообщества, так как совместная борьба с негативом создает атмосферу доверия и объединяет пользователей;
• снижении нагрузки, поскольку модераторы прибегают к помощи пользователей.
5. Автоматическая модерация. Использование специальных приложений для модерации контента лежит в основе автоматической модерации. Их применение необходимо для отсеивания слов оскорбительного характера, спама и иных сообщений, не отвечающих правилам сообщества. В этом случае очень просто определить неприемлемый контент. Автоматическая модерация позволяет осуществлять блокировку IP-адресов тех пользователей, которые присылают неподобающие сообщения.

Существующие ограничения цифровых сервисов, которые работают в сфере модерации контента пользователей, обусловлены отсутствием человеческого суждения. К примеру, здесь полностью исключены любые рассуждения, а также более глубокая степень интерпретации сообщений. Так, в случае указания пользователем (с применением какого-либо «стоп-слова») на недопустимость публикации ненормативной лексики, его сообщение будет отправлено в бан, несмотря на то, что в нем нет оскорбительного подтекста. Также некоторые участники чата могут использовать такие выражения, которых нет в фильтре, из-за чего данные сообщения будут расцениваться приемлемыми и безопасными. В связи с этим в дополнение к автоматической модерации рекомендуется применение дополнительной ручной модерации.

Плюсы и минусы работы модератором

Чаще всего модераторами форумов и чатов являются старожилы площадок, которые практически в совершенстве знают специфику сообщества. Как правило, модераторы работают либо за небольшое поощрение от владельцев ресурса или его администратора, либо только за счет своего энтузиазма.

В том случае, если площадка крупная и дорожит своим именем и имиджем, обязанности модератора могут быть выведены в отдельную штатную должность. Тем более, что в последнее время усиливается государственный контроль над интернет-ресурсами.

Постепенно модерация переходит в разряд профессий, для которых характерны свои достоинства и недостатки.

К достоинствам относятся:

• Удаленный формат работы. Как штатный, так и приглашенный со стороны модератор на проведение какого-либо мероприятия работают в удаленном формате, поскольку смысла в наличии офисного рабочего места нет из-за того, что вся занятость идет через интернет.
• Востребованность, поскольку эта профессия появилась относительно недавно, и хороших специалистов еще очень мало, поэтому и спрос на них только растет.
• Комфортное развитие навыков общения. Вторичная выгода от модерации заключается в развитии навыков общения в условиях определенного комфорта, поскольку отпадает необходимость в преодолении барьеров психологического характера, возникающих при общении с глазу на глаз.
• Относительная легкость освоения. Для этой профессии нет необходимости в получении специального образования, достаточно самостоятельно пройти подготовку в комфортном для себя режиме.

Из недостатков следует отметить следующее:

• Необходимость в языковой грамотности, которой должен обладать модератор, несмотря на отсутствие специального образования.
• Умение работать с компьютером, поскольку это основной инструмент деятельности.
• Стрессоустойчивость. Эта профессия нередко связана с решением конфликтных ситуаций с незнакомыми людьми, поэтому модератор должен легко сопротивляться стрессам.
• Сложности совмещения. Модерация отнимает довольно много времени, поэтому ее очень сложно совмещать с учебой или другой работой.
• Наличие умения работать с командами консоли.

Без модерации не обходится ни один ресурс, на котором общаются подписчики, посетители и где осуществляется публикация контента пользователей.

Модерация может быть реализована разными способами, поскольку на это влияет много факторов. Постепенно процесс контроля за контентом превращается в функционал отдельной профессии, которая очень актуальна в современном мире.

В качестве модератора может работать опытный пользователь площадки, хорошо разбирающийся в правилах и тематике.