Модерацию невозможно сделать правильно

90% успеха любого интернет-сообщества — это модерация. Не платформа, не «алгоритмы», и даже не контент, а именно модерация.

Проблема в том, что все технари уверены в обратном. Они постоянно ищут какие-то «движки», строят федиверсы и социальные графы на блокчейне, а в это время их коммьюнити со свистом обходит какой-нибудь телеграм-чатик или имейл-рассылка.

Я так или иначе (иногда не по своей воле) занимаюсь построением сообществ последние лет десять и давно хотел написать заметку о типах модерации и эволюции подходов к ней.

Помню, как все удивлялись, что код Вастрик.Клуба был с первого дня выложен на гитхаб. «Это ведь любой может его украсть, запустить свой клон и грести бабло чтоле?» — хаха, sweet summer kids. За 3 года у нас было около десяти форков, причем от людей намного «популярнее» меня, но никто из них так не перерос популярность самого автора.

Так вот контент — это всегда следствие модерации. Посмотрите на ультра-правый Gab, полный американских реднеков, и на рандомный воке-поке-инстанс в Мастодоне, где могут забанить за использование неинклюзивных местоимений «he/she». Одна и та же технология (почти), но абсолютно разный контент.

Люди не начинают писать лонгриды и делиться опытом просто потому что вы дали им очередное поле для ввода текста в интернете.

Да и вообще сообщества — это не про контент. Они про людей.

Так что о контенте в другой раз, сегодня говорим о том, как делать модерацию, безжалостно банить душнил и почему написание четких правил не работает в реальных сообществах.

Лирическое отступление, этот блок можно пропустить без потери смысла

Всегда удивляет как много людей уверены, что сообщества просто обязаны управляться по тем же принципам, что и государства. Жаль вас разочаровывать, но это полная глупость, по простой причине:

👉 Люди не выбирают в каком государстве рождаться, а коммьюнити — это всегда добровольный выбор.

Когда тебе не нравятся сообщество и его правила — ты просто уходишь в другое. Если же ты захотел сменить государство — ну, удачи)0)))).

Именно поэтому эти две системы (принудительная vs добровольная) такие разные и требуют разных способов управления. Никто не запрещает совмещать подходы и играть в политического лидера, но скорее всего вы быстро запутаетесь и обосрётесь. Потому что у «демократии» пиздец сколько нюансов.

Управление коммьюнити больше похоже на управление компанией, чем государством

Мелкие компании управляются одним харизматичным основателем и у этого подхода одни плюсы — решения принимаются быстро, ошибки исправляются без долгих поисков виновников, а проект двигается со скоростью света. Как и с коммьюнити.

С ростом, очевидно, приходится обрастать системами модерации, децентрализованного принятия решений и прочей бюрократией, но даже у этой проблемы роста в «мире частного бизнеса» придумали уже кучу проверенных решений. ? Привет, либертарианцы! Хотя я себя не отношу к вам, но за методами наблюдаю.

Сразу бросаться строить демократию только потому что вам это слово знакомо — путь к провалу.

Даже государства, при всей своей мощи и ресурсах, не всегда справляются с демократией (кек), а вы уж куда с вашим локальным чатиком для друзявочек. Ищите, блять, другие инструменты.

Коммьюнити — это всегда частная вечеринка со своими правилами и ценностями. Используйте это как силу. Так что если вы начинающий коммьюнитивод, то я вам только что сэкономил пару лет проб и ошибок.

Кстати, это работает в обе стороны: если сообщество начинает втирать вам про «демократию» и «свободу слова» — значит вас 100% собрались наебать :)

Привет, Маск! Привет, Трамп! Как там TRUTH и Gab?

Как говорили в универе — данная задача не решается аналитическим путём. Мы можем лишь бесконечно приближаться к ответу, но никогда его не достигнем.

Любая модерация — это смесь нечётких правил, личных амбиций и неизбежности Трагедии Общин из Теории Игр.

Последняя гласит: в любой общине всегда будут появляться конфликты между интересами индивида и выживанием сообщества в целом.

Когда у вас есть поле, на котором вы всей своей деревней сажаете картошку, то целью каждого сельчанина будет сажать всё больше и больше картошки, чтобы получать больше и больше прибыли. Но, спустя какое-то время, такое поле утратит свою плодородность и деревня погибнет.

То же самое в сообществах. Когда парочка олдов-токсиков заполоняет своим флудом 90% чата, для остальных 1000 участников он становится смрадной помойкой, где нельзя даже слово вставить. И чат умирает.

Если деревня хочет выжить, то всегда нужен кто-то, кто будет регулировать урожай или брать на себя сложные решения типа забанить того токсичного олда. И его всегда будут ненавидеть. И только благодаря нему сообщество выживет.

Я лично наблюдал это много раз.

У меня даже есть любимая фраза на этот счёт (из какого-то твита, не помню уже):

Когда тебя банят — это ЦЕНЗУРА, а когда банишь ты — модерация))0))

Маск вон ради этого даже твиттер купил.

Модерация по определению всегда будет кому-то не нравиться. Будь у вас хоть куча правил, децентрализованный консенсус, волшебный шар предсказания судьбы, пофиг. Вы неизбежно налетите на ситуацию, когда нужно наказать индивида, чтобы тысяче других стало лучше.

И так у вас появится +1 враг.

Надо принять это как факт. И забить на него.

Я не помню случаев, когда коммьюнити умирало, потому что в нём кого-то забанили. Ну вот правда. ? Вспомнилась старая драма, когда на Лепре забанили Артемия Лебедева и он родил знаменитый пост как та «накрылась пиздой из-за своей илитарности». Вот только Лепра после этого еще лет 10 счастливо и продуктивно существовала, и всем было похуй на Артемия Лебедева. А вот случаев, когда разгоняли модераторов в пользу ШвАбОдЫ СлОвА и быстро потонули в болоте — полно.

Для себя я выделяю три условных подхода как можно делать модерацию. За те десять лет, что я занимаюсь сообществами, я встечаю либо их, либо их комбинацию.

🤔 Живые примеры: анон-борды, любые маленькие чаты

В лучшем случае за порядком в сообществе следит его создатель, в худшем — никто.

«Мы просто ничего не будем делать, люди сами как-то организуются, не дураки же!» — самый простой и популярный вариант, особенно среди тех, кто застал «ранние интернеты», где такой подход пока еще работал из-за довольно высокого среднего уровня интеллекта участников и их небольшого числа.

Подход дешево и эффективно работает в «чатиках друзей» и на мелких сайтах, но на широких массах и в долгосрочной перспективе обречен на провал. Об этом подробно рассказано в той самой старой статье на LessWrong, которую я всегда привожу в пример — «Пацифизм губит ухоженные сады».

Каким бы прекрасный не был твой сад, если ты его не охраняешь — в нём прямо завтра кто-нибудь насрёт. Так устроены люди. Уничтожение доставляет нам больше удовольствия, чем созидание.

И не надо тут плакать о несовершенстве мира, нужно просто знать и учитывать это несовершенство заранее. Готовиться, что вам придётся замарать руки. Модерация сообществ не может строиться на пацифизме и невмешательстве.

Ну а в Большом Интернете к этому еще и добавляются всякие законы разных случайных стран, по которым вы обязаны удалять хейт-спич из комментов или вычищать копирайт-контент, так что модерация на основе анархии в больших масштабах теперь уже просто невозможна.

Кстати, технократические попытки положиться полностью на плюсики-минусики-карму-рейтинг, в целом мало чем отличаются. Только теперь у олдов-психопатов еще и появляются классные техно-пушки, чтобы стрелять в других.

🤔 Живые примеры: Твиттер, Хабр, ТикТок, прочие соцсети и коллективные бложики

Следующей же мыслью в голову приходит: значит надо написать список правил и заставить всех их соблюдать!

Для тех, кто никогда не пытался написать правила хотя бы на 100-1000 человек, такой подход даже выглядит в теории рабочим и честным.

Недавно на Hacker News выложили замечательный тест-игру «No vehicles in the park». Занимает 3 минуты, рекомендую пройти. Там даётся правило «No vehicles allowed in the park» и дальше вы должны ответить на серию вопросов, например, «если я иду по парку и несу скейтборд — я нарушаю правило парка?»

В конце вам дадут график распределения ваших ответов относительно других. У меня, например, только 68% совпало.

Человеки невероятно эффективны и изобретательны, когда дело касается обхода написанных правил. Может из-за несовершенства языка как инструмента записи правил, может из-за недостаточного развития математической или формальной логики, хер пойми почему, обсудите в комментах.

Но просто дайте мне цель и напишите правило, которое прямо запрещает её достигать — я за пару минут вам найду, как его обойти.

Однако, несмотря на всё очевидное несовершенство, правила всё равно нужны. Они задают базу для понимания того, как принято себя вести в этом новом для них месте. Нам, человекам, некомфортно, когда мы не знаем чего ожидать. Осудят ли нас за хамство или похвалят за изобретательность.

Правила важны тем, кто не собирается их нарушать. Иронично.

Плюс, правила создают «ощущение» легитимности действий модераторов для остальных участников.

Даже в примере с «насрать на ковёр» выше, модераторам всё равно придётся наказать злодея и недопустить дальшейнего загрязнения ковра. По факту им придётся действовать за рамками описанных правил, однако для большинства мирных членов сообщества, которым не нравится грязный ковёр, такое решение будет приемлемо.

Юристы в таких случаях еще говорят «это не соответствует букве закона, но соответствует его духу».

Если отточить этот навык у модераторов или набирать тех, кто интиутивно его чувствует, такая команда в принципе уже сможет справляться даже с достаточно большими коммьюнити.

Пока не наткнутся на следующую проблему: со временем такая система скатывается либо в бюрократию, либо в злоупотребления властью.

Когда модераторы часто отходят от «буквы закона» и действуют по своему усмотрению, однажды обязательно начнутся ошибки и злоупотребления.

Если же модераторы честно пытаются «дописать» в правила каждый прецедент их обхода — то со временем правила начинают напоминать Налоговый Кодекс Германии, еле умещающийся в трёх шкафах. Начинается «власть бюрократов» — когда побеждает не тот, кто прав, а тот, кто знает больше законов.

Оба исхода — хуйня.

Так мы приходим к тому, что нам нужна какая-то новая система, возможно даже непосредственно не участвующая в модерации, но имеющая власть над самими модераторами и их решениями.

«Модерация модераторов», если вы любите каламбуры.

🤔 Живые примеры: Википедия

Такой подход позволяет держаться в балансе между бюрократией с бесконечными правилами и тотальной «интуитивной» анархией.

В нём больше не используются формальные правила — их заменяют более высокоуровневые «принципы», из которых правила либо выводятся автоматически, либо определяются консенсусом (договорённостью) модераторов.

У Википедии это «Пять столпов», у Вастрик.Клуба — «Ценности Клуба».

В отличии от «правил», которые обожают дописывать на каждый чих, «принципов» всегда ограниченное количество и они могут вообще не меняться за всё время жизни коммьюнити.

Это сильно помогает предотвратить разрастание бюрократии на корню. Отныне каждый конкретный случай проверяется не на следование формальным законам «так делать можно, а так нельзя», а на соответствие общим принципам коммьюнити.

Так, например, в пятом столпе Википедии прямо сказано, что в ней нет строгих правил, а четвёртый прямо запрещает пытаться «проверять их на прочность». При таком раскладе наша задача с засранным ковром выше решается очевидно и автоматически.

Принципы — это не правила, а законы построения этих правил. Дальше всё решает консенсус.

Такой подход немного сложнее формального записывания что можно и нельзя, но позволяет оставаться гибкими, масштабироваться и подстраиваться под изменяющийся мир и кризисы (типа того, что начался в русскоязычных коммьюнити после 2022-го).

При этом такой подход не запрещает иметь «полиси» (aka политики) на конкретные случаи. У Википедии их достаточно (хотя лучше смотреть на английской версии, она лучше оформлена).

Например, политика использования изображений, копирайта или правок статей о самом себе — тут уже явно без четких рекомендаций не обойтись. Еще бывают локальные или временные полиси на те случаи, по которым в данный момент много срачей, и где пока не могут прийти к консенсусу, типа «на» или «в».

И обратите внимание как же аргументированно и четко их пишут. Моё почтение. В интернете такого уже не встретишь.

В отличии от правил, полиси всегда имеют ограниченную область применения и всегда подчиняются тем самым высокоуровневым «принципам» (не выдумывая свои). А когда полиси потеряли смысл — их легко взять и выбросить.

Для примера приведу список политик которые лично мне частенько пригождаются в самых разных сообществах:

Теперь поговорим о проблемах такого подхода.

Первая проблема: поиск осознанных модераторов. Система без четких правил накладывает повышенные требования к уровню осознанности её членов, которые будут принимать решения. «С улицы» таких не наберёшь ? а это очень любят делать всякие стартапы, пытающиеся аутсорсить модерацию в Кению , таких можно только выращивать органически и вербовать из числа активных участников.

Модерация и так чаще всего неблагодарное и волонтёрское занятие, а тут еще и планка отбора резко повышается, ведь нужно отбирать тех, кто умеет не просто «банить по правилам», а обсуждать проблемы через рот и приходить к консенсусу. Таких людей и в обычной-то жизни фиг встретишь. Это очень дорогого стоит.

Вторая проблема: сложность системы и организации. Просто посмотрите как выглядит иерархия редакторов в Википедии. И это еще не все типы ролей (прав) влезли.

Чтобы организовать такое с нуля, нужно иметь либо IQ 200, либо опыт запуска пяти коммьюнити за плечами. Такие системы не заводятся просто так сами по себе, за ними всегда стоит идейный диктатор, типа Джимми Уэйлса, который годами тыкает всех носом в принципы и отбирает тех, у кого получается их соблюдать.

Именно по этим двум причинам попытки сделать «клон Х» почти всегда проваливаются.

Техно-братишки без проблем могут повторить «алгоритмы» хоть Реддита, хоть Твиттера, но лишь единицы из них задумываются, что в организации людей в системные сообщества тоже есть свои «алгоритмы». И о них всегда нужно думать если даже не в первую, то точно во вторую очередь.

Хорошая новость в том, что для чатика друзей в Телеграме вам скорее всего всё это нахер не нужно. Можно обойтись старой доброй диктатурой и банами «за недостаточную восторженность» (с) (тм).

Главное — не верить в миф о «саморегуляции», а иметь четкое представление что и для кого вы строите. Красивые сады сами по себе не вырастают. А дальше уже сами разберётесь по ситуации.

Ну и хот-тейк от меня напоследок:

Модерация — это не про баны и срачи. Это про ценности и принципы, которые вы заявляете.

И это именно то, что и отличает вас от 10000000000 других сообществ вокруг. Именно поэтому про это хорошо бы думать ДО запуска сообщества, а никак не после.

Надеюсь после этого поста в интернете станет чуть больше хорошо модерируемых сообществ, где будет приятно сидеть. А то чот в последнее время мы всё проебали.