Привіт. Хочу поговорити про проблему масштабування. Ми всі спостерігаємо за тим, що сайт довгий час майже не модерується. Реєстрація зачинена частково через те, що сайту потрібно приділяти дуже багато уваги, особливо його модерації. Це щоденна робота і немає срібної кулі типу “модерація аішкою”, або адміністрацією, для кого це було б обовʼязком.
Зазвичай ми маємо ієрархічні системи, де є адміністрація, котра має певне бачення і користувачів, котрі існують в межах бачення адміністрації. Це робоча схема, але позаяк тяжіння до адміністрування у мене невелике, то є бажання дивитися в бік само-модерації.
Приклад само-модерації, або автоматизованої модерації є Гугл з їх підходом до оцінки сайтів. Гугл використовує серію метрик, котрі доволі впевнено підсвічують корисні сайти.
Reddit використовує такуж саме систему оцінки контенту, як і UJ. Використовує декілька метрик: час життя посту і голоси користувачів. Проте це доволі обмежена система, яка не захищає сайт від ботів.
Я провів декілька днів, питаючи ChatGPT та Gemini про те, якаб система з якими метриками була максимально само-модерована.
Найбільш мені сподобався варіант системи модерації від Gemini, котрий складається з трьох метрік: Authority, Trust, Energy.
Я попросив Gemeni спростити так, щоб це було зрозуміло пʼятирічній дитині. Це класний прийом, щоб легше почати сприймати складні речі.
Authority (Авторитет) — це твоя Медаль. Вона показує, як давно ти на майданчику і скільки всього доброго ти вже зробив. Чим більша твоя медаль, тим сильніше твій голос і тим більше дітей хочуть з тобою порадитися.
Trust (Довіра) — це твоє Сонечко. Коли ти чемний, ділишся іграшками і не б'єшся — твоє сонечко світить яскраво, і твої малюнки бачать усі. Якщо ти почнеш пустувати, сонечко сховається за хмаринку, і тебе стане майже не видно, поки ти знову не станеш добрим.
Energy (Енергія) — це твої Сили. Кожен раз, коли ти будуєш замок з піску або розповідаєш історію, ти витрачаєш трохи сил. Коли вони закінчуються, тобі треба трішки відпочити або поспати, щоб батарейка знову зарядилася і ти міг гратися далі.
Тож це три показники, подивившись на котрі, можна сказати в якому стані знаходиться користувач.
Наведу реальні приклади, як може працювати система.
Екстремально негативний (Спамер/Троль)
Дія: Користувач опублікував шкідливе посилання або грубу образу.
Реакція спільноти: 0 лайків, 15 репортів, 5 дизлайків.
Зміна показників:
Energy: -10 (за пост) = 90.
Trust: Обвал. 0.01
Authority: 1 (без змін, бо немає позитиву).
Батарейка: 90
Колір: Сірий (Новачок).
UX стан: Червоний. Пост зникає звідусіль. Користувач в «ізоляції».
Помірковано негативний (Низька якість/Офтоп)
Дія: Користувач запостив нецікавий мем або спам у коментарях.
Реакція спільноти: 2 лайки, 2 репорти, 4 дизлайки.
Зміна показників:
Energy: -10 (за пост) = 90.
Trust: Просідання. 0.17
Authority: $1$ (мінімальне падіння через негатив).
Батарейка: 90
Колір: Сірий (Новачок).
UX стан: Помаранчевий. Пост бачать лише кілька людей. Щоб піднятися, треба написати щось корисне.
Нейтральний/Посередній (Звичайний юзер)
Дія: Користувач написав звичайний коментар або середній пост.
Реакція спільноти: 5 лайків, 0 репортів, 1 дизлайк.
Зміна показників:
Energy: -10 (за пост) + регенерація за годину = 95.
Trust: Стабільність. 0.85
Authority: 1.05 (невеликий приріст за лайки).
Батарейка: 95
Колір: Сірий (переходить у Блакитний).
UX стан: Зелений. Хороший робочий стан. Пост має нормальне охоплення.
Помірковано позитивний (Корисний контент)
Дія: Користувач написав цікавий гайд або допоміг комусь у коментарях.
Реакція спільноти: 40 лайків, 0 репортів, 2 дизлайки.
Зміна показників:
Energy: -10 + швидка регенерація (бо Auth росте) = 98.
Trust: Високий. 0.95
Authority: 5.0
Батарейка: 98
Колір: Блакитний (Учасник).
UX стан: Яскраво-зелений. Пост потрапляє в «Гаряче» і розсилається підписникам.
Екстремально позитивний (Контент-мейкер/Лідер думок)
Дія: Глибоке дослідження або віральний пост, що зібрав сотні людей.
Реакція спільноти: 500 лайків, 0 репортів, 0 дизлайків.
Зміна показників:
Energy: -10 + миттєвий бонус за визнання = 100.
Trust: Максимальний. 1.0
Authority: 150 (перехід на новий рівень).
Батарейка: 100
Колір: Фіолетовий/Пурпуровий (Майстер).
UX стан: Сяючий Пурпур. Користувач має величезний вплив. Кожен його лайк піднімає інших з «ями».
Це загальні риси системи оцінки користувачів. Поки я хочу прийти до якоїсь початкової спрощеної реалізації, щоб можна було потестувати. Можливо, хтось знайомий з тестуванням подібних систем, відпишіться.
Щодо енергії та довіри. Енергія відновлюється через певний час. Авторитет впливає на швидкість відновлення.
Показник довіри залежить від реакцій на пости. Новачки мінімально впливають на довіру, а авторитетні — сильно. Можна злити довіру двома дізлайками від авторитетних користувачів.
При публікації поста враховується поточна енергія та довіра і встановлюється охоплення для посту. Якщо енергія або довіра низьки — буде мінімальне охоплення, що дорівнює прибирання постів від ботів та тролей. Але система також повинна відчуватися живою і вплив користувачів з великим авторітетом не повинен бути всеосяжним.
Як вам така система? Можливо у вас є приклади цікавих і ефективних систем з інших проєктів, які добре прибирають пости від ботів. Мені на думку спадає Хабр.
16 коментарів