О клиенте
Клиент развивает онлайн-сообщество на базе NodeBB. По мере роста форума увеличивалось количество пользовательских публикаций, комментариев и обсуждений. Вместе с этим рос объем спама, нерелевантных сообщений и контента, который требовал ручной проверки.
Готовые антиспам-сервисы не подходили клиенту по стоимости, гибкости и уровню контроля. При росте аудитории они становились дороже, проверяли контент за пределами форума и не давали достаточно гибкости в настройке правил модерации конкретного сообщества.
Клиенту требовался собственный плагин для NodeBB, который проверял бы контент внутри форума, до публикации поста или комментария, и позволял настраивать правила проверки под конкретное сообщество.
Задача
Нужно было защитить NodeBB-форум от спама и нежелательного контента без перехода на дорогие сторонние сервисы.
Основные задачи проекта:
- проверять посты и комментарии до публикации или сохранения изменений;
- интегрировать плагин в стандартные процессы публикации и редактирования сообщений в NodeBB без сложной доработки форума;
- выявлять спам, подозрительные сообщения и потенциально вредный контент;
- обеспечить быструю проверку, чтобы она не мешала пользователям публиковать сообщения;
- дать модераторам больше контроля над правилами фильтрации;
- снизить объем ручной модерации;
- сократить расходы по сравнению со сторонними антиспам-сервисами;
- тестировать точность работы плагина на положительных и отрицательных сценариях.
Обзор проекта
Мы разработали антиспам-плагин для NodeBB, который проверяет пользовательский контент до публикации. LangChain готовит запрос к языковой модели, а Groq ускоряет получение результата, поэтому проверка не задерживает публикацию сообщений на форуме. Если сообщение похоже на спам или нарушает правила сообщества, система может отметить его как подозрительное или заблокировать до публикации.
Плагин можно подключить к существующему NodeBB-форуму без переработки его основной логики. Для проверки антиспам-фильтра команда подготовила автоматические тесты: отдельно для обычных сообщений и отдельно для спама.
- Регион: Международный рынок
- Индустрия: Онлайн-сообщества / форумы
- Сроки: 1 неделя
Решение
В финальной версии плагин проверяет посты и комментарии в NodeBB до публикации и помогает модераторам быстрее выявлять и блокировать спам.
Плагин анализирует текст и помогает выявлять спам, рекламные вставки и сообщения, нарушающие правила форума. После проверки он либо пропускает сообщение к публикации, либо отправляет его модератору.
LangChain помогает выстроить проверку текста: подготавливает сообщение для языковой модели, передает его на анализ и обрабатывает ответ. Groq ускоряет получение результата, чтобы проверка не задерживала публикацию сообщений на форуме.
Поскольку плагин работает как расширение NodeBB, его можно подключить к существующим инструментам модерации и настроить под правила конкретного сообщества: например, изменить правила срабатывания антиспам-фильтра, сценарии блокировки или условия отправки сообщения модератору.
Ключевые возможности
- проверка постов и комментариев до публикации или редактирования;
- выявление спама и нежелательного контента с помощью LLM;
- быстрая проверка текста через Groq;
- анализ текста через LangChain и языковую модель;
- интеграция с NodeBB без переработки основной логики форума;
- гибкая настройка правил, по которым сообщения блокируются или отправляются модератору;
- снижение затрат по сравнению с использованием сторонних антиспам-сервисов;
- автотесты антиспам-фильтра на обычных сообщениях, спаме и спорных примерах.
Технологический стек
- Проверка текста: Groq;
- Бэкенд: Node.js, архитектура плагинов NodeBB, LangChain, MLflow;
- Инфраструктура: Docker, облачная среда;
- Мониторинг: Встроенные логи NodeBB и инструменты мониторинга инфраструктуры.
Результаты
В результате на форуме появился антиспам-плагин для NodeBB, который проверяет посты и комментарии до публикации и помогает модераторам быстрее избавляться от спама на форуме.
Плагин помог снизить зависимость от внешних антиспам-сервисов: проверка сообщений стала частью NodeBB, а не отдельным внешним процессом. Команда клиента могла сама настраивать правила фильтрации — от блокировки явного спама до отправки спорных сообщений модератору.
Плагин также помог:
- сократить объем ручной модерации;
- снизить расходы на платные сторонние антиспам-сервисы;
- проверять посты и комментарии без задержки;
- блокировать спам до появления на форуме;
- сохранить стабильную работу NodeBB при активном использовании форума;
- быстрее настраивать модерацию под правила конкретного сообщества.