Reddit запускает Rules Hub — LLM берёт на себя модерацию новых сабреддитов

Reddit привлекает ИИ к модерации новых сабреддитов — и со временем распространит это на всю платформу. Компания вводит автоматизированные инструменты модерации на базе больших языковых моделей (LLM), которые помогают модераторам управлять сообществами, и уже сейчас расширяет доступ к ним — перед полноценным запуском позже в этом году.

Набор инструментов называется Rules Hub — он позволяет модераторам самим решать, какие правила должны применяться автоматически и что происходит при их нарушении. Rules Hub опирается на LLM, чтобы оценивать, «соответствует ли пост или комментарий смыслу правила», что, по словам компании, «позволяет Rules Hub лучше справляться с нюансами, естественным языком и пограничными случаями».

• Инструменты стартуют с новых сабреддитов, затем распространятся на всю платформу
• Модераторы сами настраивают, какие правила enforced автоматически и какое действие следует за нарушением
• Rules Hub оценивает смысл поста или комментария через LLM, а не только точные совпадения по ключевым словам

Reddit делает ставку на ИИ в модерации в тот момент, когда крупные платформы в целом усиливают контроль над тем, что генеративный ИИ может создавать и распространять: недавно мы писали, как Google пришлось отключить собственный ИИ-генератор спутниковых снимков в Google Earth меньше чем через сутки после запуска, а также разбирали, как ИТ-директор Workiva советует компаниям заранее проверять устойчивость ИИ-комплаенса. Общий вектор понятен: чем шире применяется генеративный ИИ, тем больше платформам приходится инвестировать в правила и инструменты, которые держат этот ИИ под контролем.

Текст написан в информационных целях и не призывает к конкретным инвестиционным решениям.