Платформа Roblox внедрила функцию на основе искусственного интеллекта, способную перефразировать неприемлемые выражения в чате в режиме реального времени. Игра уже давно использует ИИ-фильтры для блокировки лексики, нарушающей её политику, но ранее заменяла цензурированные сообщения последовательностью решёток (####).
В Roblox признают, что обилие таких значков может сбивать с толку и затруднять ведение диалога. Новая функция вместо этого будет заменять слова и фразы на более подходящие, по мнению алгоритма, варианты.
Как заявил руководитель отдела безопасности Roblox, система начнёт с ненормативной лексики. Например, если пользователь напишет в чате «Hurry TF up», система заменит это на «Hurry up!». Все участники чата увидят уведомление, когда сообщение было перефразировано, а отправитель увидит, какая именно лексика была отредактирована.
Пользователь, который продолжит ругаться в чате, всё равно будет наказан за нарушение политики Roblox, даже если ИИ переписывает его сообщения. «По мере масштабирования эти системы создают эффект маховика для цивилизованности, где обратная связь в реальном времени помогает пользователям изучать и принимать наши стандарты сообщества», — отметил руководитель в своём блоге.
Функция перефразирования уже внедрена в чатах между пользователями, прошедшими проверку возраста, в схожих возрастных группах и на всех языках, которые поддерживает инструмент перевода игры.
Roblox ввела обязательную систему проверки возраста ещё в январе после сообщений о проблемах с контентом для взрослых на платформе. Дети младше 13 лет больше не могут использовать внутриигровой чат за пределами определённых локаций, в то время как все остальные могут общаться с игроками своего возраста. Однако проверка возраста не остановила исков к компании: власти одного из округов в иске, поданном в феврале, заявили, что Roblox знает, что её платформа делает детей лёгкой добычей для злоумышленников. Генеральный прокурор другого штата также недавно подал иск, утверждая, что Roblox создала опасную среду для детей.
