Рост голосового общения в онлайн-играх несомненно способствовал увеличению неприятной манеры поведения игроков. Гораздо проще бросать оскорбления и злоупотребления устно, нежели прерывать игру для написания таких замечаний. Контроль над этим вредоносным поведением, известным как токсичность, представляет сложности, и некоторые компании прибегают к использованию ИИ для ограничения наиболее вопиющих проявлений такого поведения. На GDCC старший технический директор Roblox Киран Бхат и руководитель по безопасности голоса Ханнес Хейкинхеймо раскрыли, что компания использует модерацию голосового чата с помощью машинного обучения уже год, получая положительные результаты. Однако они признали, что в некоторых случаях человеческий контроль более эффективен для выполнения этой задачи.
🎉 🎮 Привет! Тебе что, совсем нечем заняться? Идеально! Присоединяйся к нашему телеграм-каналу Roblox, где мы веселимся больше, чем в бочке с виртуальными обезьянками. Приходи за кубиками, оставайся, чтобы подшутить. Ты не пожалеешь об этом... наверное. Увидимся в чате! 🕹️ 🚀 👇
Roblox Telegram
Во время обсуждения Бхат объяснил, что модерация голосовых сообщений в реальном времени может быть весьма сложной задачей, поскольку требуется понимать не только содержание сказанного, но и тон и интенсивность выражения для определения его неприемлемости. Кроме того, контекст играет значительную роль в определении оскорбительности высказывания, делая эту проблему особенно запутанной.
Как увлеченный энтузиаст, я нашел объяснение Бхата интригующим. Он отметил, что около 85% того, что мы называем токсичным, можно решить, сосредоточившись всего на четырех основных категориях. Примечательно, что большинство оскорблений заключено в списке из топ-50 ключевых слов. Таким образом, если вы справитесь с этими топ-50 ключевыми словами по указанным категориям, то уже проделаете значительную работу.
Я обычно осторожен, когда речь идет о громких заявлениях относительно возможностей ИИ, но Хейкинхеймо, руководитель направления безопасности голоса в Roblox, представляет примечательные результаты: после года работы и роста по 31 стране он сообщил об уменьшении количества отчетов о злоупотреблениях на ‘час активного разговора’ вдвое.
Одним из преимуществ использования машинного обучения для модерации голосовых сообщений является его способность поддерживать «единообразие», как отметил Хейкинхеймо. В отличие от людей, машины не имеют различных взглядов или эмоций, они не устают и не раздражаются, у них нет плохих дней. Вместо этого они последовательно выполняют свои задачи. Таким образом, в «очевидных случаях [токсичного поведения], машины более эффективны и последовательны», чем модераторы-люди. Однако то самое качество, которое делает нас трудно предсказуемыми — наша человечность — позволяет нам работать лучше машинных систем в менее прямолинейных ситуациях: Машины хорошо распознают паттерны, но когда дело доходит до интерпретации намерений и применения суждений, «человеки всё ещё превосходят машины.»
Хейкинхеймо заявил: «В сценариях вблизи границ принятия решений или крайне редких случаях с ограниченным объемом данных люди остаются лучшими, так как они могут эффективно принимать решения».
На GDC 2024 мы пообщались не с одним, а сразу с двумя разработчиками ПО, которые создают технологии машинного обучения для управления голосовыми чатами. Примечательно, что компания Activision уже добилась подобных результатов благодаря использованию AI-управляемых инструментов модерации голоса в Call of Duty. Это говорит о том, что Roblox — не единственная платформа, работающая над ИИ-модерированием голосовых трансляций.
Хотя я питаю сомнения по умолчанию, следует признать, что машинное обучение или искусственный интеллект имеют множество практических приложений в реальной жизни, и данный пример является одним из них. Но важно помнить, что это лишь инструмент, а не универсальное решение. Мы как люди продолжаем играть значительную роль в меняющемся ландшафте нашего футуристического мира.
2025 Игры: Ожидаемые Новинки Года
Лучшие ПК-Игры: Наши Выборки за Годы
Бесплатные ПК-Игры: Праздничное Веселье без Платы
Лучшие Шутеры от Первого Лица: Захватывающие Действия с Оружием
Лучшие РПГ: Великолепные Путешествия и Квесты
Лучшие Кооперативные Игры: Опыт, Улучшенный Командой
Смотрите также
- Roblox Eye Test все ответы [этап 1-115]
- Мертвые рельсы Сценарии (март 2025)
- Как попасть в Проклятое море в Фиш — Расположение Путешественника по морям, босс Ктулху и прочее
- Список звуковых идентификаторов Jujutsu Shenanigans Kill – Roblox
- Путеводитель по Аризе Кроссовер Роблокс Данженс: Места расположения, время спавна и прочее
- Все 7 яиц в игре Волейбол Легенды и как их собрать
- 5 хороших сериалов, похожих на «День Шакала»
- Как сделать макросы в Фиш — настройка AutoHotKey и версии 11
- Фиш: Как получить Abyssal Specter Rod
- Обзор MSI Stealth A16 AI+: ИИ не поможет сделать его чем-то иным, как посредственным
2025-03-20 22:32