Рост голосового общения в онлайн-играх несомненно способствовал увеличению неприятной манеры поведения игроков. Гораздо проще бросать оскорбления и злоупотребления устно, нежели прерывать игру для написания таких замечаний. Контроль над этим вредоносным поведением, известным как токсичность, представляет сложности, и некоторые компании прибегают к использованию ИИ для ограничения наиболее вопиющих проявлений такого поведения. На GDCC старший технический директор Roblox Киран Бхат и руководитель по безопасности голоса Ханнес Хейкинхеймо раскрыли, что компания использует модерацию голосового чата с помощью машинного обучения уже год, получая положительные результаты. Однако они признали, что в некоторых случаях человеческий контроль более эффективен для выполнения этой задачи.
🎉 🎮 Привет! Тебе что, совсем нечем заняться? Идеально! Присоединяйся к нашему телеграм-каналу Roblox, где мы веселимся больше, чем в бочке с виртуальными обезьянками. Приходи за кубиками, оставайся, чтобы подшутить. Ты не пожалеешь об этом... наверное. Увидимся в чате! 🕹️ 🚀 👇
Roblox Telegram
Во время обсуждения Бхат объяснил, что модерация голосовых сообщений в реальном времени может быть весьма сложной задачей, поскольку требуется понимать не только содержание сказанного, но и тон и интенсивность выражения для определения его неприемлемости. Кроме того, контекст играет значительную роль в определении оскорбительности высказывания, делая эту проблему особенно запутанной.
Как увлеченный энтузиаст, я нашел объяснение Бхата интригующим. Он отметил, что около 85% того, что мы называем токсичным, можно решить, сосредоточившись всего на четырех основных категориях. Примечательно, что большинство оскорблений заключено в списке из топ-50 ключевых слов. Таким образом, если вы справитесь с этими топ-50 ключевыми словами по указанным категориям, то уже проделаете значительную работу.
Я обычно осторожен, когда речь идет о громких заявлениях относительно возможностей ИИ, но Хейкинхеймо, руководитель направления безопасности голоса в Roblox, представляет примечательные результаты: после года работы и роста по 31 стране он сообщил об уменьшении количества отчетов о злоупотреблениях на ‘час активного разговора’ вдвое.
Одним из преимуществ использования машинного обучения для модерации голосовых сообщений является его способность поддерживать «единообразие», как отметил Хейкинхеймо. В отличие от людей, машины не имеют различных взглядов или эмоций, они не устают и не раздражаются, у них нет плохих дней. Вместо этого они последовательно выполняют свои задачи. Таким образом, в «очевидных случаях [токсичного поведения], машины более эффективны и последовательны», чем модераторы-люди. Однако то самое качество, которое делает нас трудно предсказуемыми — наша человечность — позволяет нам работать лучше машинных систем в менее прямолинейных ситуациях: Машины хорошо распознают паттерны, но когда дело доходит до интерпретации намерений и применения суждений, «человеки всё ещё превосходят машины.»
Хейкинхеймо заявил: «В сценариях вблизи границ принятия решений или крайне редких случаях с ограниченным объемом данных люди остаются лучшими, так как они могут эффективно принимать решения».
На GDC 2024 мы пообщались не с одним, а сразу с двумя разработчиками ПО, которые создают технологии машинного обучения для управления голосовыми чатами. Примечательно, что компания Activision уже добилась подобных результатов благодаря использованию AI-управляемых инструментов модерации голоса в Call of Duty. Это говорит о том, что Roblox — не единственная платформа, работающая над ИИ-модерированием голосовых трансляций.
Хотя я питаю сомнения по умолчанию, следует признать, что машинное обучение или искусственный интеллект имеют множество практических приложений в реальной жизни, и данный пример является одним из них. Но важно помнить, что это лишь инструмент, а не универсальное решение. Мы как люди продолжаем играть значительную роль в меняющемся ландшафте нашего футуристического мира.
2025 Игры: Ожидаемые Новинки Года
Лучшие ПК-Игры: Наши Выборки за Годы
Бесплатные ПК-Игры: Праздничное Веселье без Платы
Лучшие Шутеры от Первого Лица: Захватывающие Действия с Оружием
Лучшие РПГ: Великолепные Путешествия и Квесты
Лучшие Кооперативные Игры: Опыт, Улучшенный Командой
Смотрите также
- Все 12 мест расположения пасхальных яиц в Rebirth Champions Ultimate
- Мертвые рельсы Сценарии (март 2025)
- 7 великолепных сериалов, похожих на «Ночной агент»
- Поиск пасхальных яиц на мероприятии Brookhaven в Roblox: исследованы все уровни сложности
- Все 50 мест расположения пасхальных яиц в Туалетной Оборонительной Стратегии
- Roblox Eye Test все ответы [этап 1-115]
- Полный список и руководство по аниме-рейнджерам Х-Trait
- Полное руководство по событию «Рыбный пасхальный праздник» [Все 23 местоположения пасхальных яиц]
- Полное руководство по пасхальному событию ‘Dusty Trip’ (2025) – Локации яиц
- Все 18 значков в 3D-анимациях Sprunki RP и как их получить
2025-03-20 22:32