Автор Rhiannon Bevan Опубликовано 10 минут назад
Xbox использует искусственный интеллект для модерации контента, что приводит к значительному увеличению числа игроков, наказанных за публикацию оскорбительных материалов.
Xbox продолжает бороться с токсичными и оскорбительными игроками в своих системах, показывая, что она столкнулась с огромным увеличением количества учетных записей, получивших выговоры за публикацию "вульгарных" содержание. По словам компании, после улучшения системы модерации количество «принудительных мер» увеличилось на 450%. за такой контент, предположительно, начиная от удаления публикации и заканчивая полной блокировкой игроков.
Это также связано с тем, что Xbox расширяет определение того, что она классифицирует как вульгарный контент, теперь включая «оскорбительные жесты, сексуальный контент и грубый юмор». Xbox защищает эту усиленную тактику модерации, говоря, что такой контент «отвлекает от основного игрового процесса». для других пользователей, и что большинству игроков, разместивших этот материал, было вынесено предупреждение, а не полный запрет на доступ к своим аккаунтам.
ВИДЕО ИГРОКА ДНЯ ПРОКРУТИТЕ, ЧТОБЫ ПРОДОЛЖИТЬ СОДЕРЖАНИЕ
Эта информация взята из последнего отчета Xbox о прозрачности его методов модерации. Здесь компания обсуждает, как она пытается действовать более "упреждающе" роль в обеспечении соблюдения своих положений и условий, используя ИИ для обнаружения материалов и языка, которые запрещены в его службах.
«По мере того, как потребности игроков продолжают развиваться, растут и наши инструменты», читает отчет. "Безопасность наших игроков является главным приоритетом& и для продвижения безопасного онлайн-опыта мы продолжим инвестировать в инновации, работать в тесном сотрудничестве с отраслевыми партнерами и регулирующими органами и собирать отзывы от сообщества"
80 процентов жалоб на контент были обработаны посредством «упреждающей модерации», что означает, что они могли быть приняты либо ИИ, либо человеком. Xbox не обсуждает возможности ложных отчетов, несмотря на то, что большая часть этой работы, возможно, выполняется ИИ. Однако, если ИИ пометит контент как вульгарный, то следующим шагом будет то, что человек все равно просматривает его, просто чтобы убедиться, что это не ошибка. Просто неясно, как долго игроку придется ждать, пока это решение будет принято.
Пока мы не39 Не имея информации о том, насколько надежным он оказался, ясно, что Xbox доволен результатами. Одна из используемых ею автоматизированных систем, Community Sift, прошла через «20 миллиардов взаимодействий с людьми». в прошлом году через эту программу прошло бы очень много докладов.
Неудивительно, что Xbox подавляет неприемлемый контент на своих платформах, учитывая возросшее давление на отрасль с целью искоренить расизм, разжигание ненависти и экстремизм в игровом сообществе. В выходные новое исследование показало, что 50% геймеров подвергаются экстремизму, играя в онлайн-игры. Также было обнаружено, что расистский язык и иконография ускользают от фильтров в нескольких играх, от Call of Duty до Roblox. В целом, отрасль призвали сделать больше, чтобы экстремисты не использовали игры в качестве инструмента для вербовки.
