Twitch выпускает обновленные рекомендации, касающиеся увеличения количества дипфейкового контента, появляющегося в прямых трансляциях платформы.
В недавно опубликованном сообщении в блоге Twitchобратился к последнему спору о дипфейках, пытаясь защитить своих стримеров-женщин. Этот пост является ответом на неприятный инцидент, произошедший в январе, когда несколько женщин-стримеров Twitch использовали свои образы для использования в непристойном контенте.
Для непосвященных дипфейк — это процесс использования искусственного интеллекта для создания убедительных изображений, видео и аудио людей, говорящих или делающих то, чего они никогда не говорили и не делали. Дипфейки — это мощная и быстро развивающаяся технология, которая может как развлекать, так и обманывать. Несмотря на то, что дипфейки могут иметь положительное значение, существуют также серьезные опасения по поводу возможности их неправомерного использования. Эту технологию также можно использовать для создания вредоносного контента, нацеленного на конкретных людей, например для создания поддельных видеороликов, на которых люди делают или говорят что-то, чего они на самом деле не делали. Это может привести к потере доверия, ущербу для репутации и даже к юридическим последствиям.
Twitch решил свою явную проблему с дипфейковым контентом, сначала поставив ярлык на этот термин и назвав его “синтетическим неконсенсуальным эксплуататорским изображением” или «синтетический NCEI». В течение следующего месяца Twitch обновит свою политику в отношении сексуального насилия и эксплуатации взрослых, чтобы подчеркнуть, что преднамеренное продвижение, создание или распространение синтетических NCEI приведет к приостановке на неопределенный срок при первом нарушении. Политика Twitch в отношении наготы для взрослых также обновляется и включает синтетические NCEI. В будущем показ NCEI на платформе потоковой передачи приведет к немедленному применению политик сайта потоковой передачи независимо от контекста.
Twitch также организует 14 марта Лагерь для авторов, чтобы обучать зрителей о важной социальной проблеме. Стримерша Зара Уорд, которая является экспертом по NCEI, присоединится к члену команды безопасности Twitch и расскажет все, что нужно знать о синтетических NCEI.
Технология дипфейкинга становится все более популярной. вызывает беспокойство, и его последствия имеют далеко идущие последствия. Помимо неконсенсуального явного контента, он также может использоваться для манипулирования общественным мнением, распространения ложной информации, влияния на выборы и вообще для создания вредоносного контента, который может оказать пагубное влияние на людей и общество. Хотя Twitch предпринимает некоторые важные шаги для решения этой проблемы, чтобы защитить своих пользователей и поддерживать безопасную и защищенную среду, еще неизвестно, как другие компании будут бороться с постоянно растущей угрозой дипфейков.
