Home › News

Бизнес в эпоху цифровой пропаганды

07.01.2019

Андрей Медведев о Чубайсе. Жёстко!

Многие помнят видеоролик, где бывший президент Барак Обама произносит: «Будьте начеку, сучки». Конечно, это говорит не он сам: лицо принадлежит Обаме, а губы и голос — комику Джордану Пилу. Технологии наложения сделали видео довольно реалистичным. Розыгрыш напомнил всем: ложные новости проникают в сферу видео и могут выглядеть хоть и недостаточно убедительно, но абсолютно достоверно.

Эксперты предсказывали такое развитие событий. Недавно в Кремниевой долине прошло совещание с участием ведущих инженеров, специалистов по кибербезопасности, соцсетям и платформам, а также ученых, журналистов, правозащитников и экспертов в сфере видео и верификации. Они обсуждали стратегии борьбы со злонамеренным использованием «глубоких фейков» и «синтетических медиа».

Одним из организаторов мероприятия был Сэм Грегори, программный директор WITNESS — группы активистов, ­распространяющей в интернете информацию и документальные материалы о нарушениях прав человека. Грегори отвечает за программы инноваций в создании видеороликов очевидцами событий. Он также ведет проект WITNESS Tech + Advocacy, цель которого — информировать ИТ-компании о том, как их платформы используют правозащитники. Сэм работал в Латинской Америке и Азии, а также участвовал в деятельности Конгресса США, Парламента Великобритании и ООН. Он входит в Совет по мировому будущему при ВЭФ и в Консультативный совет по технологиям при Международном уголовном суде.

Сэм считает упомянутый видеоролик тревожным звонком. По его мнению, бизнесу пора осознать: глубокие фейки и другие формы синтетического контента используются не только в политике — они могут погубить любую организацию, для которой важны доверие и репутация.

HBR обсудил с Сэмом Грегори феномен глубоких фейков и цифровой пропаганды. Вот выдержки из этого разговора.

HBR: Начнем с термина «глубокий фейк». Что это такое?

Грегори: Глубокий фейк — это использование машинного обучения и ИИ для подделки медиа. Например, я могу записать вашу речь, а потом наложить видео с другим человеком, чтобы казалось, что это он произносит ваши слова. Или наоборот: запишу, как другой человек говорит: «Я сам придумываю факты для статей», — а затем заменю его лицо вашим. Наконец, я могу создать фейковую аудиозапись с похожим на ваш голосом и наложить ее на видео с похожим на вас человеком.

И для этого не нужно участие человека, которого вы «подделываете»?

Не нужно. Пример — ролик, где Джордан Пил говорит за Барака Обаму. Но это лишь один из прорывов в создании контента с помощью ИИ. В будущем эти методы позволят создавать самые разные синтетические медиа. Технологии редактирования и персонификации аудио и видео, имитации мимики развиваются и становятся доступнее.

То есть это нечто большее, чем отличное владение фото- и видеоредакторами или умение имитировать голос?

Безусловно. Синтетические медиа — результат развития машинного обучения, в частности так называемых генеративно-состязательных сетей. По сути, это соревнование двух нейросетей, работающих с одним набором данных. Одна сеть что-то создает — например, правдоподобные фейковые изображения; а другая должна определять, где подлинное изображение, а где подделка. Это ускоряет обучение, превращая его в «кошки-мышки»; при этом сети совершенствуются в создании фейков.

У этой технологии есть и отличные перспективы мирного применения. Возможность совмещать ­изображения людей и другой контент полезна в контексте технологий дополненной и виртуальной реальности. А люди с боковым амиотрофическим склерозом благодаря ей смогут создать «голосовой банк» и «говорить» даже после утраты физической возможности. Есть и другие позитивные варианты использования — но все же нужно тщательно изучать негативные.

Ролик с Обамой выглядит не совсем естественно. Существуют ли глубокие фейки, неотличимые от реальных?

Это зависит от того, что именно делается. Наложение лица другого человека, например, почти всегда заметно: видны несоответствия в движениях рта и носа. Если фон не статичен, тоже не все может получиться. Современные генеративно-состязательные сети требуют мощного процессора, совершенной графической карты, хорошего набора изображений для обучения — и терпения. Но такие спецэффекты давно перестали быть достоянием одной лишь голливудской студии CGI. С развитием вычислительных мощностей и сетей фейки можно будет создавать на смартфоне; сейчас мы этого почти не видим.

То есть сейчас такие фокусы еще не доступны любителям?

Скажем так, не всем. Но порог вхождения обывателя в сферу глубоких фейков постоянно снижается. Код этой технологии стал открытым, и люди уже используют его, но пока это требует подготовки. И больше всего нужно бояться вовсе не наложения лиц.