"Опасная технология будущего или забытое старое?" Ученый Пермского Политеха рассказал, как не стать жертвой дипфейка
17 мая в России и других странах СНГ отмечают День электросвязи и информационного общества. Именно в этот день 157 лет назад в дистанционном формате по телеграфу было подписано первое соглашение. С тех пор человечество с каждым годом совершенствовало способы обработки и передачи данных. Ученый Пермского Политеха рассказал о современной технологии, которая позволяет легко манипулировать аудио- и видеоконтентом, и о том, как защитить себя от порчи репутации.
Deepfake (дипфейк) — сочетание слов «глубокое обучение» (deep learning) и «подделка» (fake). Методика синтеза изображения, основанная на искусственном интеллекте.
— Это раскрученный в настоящее время термин, но в действительности за «хайпом» мало реального наполнения. Сам термин «глубокое обучение» является отчасти подделкой, поскольку никакого «глубокого» обучения не бывает, то что принято называть «машинным обучением» является лишь подбором весовых коэффициентов некоторых алгоритмов. Достаточно сложных для понимания непрофессионалом, но это всего лишь алгоритм, созданный людьми. А «глубокое» — это такое, в котором коэффициентов очень много, — поясняет доцент кафедры “ИТАС” электротехнического факультета Пермского Политеха, кандидат технических наук Даниил Курушин.
Удивителен тот факт, что в настоящее время технология позволяет легко манипулировать аудио- и видеоконтентом, а по мере того, как она развивается, разобраться, где правда, а где фейк, становится все сложнее. Любого человека можно выставить в дурном свете, испортить ему репутацию, обмануть.
— Повысить сложность создания фейка для мошенников можно только ограничив публикации собственных изображений в публичном пространстве. Однако, поскольку интерес для интернет-преступников представляют люди известные, которые часто появляются в информационном пространстве, снизить вероятность появления таких преступлений поможет разумное государственное регулирование Сети, — сообщает ученый.
Неправильно думать, что ранее нельзя было сделать подделку, трудноотличимый от реальности фотомонтаж. Возможности дипфейка были описаны в романе "Double Star" Роберта Хайнлайна. Несмотря на то, что действие романа разворачивается в фантастическом мире, сама технология фэйка позаимствована из современной автору реальности (загримированный, хорошо подготовленный актер). Булгаков в послесловии к "Мастеру и Маргарите" объясняет проделки Воланда и компании именно дипфэйком. Сейчас для этого не нужен актер, его роль играет компьютерная программа, технология стала более доступной.
Зачастую отличить дипфейк от настоящего контента без профессиональных инструментов практически невозможно. Тем не менее, используя научный подход, выявить подделку вполне реально.
— Не надо сразу реагировать на сообщение, особенно если оно использует какие-то манипулятивные приемы, обращается к эмоциям. Если все о чем-то говорят, если что-то происходит с большим шумом — скорее всего, это фейк, и не стоит реагировать на это. Необходимо подождать, возможно, автор себя выдаст чем-то. Или в истории вскроются внутренние противоречия. Важно помнить, что реальность всегда системна, ее компоненты влияют друг на друга, — рассказывает Даниил Курушин.
По словам ученого, опасность представляют не сами фейки, а люди, склонные к быстрой эмоциональной реакции. Журналисты и блогеры, не проверяющие тексты перед публикацией. В результате эмоционально окрашенный, «хайповый» текст или ролик, выпущенный мошенником, разлетается по Сети.