Что такое Deepfake? Должны ли вы беспокоиться?

Последнее обновление Май 31, 2022

Содержание

Что такое Deepfake?

Как работает DeepFake?

Происхождение Deepfake

Опасности глубокого подделки

Нахождение решения

Популярный фальшивый контент

Deepfake контент создает хаос среди людей, которые выросли с идеей, что зрение – это вера. Фотографии и видео, когда-то считавшиеся неоспоримым свидетельством того, что что-то происходит, сейчас подвергаются сомнению массами. Этого следует ожидать после того, как обнаружение удивительно реалистичного видео Барака Обамы, в котором президент Трамп называет «полным и полным провалом», является не чем иным, как фальшивым творением.

Deepfake контент создает хаос среди людей, которые выросли с идеей, что зрение – это вера.

Используемая технология поднимает брови и порождает вопросы, поэтому мы здесь, чтобы дать вам полное подробное изложение того, что это такое, как это работает, и если действительно есть повод для беспокойства.

Что такое Deepfake?

Deepfake – это метод искусственного интеллекта, который использует машинное обучение для создания или манипулирования контентом. Он часто используется для создания монтажа или наложения лица человека поверх другого, но его возможности выходят далеко за рамки этого. Эта технология имеет множество других приложений. К ним относятся манипулирование или создание звука, движения, ландшафтов, животных и многое другое.

Как работает DeepFake?

Deepfake контент создается с помощью техники машинного обучения, известной как GAN (порождающая состязательная сеть). GAN используют две нейронные сети: генератор и дискриминатор. Они постоянно конкурируют друг с другом.

Генератор попытается создать реалистичное изображение, в то время как дискриминатор попытается определить, является ли он фальшивым или нет. Если генератор обманывает дискриминатор, дискриминатор использует собранную информацию, чтобы стать лучшим судьей. Аналогичным образом, если дискриминатор определяет, что изображение генератора является подделкой, генератор станет лучше при создании поддельного изображения. Бесконечный цикл может продолжаться до тех пор, пока изображение, видео или аудио больше не станут заметно поддельными для человеческого восприятия.

Происхождение Deepfake

Первое deepfake видео явно порно!

Первое deepfake видео явно порно! Более конкретно, оно было общим, чтобы увидеть знаменитое лицо налагается на порно актрис. Мемы Николаса Кейджа были также популярны среди других забавных изобретений.

Слово Deepfake стало синонимом этой техники в 2017 году благодаря пользователю Reddit, который получил название «Deepfakes». К пользователю присоединились другие в запрещенном ныне субреддите r / deepfakes, где они поделились своими творениями со всем миром.

Настоящим создателем порождающих противоборствующих сетей является Ян Гудфеллоу. Вместе со своими коллегами он представил концепцию Университета Монреаля в 2014 году. Затем он перешел на работу в Google и в настоящее время работает в Apple.

Опасности глубокого подделки

В чужих руках, Deepfake создание может быть использовано для подделки гораздо больше, чем глупые мемы Николаса Кейджа.

Хотя манипулирование контентом не является чем-то новым, оно требовало серьезных навыков. Вам понадобился мощный компьютер и действительно веская причина (или слишком много свободного времени) для создания поддельного контента. Программное обеспечение для создания Deepfake, такое как FakeApp, бесплатное, его легко найти, и оно не требует больших затрат компьютера. И поскольку он выполняет всю работу сам по себе, вам не нужно быть опытным редактором, чтобы создавать безумно настоящие фальшивые медиа.

Вот почему широкая общественность, знаменитости, политические организации и правительства беспокоятся о фальшивом движении. В чужих руках, Deepfake создание может быть использовано для подделки гораздо больше, чем глупые мемы Николаса Кейджа. Представьте, что кто-то создает фальшивые новости или компрометирующее видео доказательство. Вы можете добавить поддельные и порноместь проблемы. Все может очень быстро запутаться.

Еще одна причина для беспокойства по поводу фальшивого контента заключается в том, что важные личности могут также отрицать прошлые действия. Поскольку фальшивые видео кажутся настолько реальными, любой может заявить, что реальный клип – фальшивый.

Также читайте: Сложности этики и ИИ

Нахождение решения

Несмотря на то, что тренированный глаз очень близок к реальному, он все же может заметить искусственное видео, уделяя пристальное внимание. Проблема заключается в том, что в какой-то момент в будущем мы не сможем заметить разницу.

Twitter, Pornhub, Reddit и другие безуспешно пытались избавиться от такого контента. Что касается более официальной стороны, DARPA (Агентство перспективных исследовательских проектов в области обороны) работает с исследовательскими институтами и Университетом Колорадо над созданием способа выявления мошенников.

Лучшее, что мы можем сделать для борьбы с фальшивыми видео, – это быть более наблюдательными и менее легковерными.

Пока у нас нет программного обеспечения, которое может выявлять нарушения в таких видео, лучшее, что мы можем сделать, это быть более наблюдательным и менее легковерным. Сделайте свое исследование, прежде чем предположить, что видео, изображение или аудио реальны. Это то, что мы должны были уже делать, в любом случае.