Оглавление
Что такое дипфейк
Основные характеристики дипфейков
Применение
Риски и этические аспекты
Ответственность
Применение ответственности в США
Что такое дипфейк
Дипфейк (от англ. deepfake, сочетание слов «deep learning» и «fake») — это технология, использующая методы искусственного интеллекта, в частности глубокого обучения, для создания поддельных изображений, видео или аудио, которые выглядят или звучат так, как будто они реальны. Основная идея дипфейков заключается в том, чтобы наложить лицо одного человека на тело другого в видео, или синтезировать речь, имитирующую голос определенного человека. В самом широком смысле под дипфейком обычно понимают создание фото-, видео- или аудиозаписей, имитирующих реальность (технически это осуществляется обычно путем наложения существующих изображений и видео на исходные изображения или видеоролики с помощью так называемой генеративно-состязательной сети, но не стоит рассматривать возникающие проблемы лишь применительно к определенной технологии).
Основные характеристики дипфейков
Видео: в таких дипфейках лицо одного человека заменяется лицом другого, создавая иллюзию, что кто-то говорит или делает что-то, чего на самом деле не происходило. Например, дипфейковые видео могут показывать, как знаменитости или политики говорят слова, которые они никогда не произносили. Аудио: технология может использоваться для создания поддельных аудиозаписей, которые имитируют голос реального человека. Это может быть использовано для создания фальшивых телефонных разговоров или аудиозаписей, например, с признаниями или приказами. Изображения: дипфейки могут также создавать поддельные фотографии, где лица людей заменяются, изменяются выражения лиц или создаются несуществующие люди.
Применение
Развлечения: в кино и видеоиграх для создания реалистичных спецэффектов, в том числе для воссоздания изображений уже умерших актеров. Мошенничество и дезинформация: дипфейки могут использоваться для создания фальшивых новостей, шантажа, компромата или поддельных заявлений от имени известных лиц. Пранки и мемы: используются для создания смешных или сатирических видео, где лица знаменитостей заменяются на лица других людей или персонажей. Образование и тренировки: в учебных целях для моделирования различных ситуаций или для тренировки специалистов, таких как полицейские или медики.
Риски и этические аспекты
Мошенничество: дипфейки могут быть использованы для создания поддельных заявлений или доказательств, которые могут привести к обману и манипуляциям. Кибербуллинг и шантаж: поддельные видео или аудио могут использоваться для запугивания или шантажа людей. Подрыв доверия к медиа: появление дипфейков может привести к тому, что люди начнут сомневаться в достоверности любых видео или аудиозаписей, что затруднит восприятие правды. Правовые вопросы: использование дипфейков может нарушать авторские права, право на изображение, а также быть незаконным в случае клеветы или распространения ложной информации.
Ответственность
В зависимости от обстоятельств можно применить: использование образов физических лиц (152.1 ГК РФ); использование конфиденциальной информации (771 ГК РФ); нарушение нематериальных благ; авторское право (глава 70 ГК РФ); введение в заблуждение потребителей; уголовная ответственность. Технология представляет собой мощный инструмент, который может быть использован как в положительных, так и в отрицательных целях, и который требует внимательного регулирования и осведомленности общественности о возможных угрозах.
Применение ответственности в США
Законодательство США, регламентирующее правила использования и распространения дипфейков, впервые было принято на уровне отдельных штатов. Так, с сентября 2019 года в штате Техас действует закон, запрещающий распространение видеодипфейков, вводящих в заблуждение, направленных на нанесение ущерба политическим кандидатам или оказывающих влияние на избирательную систему, в течение 30 дней, предшествующих выборам. В октябре 2019 года аналогичный закон был принят в штате Калифорния; он устанавливает идентичный запрет, но с более пролонгированным сроком действия: дипфейки нельзя распространять в течение 60 дней до выборов. В ноябре 2020 года штат Нью-Йорк принял закон, прямо запрещающий использование цифровой копии умершего исполнителя в аудиовизуальном контенте в течение 40 лет после смерти исполнителя, если такое использование может вызвать у общественности ложное представление о наличии согласия исполнителя на такое использование. В штате Вирджиния в июле 2019 года был принят закон, устанавливающий уголовную ответственность за распространение дипфейков, направленных на принуждение, преследование или запугивание гражданина. Кодекс штата Вирджиния запрещает распространение порнографических дипфейков, но не создание таких дипфейков. Кроме того, законодательство штата Вирджиния устанавливает запрет только в отношении порнографических дипфейков, созданных с намерением изобразить гражданина, которого можно опознать как реального человека по лицу.
Что такое дипфейк
Основные характеристики дипфейков
Применение
Риски и этические аспекты
Ответственность
Применение ответственности в США
Что такое дипфейк
Дипфейк (от англ. deepfake, сочетание слов «deep learning» и «fake») — это технология, использующая методы искусственного интеллекта, в частности глубокого обучения, для создания поддельных изображений, видео или аудио, которые выглядят или звучат так, как будто они реальны. Основная идея дипфейков заключается в том, чтобы наложить лицо одного человека на тело другого в видео, или синтезировать речь, имитирующую голос определенного человека. В самом широком смысле под дипфейком обычно понимают создание фото-, видео- или аудиозаписей, имитирующих реальность (технически это осуществляется обычно путем наложения существующих изображений и видео на исходные изображения или видеоролики с помощью так называемой генеративно-состязательной сети, но не стоит рассматривать возникающие проблемы лишь применительно к определенной технологии).
Основные характеристики дипфейков
Видео: в таких дипфейках лицо одного человека заменяется лицом другого, создавая иллюзию, что кто-то говорит или делает что-то, чего на самом деле не происходило. Например, дипфейковые видео могут показывать, как знаменитости или политики говорят слова, которые они никогда не произносили. Аудио: технология может использоваться для создания поддельных аудиозаписей, которые имитируют голос реального человека. Это может быть использовано для создания фальшивых телефонных разговоров или аудиозаписей, например, с признаниями или приказами. Изображения: дипфейки могут также создавать поддельные фотографии, где лица людей заменяются, изменяются выражения лиц или создаются несуществующие люди.
Применение
Развлечения: в кино и видеоиграх для создания реалистичных спецэффектов, в том числе для воссоздания изображений уже умерших актеров. Мошенничество и дезинформация: дипфейки могут использоваться для создания фальшивых новостей, шантажа, компромата или поддельных заявлений от имени известных лиц. Пранки и мемы: используются для создания смешных или сатирических видео, где лица знаменитостей заменяются на лица других людей или персонажей. Образование и тренировки: в учебных целях для моделирования различных ситуаций или для тренировки специалистов, таких как полицейские или медики.
Риски и этические аспекты
Мошенничество: дипфейки могут быть использованы для создания поддельных заявлений или доказательств, которые могут привести к обману и манипуляциям. Кибербуллинг и шантаж: поддельные видео или аудио могут использоваться для запугивания или шантажа людей. Подрыв доверия к медиа: появление дипфейков может привести к тому, что люди начнут сомневаться в достоверности любых видео или аудиозаписей, что затруднит восприятие правды. Правовые вопросы: использование дипфейков может нарушать авторские права, право на изображение, а также быть незаконным в случае клеветы или распространения ложной информации.
Ответственность
В зависимости от обстоятельств можно применить: использование образов физических лиц (152.1 ГК РФ); использование конфиденциальной информации (771 ГК РФ); нарушение нематериальных благ; авторское право (глава 70 ГК РФ); введение в заблуждение потребителей; уголовная ответственность. Технология представляет собой мощный инструмент, который может быть использован как в положительных, так и в отрицательных целях, и который требует внимательного регулирования и осведомленности общественности о возможных угрозах.
Применение ответственности в США
Законодательство США, регламентирующее правила использования и распространения дипфейков, впервые было принято на уровне отдельных штатов. Так, с сентября 2019 года в штате Техас действует закон, запрещающий распространение видеодипфейков, вводящих в заблуждение, направленных на нанесение ущерба политическим кандидатам или оказывающих влияние на избирательную систему, в течение 30 дней, предшествующих выборам. В октябре 2019 года аналогичный закон был принят в штате Калифорния; он устанавливает идентичный запрет, но с более пролонгированным сроком действия: дипфейки нельзя распространять в течение 60 дней до выборов. В ноябре 2020 года штат Нью-Йорк принял закон, прямо запрещающий использование цифровой копии умершего исполнителя в аудиовизуальном контенте в течение 40 лет после смерти исполнителя, если такое использование может вызвать у общественности ложное представление о наличии согласия исполнителя на такое использование. В штате Вирджиния в июле 2019 года был принят закон, устанавливающий уголовную ответственность за распространение дипфейков, направленных на принуждение, преследование или запугивание гражданина. Кодекс штата Вирджиния запрещает распространение порнографических дипфейков, но не создание таких дипфейков. Кроме того, законодательство штата Вирджиния устанавливает запрет только в отношении порнографических дипфейков, созданных с намерением изобразить гражданина, которого можно опознать как реального человека по лицу.
