«Дипфейк» находится в центре дела о домогательствах, но что, если это не подделка?

Дипфейкнаходитсявцентределаодомогательствахночтоеслиэтонеподделка

Эксперты вызывают сомнения в том, что искусственный интеллект был использован для создания видео, которое полиция называет «дипфейком», и которое находится в центре продолжающейся судебной тяжбы, разыгрывающейся в Пенсильвании.

Инцидент попал в международные новости в прошлом месяце после того, как мать школьного чирлидера была обвинена в подтасовке изображений и видео с целью создать впечатление, будто соперницы ее дочери пьют, курят и т. Д. и позирует обнаженной.

Мать, 50 – летняя Рафаэла Споне, как сообщается, отправила подделанный контент с анонимного номера трем чирлидерам и их тренерам.

Окружная прокуратура округа Бакс, которая обвинила Spone по трем пунктам кибер-домогательств в отношении ребенка и трем пунктам преследования, ссылалась на термин дипфейк при обсуждении изображений, а также видео, которое изображен вейпинг одной из предполагаемых жертв.

Но обвинение вызывает серьезные вопросы о понимании правоохранительными органами технологии дипфейка и готовности СМИ повторять свои утверждения без проверки.

Хотя прокуратура не предоставила конкретных подробностей, инструменты, предназначенные для того, чтобы с помощью искусственного интеллекта (ИИ) заставить женщин казаться обнаженными на изображениях, действительно существуют . Вместо этого предполагаемое видео о вейпинге вызвало значительный отпор со стороны экспертов по дипфейку.

Хотя предполагаемый дипфейк изначально был недоступен для публики, запись мобильного телефона другого устройства, воспроизводящего видео вейпинга, была предоставлена ​​NBC Information в прошлом месяце после того, как одна из предполагаемых жертв выступила с заявлением.

Мэди Хейм, 17 – летняя чирлидер из отряда Victory Vipers опровергла NBC Information, что на кадрах действительно было видно ее вейпинг. Хейм говорит, что ей стало известно о видео после того, как оно было отправлено якобы Споун ее тренерам по черлидингу.

«Я думала, если я скажу это, мне никто не поверит, потому что, очевидно, есть Доказательство, есть видео – но очевидно, что это видео было сфальсифицировано », – сказал Хейм NBC Information.

The Every day Dot обратилась к матери Хейма Дженнифер, которая появилась вместе с Хеймом в интервью NBC Information. чтобы узнать о видео с вейпингом, но не получил ответа к моменту публикации.

Генри Эйдер, британский эксперт по дипфейку и синтетическим медиа, был одним из первых, кто задал вопросы о видео о вейпинге после того, как ABC Information передали аналогичный репортаж.

«У меня были сомнения по поводу истории о маме, делающей дипфейки на соперниц своей дочери из группы поддержки», – написала Адждер в Твиттере в прошлом месяце. «Одно из видео, выпущенное ABC, не похоже на дипфейк, но они по-прежнему маркируют его как видео без существенных доказательств или анализа».

У меня были сомнения по поводу истории о маме, делающей дипфейки на соперниц своей дочери из группы поддержки.

Одно из видео, выпущенное abc, похоже, не является дипфейком, но они по-прежнему маркируют его как видео без существенных доказательств или анализа.

1/8 pic.twitter.com/8Lc5qV9tRo

– Генри Эйдер (@HenryAjder) Марш 19, 2021

Другие эксперты по дипфейку, похоже, испытывают те же опасения. Популярный создатель дипфейков, известный в сети под ником Dr. Факенштейн – который в настоящее время работает художником искусственного интеллекта в комедийном шоу Sassy Justice , разработанный создателями Южного парка Треем Паркером и Мэттом Стоуном, сообщил Every day Dot, что видео с вейпингом не было создано искусственно.

В частности, доктор Факенштейн отметил, что в видео отсутствуют определенные глюки, которые почти всегда появляются в дипфейках, когда лицо закрыто другим объектом.

«Трудно увидеть, потому что это видео из видео, но для меня это не похоже на дипфейк», – сказали они. «Свет смещается, как будто он естественный, никаких сбоев там, где рука закрывает лицо, никаких сбоев, когда облако вейпа проходит перед лицом, что очень сложно, если не невозможно, обойтись без сбоев».

The Every day Dot связалась с отделением полиции городка Хиллтаун , которое расследовало и позже произвел арест против Spone, чтобы узнать о видео с вейпингом.

Начальник полиции Кристофер Энгельхарт заявил, что, по его мнению, обвинительные документы против Spone не позволяют однозначно пометить видео как дипфейк.

«Насколько я понимаю, эта технология была указана как дипфейк или аналогичная технология», – сказал Энгельхарт.

В жалоба на уголовное преступление против Spone, Hilltown Township Офицер полиции Мэтью Рейсс называет видео с вейпингом «работой программы, которая является или похож на Deep Fakes. »

Когда спрашивают, рассматривал ли департамент возможность Поскольку вейпинг-видео вообще не может быть дипфейком, Энгельхарт заявил, что не уверен, была ли терминология, использованная для описания видео, введена предполагаемой жертвой или полицией.

Энгельхарт продолжил утверждать, что следователи провели судебно-медицинский анализ видео, чтобы установить, что оно было подтасовано.

«Утверждение состоит в том, что эта жертва не употребляла вейпинг», – добавил Энгельхарт. «Утверждение состоит в том, что она смогла манипулировать этим, чтобы создать впечатление, будто она вейпирует ».

Но эксперты скептически относятся к тому, что даже лучшие создатели дипфейков могут создать такое убедительное видео, не говоря уже о Spone. На вопрос, есть ли у 50 – летняя мать потенциально вызвал помощь от создателя дипфейка, Энгельхарт заявил, что, хотя это возможно, в настоящее время нет доказательств того, что у Споуна был сообщник.

Derpfakes, еще один известный художник дипфейков, чьи творения имеют собрали миллионы просмотров в Интернете, а также просмотрели видео о вейпинге, представленное NBC Information, и рассказали Every day Dot, что они не могут с уверенностью сказать, что им манипулировали.

«Я бы склонился к тому, чтобы сказать, что это подлинно», – сказал Дерпфэйкс. «Если это дипфейк, то для этого определенно требуется определенный уровень навыков визуальных эффектов, а не готовое программное обеспечение для дипфейка».

Во время пресс-конференции в прошлом месяце, окружной прокурор округа Бакс Мэтт Вайнтрауб, похоже, предположил, что видео о вейпинге было основано на существующих кадрах из учетные записи жертвы в социальных сетях.

«Видео или изображения уже существовали в той или иной форме, а затем наше утверждение – это, конечно, подлежит доказыванию в суде, она невиновна, пока ее вина не будет доказана, – но мы утверждаем, что г-жа Споун взяла существующие изображения из существующих социальных сетей из существующих учетных записей этих трех жертв в социальных сетях и манипулировала ими », – сказал Вайнтрауб.

Заявление аналогично заявлению Энгельхарта Every day Dot о том, что Spone якобы использовал законное видео в качестве основы для дипфейка. Полиция не знала, было ли лицо предполагаемой жертвы добавлено к видео другой молодой женщины, вейпирующей, или же электронная ручка и дым были добавлены в цифровом виде к законному видео предполагаемой жертвы. , эксперты скептически относятся к тому, что любой сценарий является точным отображением отснятого материала.

Известный создатель дипфейков, известный как Шамук , видео которого просмотрели более 21 миллион раз на одном только YouTube, утверждал, что, хотя разрешение видео вейпинга «очень низкое, оно слишком чистое, чтобы быть дипфейком».

«С моей точки зрения, это не дипфейк», – сказал Шамук Every day Dot. «Дым от вейпа было бы слишком сложно создать … Я просто не вижу никаких правдоподобных доказательств того, что это дипфейк».

Вайнтрауб также заявил во время пресс-конференции, что следователи установили, что видео вейпинга было изменено после анализа его «метаданных», термин, который относится к встроенной информации на цифровых носителях, которая может показать, как и когда оно было последний раз редактировалось.

Но после обращения к Рейссу, Офицер, расследовавший Spone, Every day Dot узнал, что полиция так и не получила оригинальное видео с вейпингом. Вместо этого, как и то, что было показано на NBC Information, полиция имела доступ только к записи мобильного телефона, сделанной Spone, видео вейпинга, воспроизводимого на отдельном устройстве. Следовательно, любой анализ метаданных не сможет включить информацию об исходном видео.

В ответ на вопросы о том, как можно было определить, что кадры вейпинга были обработаны без доступа к исходному видео, Рейсс утверждал, что мог видеть «невооруженным глазом» элементы, которые «не имеют смысла».

«Источник, откуда миссис Споун взяла это видео, все еще остается под вопросом, – сказал Рейсс. «И мы надеемся, что миссис Споун в ходе предварительного слушания или судебного разбирательства разъяснит нам, каковы ее источник и намерения».

Рейсс окончательно заявил, что «искусственный интеллект был использовано »на фотографиях, из-за которых несколько чирлидерш выглядели обнаженными, что соответствовало современным технологиям, предназначенным именно для этого. Но существование этих измененных фотографий, в дополнение к отрицанию предполагаемой жертвы в отношении ее явного включения в видео с вейпингом, кажется, является всей основой для убеждения, что кадры были подтасованы, даже несмотря на то, что до сих пор нет никаких технических доказательств, подтверждающих

Слово «дипфейк», упомянутое в обвинительных документах, похоже, стало универсальным термином среди полиции, окружной прокуратуры и средств массовой информации при обсуждении любых и весь цифровой контент, связанный с инцидентом.

Следующее судебное заседание по делу Spone назначено на май 14, где Рейсс говорит, что дополнительная информация о расследовании будет обнародована.

Хотя новые доказательства могут изменить дело, мнение о том, что полиция может неправильно ссылаться на подлинное видео как на подделку, не выходит за рамки возможного.

Что еще более проблематично, похоже, что никакие средства массовой информации не пытались проверить, что кадры вейпинга на самом деле были дипфейком, прежде чем транслировать заявление миллионам американцев.

Возможная ошибка со стороны СМИ. , и вероятность того, что система уголовного правосудия может неправильно применить законы против видео, ошибочно трактуемых как дипфейки, – вот что больше всего беспокоит экспертов.

«Хотя страшно, если это не дипфейк», – добавил Шамук. . «Это может быть началом того, что люди смогут дискредитировать реальные доказательства, просто сказав« дипфейк »».

Помимо вейпинга, другие обвинения против Spone, если они правдивы, по-прежнему чреваты и жжение. Но последствия судебного дела против нее, даже если они частично зависят от неточной информации, могут иметь опасные разветвления в мире манипулируемых (и неманипулируемых) СМИ.


На этой неделе лучшие истории о технологиях

Leave a comment

Your email address will not be published. Required fields are marked *

5 − 2 =