Политические группы призывают Apple отказаться от наращивания возможностей слежения

Политическиегруппыпризываютappleотказатьсяотнаращиваниявозможностейслежения

Международная коалиция 2021 + организации гражданского общества объединились сегодня в открытое письмо в адрес Apple , в котором содержится призыв к компании отказаться от недавно объявленных планов по внедрению средств наблюдения в iPhone, iPad и другие продукты Apple.

5 августа 2021 , Apple объявила, что установит программное обеспечение для наблюдения, которое будет сканировать на устройстве сообщения и фотографии. Как поясняется в письме коалиции, хотя новые функции предназначены для защиты детей и сокращения распространения материалов о сексуальном насилии над детьми (CSAM), они создадут новые риски для детей и могут быть использованы для цензуры высказываний и создания угрозы неприкосновенности частной жизни и безопасности людей. вокруг света.

Особенно:

  • Функция сканирования и оповещения в Сообщениях может привести к оповещениям, которые угрожают безопасности и благополучию некоторых молодых людей, и молодые люди ЛГБТК + с неблагожелательными родителями особенно подвержены риску.
  • После того, как сканирование хэшей CSAM для фотографий будет встроено в продукты Apple, компания столкнется с огромным давлением и, возможно, юридическими требованиями со стороны правительств по всему миру, чтобы сканировать все виды изображений, которые правительства считают неугодными.

Размах международной коалиции, присоединившейся к письму, демонстрирует, насколько планы Apple открыть дверь угрозам правам человека во всем мире. Письмо было вставлено ниже, и также можно найти (+ полный список подписавших) здесь.

19 Август 2021

Тим Кук

Генеральный директор Apple, Inc.

Уважаемый мистер Кук:

Нижеподписавшиеся организации, приверженные гражданским правам, правам человека и цифровым правам во всем мире, обращаются к Apple с просьбой отказаться от планов, объявленных 5 августа 2021, чтобы встроить возможности наблюдения в iPhone, iPad и другие продукты Apple. Хотя эти возможности предназначены для защиты детей и сокращения распространения материалов о сексуальном насилии над детьми (CSAM), мы обеспокоены тем, что они будут использоваться для цензуры защищенной речи, угрожать конфиденциальности и безопасности людей во всем мире и иметь катастрофические последствия. для многих детей.

Apple объявила о развертывании алгоритма машинного обучения для сканирования изображений в своей службе обмена текстовыми сообщениями Messages с целью обнаружения материалов сексуального характера, отправленных или от людей, идентифицированных как дети по семейным счетам. Эта возможность наблюдения будет встроена прямо в устройства Apple. Когда алгоритм обнаруживает изображение откровенно сексуального характера, он предупреждает пользователя о том, что изображение может быть чувствительным. Он также отправляет уведомление организатору семейной учетной записи всякий раз, когда несовершеннолетний пользователь 19 выбирает для отправки или получения изображения.

Алгоритмы, предназначенные для обнаружения материалов откровенно сексуального характера, заведомо ненадежны. Они склонны ошибочно отмечать произведения искусства, информацию о здоровье, образовательные ресурсы, пропагандистские сообщения и другие изображения. Права детей на отправку и получение такой информации защищены Конвенцией ООН о правах ребенка. Более того, система, разработанная Apple, предполагает, что задействованные «родительская» и «дочерняя» учетные записи на самом деле принадлежат взрослому, который является родителем ребенка, и что эти люди поддерживают здоровые отношения. Это может быть не всегда; оскорбительный взрослый может быть организатором учетной записи, и последствия уведомления родителей могут угрожать безопасности и благополучию ребенка. В группе особого риска находятся молодые ЛГБТК +, состоящие на семейных счетах с неблагожелательными родителями. В результате этого изменения iMessages больше не будет обеспечивать конфиденциальность и неприкосновенность частной жизни для этих пользователей через систему сквозного зашифрованного обмена сообщениями, в которой только отправитель и предполагаемые получатели имеют доступ к отправленной информации. После того, как эта функция бэкдора будет встроена, правительства могут заставить Apple распространить уведомление на другие учетные записи и обнаруживать изображения, которые являются нежелательными по причинам, отличным от сексуального характера.

Apple также объявила, что встроит в операционную систему своих продуктов хэш-базу данных изображений CSAM, предоставленную Национальным центром пропавших без вести и эксплуатируемых детей в США и другими организациями, занимающимися безопасностью детей. Он будет сканировать по этой базе данных каждую фотографию, которую пользователи загружают в iCloud. Когда будет достигнуто заданное пороговое количество совпадений, учетная запись будет отключена, а пользователь и его изображения будут отправлены властям. Многие пользователи обычно загружают сделанные фотографии в iCloud. Для этих пользователей видеонаблюдение – это не то, от чего они могут отказаться; она будет встроена в их iPhone или другое устройство Apple, а также в их учетную запись iCloud.

Как только эта возможность будет встроена в продукты Apple, компания и ее конкуренты будут сталкиваются с огромным давлением – и, возможно, с юридическими требованиями – со стороны правительств по всему миру, чтобы они сканировали фотографии не только для CSAM, но и для других изображений, которые правительство считает нежелательными. Эти изображения могут быть нарушениями прав человека, политическими протестами, изображениями, которые компании помечают как «террористические» или насильственные экстремистские материалы, или даже нелестные изображения тех самых политиков, которые будут оказывать давление на компанию, чтобы они отсканировали их. И это давление может распространиться на все изображения, хранящиеся на устройстве, а не только на загруженные в iCloud. Таким образом, Apple заложит основу для цензуры, слежки и преследований на глобальном уровне.

Мы поддерживаем усилия по защите детей и твердо противостоим распространению CSAM. Но изменения, о которых объявила Apple, подвергают опасности детей и других пользователей как сейчас, так и в будущем. Мы призываем Apple отказаться от этих изменений и подтвердить приверженность компании защите своих пользователей с помощью сквозного шифрования. Мы также призываем Apple более регулярно консультироваться с группами гражданского общества и уязвимыми сообществами, на которые могут непропорционально сильно повлиять изменения в ее продуктах и ​​услугах.

Прочтите полное письмо и список подписавших здесь .

Прочтите пресс-релиз из этого письма здесь.

Больше из ответа CDT на объявление Apple здесь & здесь.

Недавний отчет CDT о модерации контента в системах с сквозным шифрованием здесь.