«Apple толкает нас в 1984 год»: как технология по защите детей может разрушить приватность

Компания Apple объявила о том, что запустит в США новую технологию для защиты детей от запрещенного контента на всех своих операционных системах — iOS, iPadOS, macOS и watchOS. Технология будет предупреждать родителей о получении и отправке снимков сексуального характера, а также фотографий с сексуальным насилием над детьми. Нейросеть будет сканировать даже Siri и «Поиск» на предмет запрещенного контента.

В компании объяснили, что таким образом хотят защитить детей от «хищников, которые используют средства коммуникации для привлечения и эксплуатации». Разбираемся в обновлениях более подробно и объясняем, почему эта инициатива вызвала массу критики в адрес Apple.

На всех операционных системах Apple в приложении «Сообщения» начнет использоваться машинное обучение для распознавания откровенного контента. Алгоритмы будут локально сканировать фотографии, при этом сама компания не сможет получить доступ к данным.

При получении откровенного изображения технология автоматически его размоет и предупредит ребенка о том, что он может не смотреть эту фотографию. Если ребенок решит посмотреть фото или же сам отправить запрещенный контент — его родители будут оповещены и получат доступ к нему.

Новые операционные системы будут бороться с распространением контента с сексуальным насилием над детьми (Child Sexual Abuse Material, CSAM). Apple сможет распознавать откровенные изображения еще до выгрузки в iCloud и передавать данные правоохранительным органам. В США компания будет отправлять отчеты в Национальный центр пропавших и эксплуатируемых детей (NCMEC), а организация будет работать в связке с полицией.

Сканирование фотографий в iCloud будет происходить с помощью машинного обучения — то есть приватно, поэтому к другим снимкам компания доступ не получит. Нейросети будут сопоставлять изображения из облачного хранилища с изображениями, предоставленными NCMEC и другими организациями по детской безопасности.

Результаты сравнения фотографий пользователя с базой снимков детской порнографии будут зашифрованы. Apple получит возможность расшифровать их только после определенного количества совпадений с базой — эта технология получила название Threshold Secret Sharing («порог секретности»). Каков будет этот порог, Apple не уточняет, но утверждает, что вероятность ошибки — один к триллиону.

С обновлением Siri и «Поиск» начнет предупреждать и обучать пользователей, как вести себя в «небезопасных ситуациях», например, если человек захочет найти информацию, связанную с CSAM. В таком случае система объяснит, что эта тема «болезненная» и предложит почитать о ней подробнее.

Также Siri начнет предоставлять детям и родителям информацию о том, как реагировать на сексуальное насилие и эксплуатацию детей. Если пользователь запросит у голосового помощника соответствующую информацию, то его направят на ресурсы, связанные с детской безопасностью.

• Специалисты кибербезопасности против. Доцент Института информационной безопасности Джонса Хопкинса, эксперт по криптографии и безопасности Мэтью Грин уверен, что в случае если Apple разрешит властям контролировать базу данных, то функцию могут начать использовать не только в целях безопасности, но и для массового подавления политической активности. Профессор техники обеспечения безопасности в Кембриджском университете Росс Андерсон назвал новую технологию «ужасной идеей» — по его мнению, она может привести к массовой слежке за девайсами граждан.

• Концепция идет вразрез со словами Apple о приоритете приватности. Ранее компания уже сканировала изображения на предмет жестокого обращения с детьми, однако имела доступ лишь к тем изображениям, которые были выгружены в облачное хранилище iCloud. Сейчас же система получит доступ к локальному хранилищу изображений. Правозащитная организация Electronic Frontier Foundation выступила с критикой в сторону Apple, назвав новую технологию бэкдором и предупредив, что компания открывает путь к дальнейшим нарушениям свободы пользователей.

• Apple превращается в «Большого брата». Грин также вспомнил антиутопию Джорджа Оруэлла и сравнил компанию с «Большим братом»: «Apple пересматривает свою позицию по приватности и толкает нас в 1984 год». По мнению эксперта, теперь правительства других стран будут требовать от Apple такой же меры для контроля над пользователями.

━━━━━

Никита Прунков