Вчера infocity сообщал о том, что компания Apple планирует искать запрещенные фотографии на устройствах пользователей с целью обнаружения изображений жестокого обращения с детьми. Об этом заявлял эксперт по вопросам криптографии и безопасности Мэтью Грин (Matthew Green).
Вчерашнее заявление эксперта подтвердилось. Компания Apple анонсировала новые функции безопасности детей. Среди остальных мер, есть и функция проверки в iOS и iPadOS галерей фотографий. Отмечается, что iOS и iPadOS будут использовать новые приложения криптографии, чтобы ограничить распространение материалов о сексуальном насилии над детьми (CSAM) в интернете. Обещается обеспечение конфиденциальности пользователей. При обнаружении незаконного контента Apple может предоставить правоохранительным органам информацию о коллекциях CSAM в iCloud Photos.
Apple поясняет, что она не получит доступ к изображениям, не содержащим запрещенных материалов. Кроме того, риск, что система ошибочно отметит учетную запись, как содержащую неправомерные материалы, чрезвычайно низок. Чтобы полностью исключить ошибки, специалисты Apple будут вручную проверять все отчеты системы. Пользователи не смогут получить доступ к базе данных изображений, содержащих сцены насилия над детьми и не смогут определить, какие изображения были помечены системой.
Новая технология в iOS и iPadOS позволит обнаруживать хранящиеся в iCloud Photos материалы, известные по базам правоохранительных органов CSAM. Это позволит компании сообщать об этих случаях в Национальный центр пропавших без вести и эксплуатируемых детей (NCMEC). Для этого система выполняет сопоставление фото на устройстве с использованием базы данных известных хэшей изображений CSAM, предоставленных NCMEC и другими организациями по безопасности детей.
Кроме того, приложение «Сообщения» будет использовать машинное обучение на устройстве, чтобы предупреждать о конфиденциальном контенте. Новые инструменты приложения «Сообщения» позволит предупреждать детей и их родителей о получении или отправке фотографий откровенно сексуального характера. При получении такого контента фотография будет размытой, ребенок получит предупреждение и ссылки на полезные в такой ситуации ресурсы. Ребенка предупредят, что если он просмотрит эту фотографию, то его родители получат оповещение. Аналогичные меры предпринимаются, если ребенок пытается отправить фотографии откровенно сексуального характера.
Siri и «Поиск» предоставит родителям и детям расширенную информацию и помочь в случае возникновения небезопасных ситуаций. Приложения также вмешаются, если пользователь пытается искать темы, связанные с материалами о сексуальном насилии над детьми.
Все эти функции станут доступны после выпуска iOS 15, iPadOS 15, watchOS 8 и macOS Monterey.
Apple также подтвердила, что не сможет сканировать изображения на устройствах пользователей, отключивших функцию iCloud Photos, поскольку отметки о сомнительном содержимом прикрепляются к копиям фотографий в облачном хранилище, а не к оригинальным изображениям.
