Яблосрач между тем не утихает, и можно к нему вернуться еще разок. Как вы помните, Apple собирается искать CSAM (материалы сексуального насилия над детьми) прямо на устройствах пользователей. Каждый человек имеет право скрыть тот факт, что он стал жертвой преступления (особенно сексуального), и распространение детской порнографии приводит к ревиктимизации жертв насилия. Почему-то при слове "дети" многие сразу забывают о том, что распространение и хранение CP - преступление против прайвеси, а не против личности. За растление полагаются совсем другие статьи.
В Штатах поиском цопе занимается NCMEC (национальный центр по проблемам пропаших детей и детей подвергшихся эксплуатации), это не правительственная организация, с которой сотрудничают в том числе технологические компании. Как любезно мне подсказывает пенетенциарная служба США, в год выносится около полутора тысяч приговоров, связанных с детской порнографией (0.0004% к населению), ~10% - получение цопе, 45% - хранение, остальное - траффикинг. Найти количество настоящих педофилов мне к сожалению не удалось. Фейсбук в своем отчете добавляет, что в трех четвертях случаев речь идет о нормальных отношениях среди подростков, о шутниках, о людях, у которых цопе вызывает отвращение, включая и тех, кто жалуется на цопе. Оставшаяся четверть тоже весьма неоднородна. Тем не менее, каждый случай отправляется в NCMEC независимо от намерений или контекста.
Вернемся к Apple. Несмотря на заявления компании "все что есть в вашем айфоне - остается в вашем айфоне", Apple не считает "чувствительной" информацией: бэкапы, контакты, "find my device", iCloud-диск, сообщения, заметки без паролей, фотографии, голосовые заметки и почту. Под давлением ФБР Apple отказались от сквозного шифрования в iCloud и ослабил механизмы приватности для пользователей в России и Китае. Так же они участвовали в секретной программе АНБ PRISM. Поэтому я пользуюсь паролями вместо биометрии и сразу отключаю iCloud. В iCloud и в Фейсбуке сканирование контента уже работает и уже отправляется в NCMEC, но теперь они перенесли проверку на устройства пользователей, и единственная тому причина - посмотреть, что происходит с того конца, при шифровании "из конца в конец" (E2E). Свое облако они уже сканируют.
Как точно сформулировала Сара Льюис, любое шифрование задумывалось как сквозное, от меня к вам, а не от меня к вам и сотрудникам Apple, NCMEC, ФБР и АНБ. Даже сама возможность слежки заставляет людей менять свое поведение (хорошо изученный chilling effect). Я как-то сел в поезд на маленькой станции посреди Европы с полностью разряженным телефоном и только тогда почувствовал себя по-настоящему спокойно, когда никто не знает где я, кто я, и никому кроме кондуктора до меня нет дела. Оплата наличными. Очень яркое чувство.
Как Apple собирается сканировать пользовательский контент и сохранять иллюзию приватности? NCMEC из своей базы детской порнографии (представляете, что будет если туда заберутся вымогатели из REvil или ГРУ РФ?) генерирует перцептивные хеши. В отличии от криптографических хеш-функций они специально сделаны так, чтобы получались коллизии, когда у двух картинок одинаковый хеш (своего рода "отпечаток картинки") Похожие картинки должны быть похожи. Чтобы пользователь не узнал какой из хешей совпал с его фотоальбомом, база распространяется в виде фильтра Блума. "Программисты любят такие структуры, не зная где их применить, все остальное - ложно-позитивное срабатывание" (с) М. Грин