Вице-президент Apple поддержал проверку пользовательских фото на iPhone: перенаправить систему на иные цели невозможно

Крейг Федериги (Craig Federighi), старший вице-президент Apple по разработке программного обеспечения, в недавнем интервью Wall Street Journal выступил в защиту системы анализа пользовательских фото и рассказал о мерах по защите данной системы от возможных злоупотреблений.

Источник: apple.com

Господин Федериги уточнил, что на прошлой неделе были анонсированы два новых инструмента. Первый предназначен для идентификации незаконных детских изображений, сохраняемых в облачном пространстве, а второй позволяет родителям отслеживать, какие фото отправляют и получают их дети. По мнению вице-президента компании, Apple создала себе репутацию бренда, который защищает конфиденциальность пользователей. Производитель продолжает работать в данном направлении, и решения, связанные с защитой детей, никак не повлияют на ситуацию. При этом Apple и множество других компаний испытывают постоянное давление со стороны правительственных ведомств по всему миру, они всё настойчивее требуют создания решений для борьбы с детской порнографией. Компания разработала такое решение, но оно вызвало шквал критики со стороны коллег и рядовых пользователей.

Общественность обеспокоена тем, что технологии смогут использоваться в других целях, не имеющих ничего общего с защитой детей. Эти обвинения господин Федериги категорически отверг и заявил, что решение Apple защищено от подобных посягательств «несколькими уровнями контроля». Одна из внедряемых Apple систем предполагает уведомление профильного отдела компании в случае, когда какой-либо пользователь пытается загрузить в облачный сервис iCloud изображения жестокого обращения с детьми. В отличие от других облачных провайдеров Apple не проверяет материалы пользователя, сохранённые в удалённом хранилище. Вместо этого обработка производится прямо на iPhone, система локально сверяет загружаемые фото с имеющимися образцами.

Это значит, что если человек вообще ничего не выгружает в iCloud, то и Apple не получит никаких оповещений. Если же оповещений, связанных с конкретным пользователем, накапливается несколько десятков, сотрудники компании самостоятельно проводят необходимую экспертизу, и если подозрения подтверждаются, они уведомляют не силовые структуры, а Национальный центр пропавших без вести и эксплуатируемых детей (NCMEC) — эта некоммерческая организация выступает как центр обмена сообщениями о фактах жестокого обращения с детьми. При этом важно отметить, что никто из сотрудников при проверке не сможет получить доступ ко всей библиотеке фотографий пользователя.

Люди, которые выступили с критикой инициативы Apple, посчитали, что в качестве образцов в систему могут быть загружены фото, не имеющие никакого отношения к заявленной цели, чтобы анализировать, например, политическую активность. Но в ответ на это обвинение господин Федериги заявил, что база данных запрещённых изображений создаётся из различных источников, это не только NCMEC, но и другие профильные некоммерческие организации, причём как минимум две из них находятся в иностранных юрисдикциях. При этом фото добавляется в базу, если оно поступает из нескольких источников сразу. В дополнение к этому представители данных организаций и независимые специалисты будут проводить аудит базы данных запрещённых изображений.

Вице-президент Apple также напомнил, что компания внедряет ещё одну подобную функцию. Она позволит родителям защитить своих детей от получения или отправки изображений интимного характера через приложение iMessage. Когда система обнаруживает данный факт, родители получают соответствующее текстовое уведомление. При этом сама Apple никаких оповещений не получает.

Критику нововведений господин Федериги связал с тем, что компания анонсировала два этих инструмента одновременно, и участники дискуссии могли перепутать функции двух систем.

Источник