Специалисты Facebook AI Research (FAIR) объявили о разработке новой технологии «деидентификации лиц». В отчете о работе отмечается, что новая технология способна вводить в заблуждение системы распознавания лиц, при этом для людей эти изменения не заметны.
Система деидентификации лиц
Система идентификации лиц повсеместно используется как в социальных сетях, так и в нашей повседневной жизни: например, некоторые станции метро снабжены камерами с такой функцией, чтобы устанавливать личности нарушителей. По данным специального проекта LENTA.RU, в Китае по этой технологии работают камеры на улице и в общественных местах. К тому же, в сети используются приложения, используемые для распознавания лиц.
По материалам портала Engadget от 9 марта 2019 года, Facebook прекратил сканировать лица пользователей, как это было раньше, и создал специальную функцию деидентификации. Сканирование лиц включается только по соглашению, которое можно установить в Настройках. После нововведения у людей есть возможность полностью отказаться от распознавания. Она основывается на технологии искусственного интеллекта, которая везде деидентифицирует лицо пользователя: от фотографий до видеороликов с его участием.
Как работает технология
Этот подход предполагает в программе наличие кода, который вносит едва заметные коррективы в изображение. То есть программа искусственно и незначительно исказит лицо, допустим, вас, вашего друга или знаменитости. Освещение, детали интерьера и цветовой ряд остаются без изменений. Обычный человек без труда узнает, кто изображен на фотографии или снят на видео, но системы распознавания лиц будут сбиты и не смогут провести идентификацию персоны.
По данным VentureBeat, данная система не требует отдельного обучения для редактирования лиц в каждом новом видеоролике. В рамках проведенного обучения и подготовки программы исследователи пытались обмануть системы распознавания лиц с помощью использования конкурентного автоэнкодера, который позволяет проводить «обучение без учителя». Именно за счет этой технологии программу не нужно переобучать для успешного применения к конкретным роликам.
Исследователь Facebook AI и профессор Тель-Авивского университета Лиор Вольф отмечает, что этот принцип также может лежать в основе маскировки голосовых сообщений или любой другой идентифицируемой информации.
Чем может быть полезна функция
Система деидентификации лиц полезна прежде всего для сохранения конфиденциальности пользователей, сохранности их данных в социальных сетях. Известны случаи со злоупотреблением технологиями распознавания лиц для создания провокационных роликов со знаменитостями. Один из самых знаменитых – вирусный ролик с Киану Ривз, который якобы останавливает ограбление банка. Он был создан с помощью технологии Deepfake, которая работает за счет соединения и наложения существующих изображений и видео на определенные фотографии или ролики.
Главная опасность в распознавании лиц заключается в том, что данная технология, получив толчок к развитию, часто используется не по назначению, ей злоупотребляют, что приводит к негативным последствиям или сказывается на репутации конкретного человека. В Facebook на ней базируются некоторые важные функции – например, приходит уведомление, если фотографию с вами выкладывает другой пользователь или какое-либо сообщество.
Последствия различных противоправных действий могут быть непредсказуемы. Системы деидентификации призваны прежде всего бороться со злоупотреблениями современными технологиями и предотвращать их использование с целью чьей-либо дискредитации, нарушения конфиденциальности информации.