Microsoft предложила бороться с дипфейками с помощью специального алгоритма

Корпорация Microsoft представила новую технологию для борьбы с дипфейками, которые могут использоваться для распространения дезинформации в сети Интернет, особенно в преддверии выборов президента США. Речь идёт об инструменте под названием Microsoft Video Authenticator, который использует специальный алгоритм для определения подлинности какого-либо фото или видео.

Представленная система способна проводить анализ фото- и видеоконтента для выявления случаев, когда исследуемые материалы обрабатывались с помощью ИИ-алгоритмов. Дипфейки представляют собой изображения или видео на которых после обработки демонстрируется то, чего не было на самом деле. Современные технологии позволяют создавать дипфейки, которые очень непросто отличить от реальных видео невооружённым глазом. Такие подделки могут использоваться злоумышленниками для распространения дезинформации, введения людей в заблуждение и манипуляции общественным мнением.

Система Microsoft Video Authenticator способна «выявлять границу смешения дипфейка с тонкими пикселями выцветания или серого цвета», которые крайне непросто заметить на глаз. Проще говоря, алгоритм выявляет границу, которая отделяет реальное видео от вмонтированного в него лица человека. Причём при обработке видео система может дать оценку подлинности для каждого отдельного кадра в режиме реального времени.

Стоит отметить, что Microsoft не намерена делать технологию общедоступной. На данном этапе Video Authenticator будет доступен в рамках инициативы Reality Defender 2020, фонда для организаций, участвующих в обеспечении демократического процесса, в том числе новостных агентств и политических кампаний. Важно и то, что представленная Microsoft система может быстро потерять актуальность, поскольку технологии создания дипфейков активно развиваются и постоянно совершенствуются.

Вместе с Video Authenticator компания Microsoft анонсировала отдельную систему, с помощью которой создатели контента смогут добавлять в отснятые материалы скрытый код, позволяющий легко отследить дальнейшие манипуляции с ним.

Источник