Немецкий художник и дизайнер Симон Векерт представил рубашку Digital Camouflage, рисунок которой способен затруднять автоматическое распознавание человека системами компьютерного зрения. На опубликованной демонстрации алгоритм выделяет зеленой рамкой окружающих пешеходов, но не всегда определяет человека в яркой рубашке как объект категории «person». При этом речь не идет о физической невидимости или гарантированной защите от всех камер: автор проекта прямо указывает, что эксперимент проводился с конкретной системой распознавания объектов и не доказывает возможность обмануть любую систему видеонаблюдения.
Проект получил название Digital Camouflage и разрабатывается Векертом с 2025 года. В основе рисунка лежит принцип так называемой состязательной атаки — adversarial attack. Это метод, при котором изображение или физический объект специально создается таким образом, чтобы алгоритм машинного обучения неверно интерпретировал визуальную информацию.
Для человека рубашка остается хорошо заметной благодаря насыщенным цветам и контрастному абстрактному рисунку. Однако система компьютерного зрения анализирует изображение иначе: она ищет статистические сочетания контуров, текстур, цветов и форм, которые модель во время обучения связывала с человеческой фигурой. По замыслу автора, рисунок на ткани создает для алгоритма набор визуальных сигналов, мешающих объединить голову, туловище и конечности в один объект.
На фотографии, распространяемой в социальных сетях, виден именно принцип работы такого эксперимента. Камера фиксирует всех находящихся в кадре людей, однако программа компьютерного зрения накладывает рамки распознавания не на каждого из них. Человек в центре изображения остается видимым для самой камеры и для зрителя, но используемый алгоритм не присваивает ему метку «person». Это принципиальная разница между отсутствием обнаружения конкретной моделью и реальной «невидимостью».
Для демонстрации Digital Camouflage использовалась открытая система обнаружения объектов семейства YOLO. Такие модели применяются для анализа изображений и видео в реальном времени и могут определять различные категории объектов, включая людей. Официальное описание проекта отдельно подчеркивает, что эксперимент не является проверкой эффективности рубашки против конкретной государственной или полицейской системы наблюдения.
Утверждения о том, что новая рубашка якобы способна сделать человека полностью невидимым для камер, поэтому являются упрощением. Даже успешное отсутствие распознавания человека одним детектором не означает, что другая система не сможет идентифицировать его по лицу, движениям, одежде, силуэту или другим данным. Результат также может зависеть от модели камеры, расстояния, угла съемки, освещения, движения и особенностей обработки видеопотока.
При этом сама идея не появилась впервые вместе с проектом Векерта. Исследователи уже несколько лет изучают физические состязательные примеры — специально созданные изображения и предметы, способные вызывать ошибки у нейросетей. В 2022 году исследовательская группа представила работу Adversarial Texture for Fooling Person Detectors in the Physical World, в которой описала текстуры для одежды, способные в экспериментальных условиях снижать эффективность систем обнаружения людей. В 2023 году другая работа той же исследовательской группы показала возможность создавать более похожие на обычную одежду текстуры для воздействия на несколько детекторов.
Одновременно исследования указывают на ограниченность подобных технологий. Одежда в реальных условиях меняет форму, мнется и выглядит по-разному в зависимости от положения человека и камеры. Поэтому результат, полученный в одном сценарии, нельзя автоматически переносить на другие модели и системы наблюдения. Сам Векерт также заявляет, что Digital Camouflage не является средством гарантированной анонимности и не позиционируется как инструмент обхода правоохранительных органов.
Проект связан с дискуссией о расширении автоматизированного видеонаблюдения в общественных пространствах. Digital Camouflage был создан как художественный и технологический эксперимент, призванный обратить внимание на уязвимости алгоритмов, которые используются для автоматической классификации происходящего перед камерой. Векерт известен и другими проектами, посвященными влиянию цифровых технологий на городскую среду, включая эксперимент с десятками смартфонов, который ранее заставил Google Maps отобразить несуществующую автомобильную пробку.