Американские ученые нашли способ обмануть систему распознавания лиц
Разработан специальный принт для одежды, который делает человека "невидимым" для искусственного интеллекта.
Специалисты Университета Мэриленда представили новую разработку для проверки нейросети на наличие уязвимостей, пишет Хайтек.
В процессе работы выяснилось, что принт с размытым изображением, нанесенный на свитер, может ввести в заблуждение модель машинного обучения. Таким образом, обладатель этой одежды становится недоступен для компьютерного распознавания.
Для этого технологи создали специальный состязательный паттерн на основе огромного массива обучающих изображений. Каждый раз, когда ИИ обнаруживал человека, данные изучали, чтобы понять, насколько шаблон затрудняет оценку объекта. В результате, «состязательный» паттерн изменили до такой степени, что он стал препятствовать распознаванию лиц.
Так им удалось обмануть нейросеть и добиться полностью некорректного результата ее работы. Изображение на свитере напоминает размытую картину импрессионистов, на которой люди покупают тыквы на рынке.
Во время тестирования алгоритма ученые смогли обмануть детектор YOLOv2 с помощью шаблона, основанного на наборе данных COCO - Common Objects in Context - большой базы изображений. Она состоит из 330 тыс. фотографий и иллюстраций.
В российском интернете появилась информация о возможных слежках за гражданами, покидающими страну, с помощью их смартфонов, а также поиске подлежащих мобилизации мужчин посредством видеонаблюдения и систем распознавания лиц. Специалисты объяснили, возможно ли это.
Севастопольские камеры видеонаблюдения оснащают функцией распознавания лиц. Видеоаналитику внедряют в программный комплекс «Безопасный город».
В Московском метро с марта запущена система Face Pay, которая позволит бесконтактно оплачивать проезд с помощью распознавания лица.