Фальшивое лицо и голос - новые способности нейросетей
Насколько легко с помощью искусственного интеллекта подделать голос или создать лицо-отмычку? Технологии мошенничества.
Прогресс не стоит на месте, но помимо пользы нейронных сетей, совершенствуются и способы обмана доверчивых пользователей, рассказывает Naukatehnika.
Человеческий голос не уникален и искусственный интеллект может его в точности воспроизвести. К сожалению, иногда такой инструмент попадает в недобросовестные руки. К примеру, таким образом можно обойти систему аутентификации на основе голоса, которую используют некоторые банки, мобильные сервисы и цифровые домашние помощники. Не говоря уже о том, что можно обмануть обычного человека, дополняя традиционное мошенничество знакомым ему голосом.
Так, WSJ рассказал, что мошенники, пользуясь имитированным голосом главы немецкой компании, убедили его подчиненного перевести им 220 тыс. евро.
Насколько это сложно в технологическом плане, выяснила команда исследователей из Чикагского университета. Здесь нужно выполнить три условия – получить образец, с помощью программы имитировать речь и использовать ее в преступных целях.
Исследователи получили записи голосов 90 человек. Для создания ложных речей были использованы общедоступные алгоритмы SV2TTS и AutoVC. Исследователи попытались обмануть современные системы распознавания Resemblyzer и Microsoft Azure. В результате эксперимента увенчались успехом в 50-100% случаев.
Систему WeChat удалось обмануть в 9 из 14 случаев. А Amazon Alexa был одурачен всеми людьми. Также 200 добровольцев участвовали в опросе для выяснения способности человека отличить настоящий голос от поддельного. Результат – 50% точности.
Надежность систем аутентификации по чертам лица проверили ученые Тель-Авивского университета. Они разработали нейронную сеть StyleGAN, умеющую генерировать лица-отмычки для систем распознавания. Используя базу из общедоступных источников (более 13 тыс. лиц), они научили сеть создавать «обобщенные лица». Они были использованы в качестве отмычек, поскольку содержали основные общие черты лиц.
Затем исследователи проверили их в системах распознавания. Результаты оказались ошеломляющими – примерно в половине случаев это удалось.
Выводы этих исследований позволяют заявить о чрезвычайной ненадежности систем распознавания биометрических данных человека.
Ранее Первый Севастопольский рассказал, как нейросеть помогла ученым понять круговые движения коллективных животных.
