Глава OpenAI Сэм Альтман (Sam Altman) во время своей беседы с вице-председателем Федрезерва США Мишель Боуман (Michelle Bowman) заявил, что обеспокоен проблемой неправомерного применения систем искусственного интеллекта. Увеличится поток высококачественных подделок не только голоса, но и внешности любого человека, которые могут быть использованы в противозаконных целях.
В качестве примера Альтман приводит процедуру аутентификации клиента банка при помощи голоса и кодовой фразы. Если злоумышленники знают кодовую фразу, то им не составит труда сымитировать голос человека при помощи систем искусственного интеллекта, а затем отдать распоряжение о переводе денежных средств без ведома их реального собственника.
«ИИ полностью освоил все методы аутентификации, которые люди сейчас используют, кроме паролей. Сейчас это может быть голосовой вызов, вскоре это будет видео или видеозвонок, которые будут неотличимы от настоящих», — отметил Альтман.
Мошенники уже давно используют подделку голоса для манипуляций своими жертвами, а искусственный интеллект просто дает им более простой и эффективный инструмент. Постепенно осваивается и направление видеозвонков, в которых имитируется нужный образ, но подменяется содержание разговора. Жертвами подобных преступлений уже становятся известные личности, включая политиков и чиновников.
Альтман убежден, что скоро в руки мошенников попадут программные средства, позволяющие поставить фальсификацию личности на поток. В связи с этим, OpenAI пытается разработать более надежные способы биометрической аутентификации.
