Недавно Google представила API для распознания объектов на видео. Разработчики выпустят приложения на базе инструмента, а пользователи придумают им практические применения: быстро искать нужный фрагмент на видео с камер наблюдения, найти момент с голом в записи футбольного матча, отследить запрещённый контент. Но учёным из Вашингтонского университета уже удалось обмануть технологию. Для этого в видео о животных некоторые кадры были заменены на фотографии автомобилей Audi. Инструментарий определил, что на ролике изображены машины, а не звери, сообщает 4pda.ru.
Ранее эта же команда исследователей «сломала» AI-платформу для распознания комментариев с нарушениями правил сайта. Система не смогла справиться с текстом с опечатками и лишними знаками препинания. Профессор Раджа Пувендран заявил, что системы машинного обучения пока что подвержены атакам, но работа над ними важна для распространения искусственного интеллекта.
«Такая уязвимость API ставит под сомнение практичность платформы. Важно создать продукт, который работает, как заявлено в описании», — прокомментировал доктор университета Хуссейн Хуссейни.
