Корпорация IBM представила новую версию платформы AI OpenScale, о которой мы писали ранее, способную объяснять пользователям, как ИИ-модели приходят к своим выводам, и выявлять предвзятость решений, принимаемых искусственным интеллектом.
Согласно заявлению корпорации, AI OpenScale — важный инструмент современной работы с ИИ, потому что значительная часть предприятий просто не доверяет искусственному интеллекту, когда дело доходит до принятия наиболее важных решений. Основная проблема заключается в том, что пользователи не уверены в непредвзятости моделей и отсутствии системных ошибок. Кроме того, многих смущает проблема скрытой логики ИИ — им хотелось бы понимать, на основе каких данных модель пришла к этому выводу.
Вице-президент и директор лаборатории исследовательского центра IBM Research Almaden в Сан-Хосе пояснил, что предвзятость ИИ не всегда легко распознать. Платформа AI OpenScale предназначена для устранения проблемы системных ошибок с помощью алгоритмов, которые способны обнаруживать и исправлять их во всем спектре приложений ИИ, не прерывая их работы.
Платформа AI OpenScale постоянно отслеживает приложения ИИ и выявляет системные ошибки, которые имеют тенденцию накапливаться в моделях машинного обучения. Платформа регистрирует все прогнозы, версии модели и все данные обучения, а затем делает выводы на понятном пользователю языке.
AI OpenScale также помогает упростить развертывание ИИ-моделей и позволяет приложениям, созданным с использованием любой модели машинного обучения с открытым исходным кодом или модели глубокого обучения, работать в обычной среде. К ним относятся собственные платформы IBM Watson и PowerAI, среда с открытым исходным кодом Seldon, SageMaker от Amazon Web Services (AWS), Microsoft Azure и другие. Кроме того, платформа снабжена бета-функцией NeuNetS — механизмом синтеза нейронных сетей, который, по словам IBM, позволит предприятиям быстро создавать нейронные сети с нуля, сообщает tadviser.ru.
