На Форуме безопасности в Аспене (США) было объявлено о создании «Коалиции за безопасный искусственный интеллект» (CoSAI). Главными учредителями CoSAI являются Google, IBM, Intel, Microsoft, NVIDIA и PayPal. Среди дополнительных — Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI и Wiz.
CoSAI представляет собой инициативу с открытым исходным кодом, которая призвана предоставить всем разработчикам рекомендации и инструменты, необходимые для создания систем искусственного интеллекта Secure-by Design. Кроме того, CoSAI будет способствовать созданию экосистемы сотрудничества для обмена методологиями с открытым исходным кодом, стандартизированными структурами и инструментами.
CoSAI будет существовать в рамках «Организации по развитию стандартов структурированной информации» (OASIS), некоммерческой группы, которая способствует развитию открытых стандартов. Отмечается три основных направления деятельности: разработка эффективных практик обеспечения безопасности ИИ, решение общих проблем в области ИИ, а также безопасность приложений на базе искусственного интеллекта.
«Мы используем ИИ уже много лет и видим какую пользу он может приносить, но мы также признаем его возможности, которые могут быть интересны злоумышленникам. CoSAI призвана помочь малым и крупным организациям безопасно и ответственно интегрировать ИИ, использовать его преимущества в своих экосистемах и одновременно снизить все потенциально связанные с этим риски», — говорится в заявлении Хизер Адкинс (Heather Adkins), вице-президента Google по кибербезопасности.
