Президент США Дональд Трамп встретился с главами ведущих американских технологических компаний — Google, Anthropic, Meta, OpenAI, xAI, Nvidia и других. По итогам встречи было подписано соглашение о совместных обязательствах в сфере контроля над искусственным интеллектом. Документ под названием «Соглашение Белого дома о суперинтеллекте» был опубликован в соцсети Truth Social американского президента.
Трамп заявил, что соглашение имеет «моральную силу» и не подлежит принудительному исполнению в судебном порядке. Однако в документе прописано, что «со временем может возникнуть необходимость закрепить эти меры в законах или нормативных актах».
В документе говорится, что каждая компания несет ответственность за безопасную разработку технологий. Для этого разработчики «должны иметь надежные внутренние процессы и средства контроля, гарантирующие, что поведение их технологий соответствует задуманному и что любые проблемы будут оперативно выявляться и решаться».
Соглашение предусматривает четыре уровня контроля и аудита для компаний, создающих передовые ИИ-модели:
- Создание надежных внутренних механизмов контроля для мониторинга возможностей и соответствия своих моделей во время обучения и развертывания в таких областях, как кибербезопасность, биологические и химические угрозы, а также для гарантии того, что модели не будут взламывать технические системы;
- Обеспечение работы внутренней команды для гарантии того, что все механизмы контроля, мониторинга и обнаружения работают так, как задумано, и что любые проблемы оперативно устраняются;
- Привлечение независимого внешнего аудитора или оценщика для проведения независимых проверок того, работают ли механизмы контроля, мониторинга и обнаружения должным образом;
- Назначение независимого комитета при совете директоров, который будет следить за командами, управляющими механизмами контроля, получать отчеты от внутренних и внешних аудиторов и оценщиков и добиваться устранения выявленных проблем.
Также в документе указано, что компании будут регулярно встречаться для установления стандартов и лучших практик по повышению безопасности своих систем.
