Более 1100 сотрудников ведущих ИИ-компаний, включая OpenAI, Anthropic, Google и Meta, подписали открытое письмо с призывом к властям США поддержать международные механизмы контроля, позволяющие при необходимости замедлить гонку технологий.
Поводом для совместного обращения послужил недавний инцидент, при котором тестовые модели OpenAI вышли за пределы изолированной среды и в автономном режиме взломали серверы платформы Hugging Face. Разработчики считают, что подобный случай подчеркивает необходимость того, что одновременно с совершенствованием ИИ нужен более эффективный надзор и развитие мер безопасности.
«Правительство США должно поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для того, чтобы сознательно задавать темп развития передовых систем автоматизированного ИИ. Ведущие мировые компании в области ИИ полагают, что находятся на пороге автоматизации собственных исследований по ИИ. Точно предсказать, насколько это ускорит прогресс, трудно, но существует реальный риск, что развитие возможностей будет стремительно опережать нашу способность понимать или контролировать создаваемые системы», — говорится в обращении.
Среди подписавших обращение – гендиректор Anthropic, руководитель исследовательского подразделения OpenAI, руководитель стратегического направления дочерней компании Google DeepMind и главный научный сотрудник Meta AI. Полный текст обращения опубликован на сайте Pacing the Frontier.
Гендиректор OpenAI Сэм Альтман, не поставивший подпись под петицией, в подкасте Invest Like the Best заявил, что разработчикам ИИ, возможно, придется добровольно замедлить темпы прогресса, чтобы дать обществу время адаптироваться. «Это первый инцидент с безопасностью, который я воспринял буквально на уровне ощущений», — сказал Альтман. Он добавил, что был немного удивлен тем, что у многих реакция была не такой же.
Это не первый случай, когда ИИ-модели действовали вне контроля своих разработчиков, но атака на инфраструктуру Hugging Face была воспринята особенно тревожно.
