За день до увольнения Сэма Альтмана с должности генерального директора OpenAI несколько сотрудников компании написали письмо совету директоров, предупреждая о «создании искусственного интеллекта, который может угрожать человечеству». Об этом сообщает Reuters со ссылкой на два источника, знакомых с этим вопросом.
Компания OpenAI, которая отказалась от комментариев, во внутреннем сообщении сотрудникам признала наличие проекта под названием Q* (произносится как Q-Star), который может стать прорывом в области так называемого общего искусственного интеллекта (AGI), то есть автономной системы, превосходящей потенциал человеческого мозга в широком спектре задач.
Как сообщил источник, учитывая огромные вычислительные ресурсы, новая модель смогла решить некоторые математические задачи. Несмотря на то, что Q* пока способен решать задачи по математике уровня начальной школы, успешное выполнение таких тестов вселяет в исследователей большой оптимизм в отношении будущего успеха проекта.
В настоящее время генеративный ИИ хорошо умеет писать и переводить текст, статистически предсказывая следующее слово, и ответы на один и тот же вопрос могут сильно различаться. Но способность решать математические задачи «подразумевает, что ИИ имеет более широкие возможности рассуждения, что напоминает человеческий интеллект», пишет Reuters.
В своем письме совету директоров исследователи отметили мощь ИИ и потенциальную опасность. Сотрудники обеспокоены тем, что у OpenAI нет надлежащих мер безопасности для контролируемого развития и коммерциализации подобных моделей искусственного интеллекта.
Напомним, вчера стало известно, что Сэм Альтман вернется в компанию OpenAI в качестве генерального директора.
