Илон Маск (Elon Musk), Стив Возняк (Steve Wozniak), а также более 1000 экспертов и руководителей отрасли по развитию искусственного интеллекта призвали на полгода приостановить обучение систем искусственного интеллекта более мощных, чем GPT-4, чтобы понять, как их контролировать. Если же такую паузу нельзя взять быстро, то «правительства должны вмешаться и ввести мораторий».
В открытом письме они предупредили о потенциальных рисках для общества — гонка в создании «мощных цифровых умов» грозит тем, что они заменят людей. Должны быть созданы, внедрены и проверены независимыми экспертами общие протоколы безопасности.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми», — говорится в документе, разработанном Институтом будущего жизни (Future of Life Institute).
Ранее, 27 марта, Европол предупредил о потенциальном неправомерном использовании таких передовых систем искусственного интеллекта, как ChatGPT в фишинге, дезинформации и киберпреступности.
В письме подчеркивается, что сегодня даже создатели «мощных цифровых умов» не в состоянии понимать их или надежно контролировать. При этом современные системы искусственного интеллекта уже становятся конкурентоспособными в решении общих задач, способны «наводнить информационные каналы пропагандой и неправдой» и заменить человека на важных рабочих местах.
«Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — задаются вопросами авторы письма.
Исполнительный директор OpenAI Сэм Альтман (Sam Altman), по данным представителя Future of Life, письмо не подписывал, а в самой компании отказались от комментариев. При этом сама OpenAI недавно заявила, что, прежде чем приступать к обучению будущих систем, следует согласиться ограничить скорость вычислений, используемых для создания новых моделей.
Напомним, что OpenAI представила новую версию языковой модели с генеративным искусственным интеллектом GPT-4 в марте этого года. На базе этой модели работает чат-бот ChatGPT, который демонстрирует производительность на уровне человека в различных профессиональных и академических тестах и способен отвечать почти на любые вопросы пользователей и писать тексты по заданию.
Следите за новостями в нашем Telegram-канале: https://t.me/infocity_az
