Компания OpenAI, на своей первой конференции для разработчиков, представила GPT-4 Turbo — улучшенную версию большой языковой модели GPT-4. Разработчики отмечают, что новая модель мощнее и в то же время дешевле, чем GPT-4.
Нейросеть GPT-4 Turbo прошла обучение с использованием информации, датированной апрелем 2023 года. Версия GPT-4, выпущенная в марте этого года, располагала данными до сентября 2021 года. На основе множества примеров из интернета GPT-4 Turbo обучилась прогнозировать вероятность появления тех или иных слов на основе шаблонов, включая семантический контекст окружающего текста. Например, если электронное письмо заканчивается фрагментом «С нетерпением жду…», GPT-4 Turbo может завершить его словами «… вашего ответа».
GPT-4 Turbo будет предлагаться в двух версиях: одна предназначена только для анализа текста, вторая — понимает контекст не только текста, но и изображений. Модель анализа текста доступна в виде предварительной версии через API, начиная с сегодняшнего дня. Обе версии нейросети OpenAI пообещала сделать общедоступными «в ближайшие недели».
Важное изменение связано с контекстным окном (количество текста, учитываемое в процессе генерации), оно было увеличено до 128 тыс. токенов, что в четыре раза больше, чем у GPT-4. Это эквивалентно 300 страницам текста в одном обращении, что позволяет языковой модели лучше понимать смысл запросов, выдавать наиболее соответствующие и продуманные ответы, не отклоняясь от темы. 300 страниц текста или примерно 100 тыс. слов равносильно размеру романов «Грозовой перевал» Эмили Бронте или «Гарри Поттер и узник Азкабана» Джоан Роулинг. Это самое большое контекстное окно среди всех коммерчески доступных моделей ИИ. Оно превосходит контекстное окно модели Claude 2 от Anthropic, которая поддерживает до 100 тыс. токенов.
«Мы оптимизировали производительность, поэтому можем предлагать GPT-4 Turbo по цене в три раза дешевле для входных токенов и в два раза дешевле для выходных токенов по сравнению с GPT-4», — сообщается в блоге OpenAI.
Стоимость использования GPT-4 Turbo составляет 0,01 доллара за 1000 входных токенов (около 750 слов) и 0,03 доллара за 1000 выходных токенов. Таким образом, новая версия GPT в три раза дешевле предыдущей. Цена на GPT-4 Turbo для обработки изображений будет зависеть от размера изображения. Например, обработка изображения размером 1080 × 1080 пикселей в GPT-4 Turbo будет стоить 0,00765 доллара.
Языковая модель принимает запросы по преобразованию текста в речь и запросы с использованием изображений, а также предлагает интеграцию с DALL-E 3. Компания заявляет, что улучшения GPT-4 Turbo позволяют модели выполнять более сложные задачи в одном запросе. Пользователи могут даже указать, какой язык кодирования использовать для получения результатов, например, XML или JSON.
OpenAI также заявила, что обеспечит защиту авторских прав корпоративным пользователям с помощью программы Copyright Shield. Ранее аналогичные решения приняли в Google и Microsoft для пользователей их ИИ-моделей.
«Мы теперь будем защищать наших клиентов и оплачивать понесенные расходы, если они столкнутся с юридическими претензиями о нарушении авторских прав», — сообщила компания в своем блоге.
Кроме того, OpenAI объявила об улучшениях GPT-4 и GPT-3.5, которые включают обновления информационной базы и расширенное контекстное окно.
