Компания OpenAI представила обновленные версии языковых моделей GPT-3.5-turbo и GPT-4, а также снизила стоимость их использования.
Был добавлен инструмент, который позволяет разработчикам описывать программные функции естественным языком и получать полноценный код для их выполнения. Например, данный инструмент подходит для создания чат-ботов, которые отвечают на вопросы, вызывая внешние инструменты, преобразовывая естественный язык в запросы к базам данных и извлекая структурированные данные из текста. Обе модели могут определять, когда функция должна быть вызвана и отвечать в формате JSON. Нововведение также позволит разработчикам получать более точные и структурированные данные.
Модель GPR-3.5-turbo получила расширенное контекстное окно, благодаря чему нейросеть стала лучше понимать смысл запросов и выдавать более соответствующие им ответы, не отклоняясь от темы. GPR-3.5-turbo имеет контекстное окно в 16 тыс. токенов, что в четыре раза больше по сравнению с аналогичным показателем GPT-3.5. Кроме того, OpenAI сообщила, что тестирует модель GPT-4 с контекстным окном в 32 тыс. токенов.
Стоимость использования стандартной версии GPT-3.5-turbo (без расширенного контекстного окна) снижена на 25% до $0,0015 за 1 тыс. входных токенов и $0,002 за 1 тыс. выходных токенов, что соответствует примерно 700 страницам текста за $1. Стоимость использования модели text-embedding-ada-002, которая позволяет измерить сходство текстов, снижена на 75% до $0,0001 за 1 тыс. токенов.
Следите за новостями в нашем Telegram-канале: https://t.me/infocity_az
