OpenAI объявила о выпуске новых версий GPT-3.5-turbo и GPT-4. Причем последняя получает возможность вызова функций, что позволит разработчикам описать функции программирования для больших языковых моделей, а они в дальнейшем создадут код для их выполнения.
Вызов функций поможет создать чат-боты, которые будут отвечать на вопросы, вызывая внешние инструменты; будут преобразовывать естественный язык в запросы в базу данных и будут извлекать структурированные данные из текста.
Новая версия GPT-3.5-turbo получит расширенное контекстное окно. Модели с маленьким контекстным окном (которое измеряется в токенах или необработанных битах текста) имеют тенденцию «забывать» содержание даже недавних разговоров, что часто вызывает проблемы. Обновление получает в 4 раза больше токенов (16 000) по сравнению с предыдущей версией GPT-3.5-turbo по вдвое более дорогой цене ($0,003 за 1000 входных токенов и $0,004 за 1000 выходных токенов).
По словам OpenAI, модель может загружать около 20 страниц текста за раз (компания также тестирует версию GPT-4 с контекстным окном из 32 000 токенов, но только в ограниченном выпуске.)
В то же время OpenAI снижает цены на предыдущие версии API своих LLM: оригинальная GPT-3.5-turbo подешевеет на 25% – то есть разработчики могут использовать модель за $0,0015 за 1000 входных токенов и $0,002 за 1000 выходных токенов (что составляет примерно $1 за 700 страниц). А text-embedding-ada-002, одна из самых популярных моделей для встраивания текста от OpenAI, теперь стоит $0,0001 за 1000 токенов, что на 75% ниже предыдущей цены.
После выпуска GPT-4 в начале марта OpenAI объявила об осуществлении поэтапного обновления уже существующих моделей вместо создания новых с нуля. На недавней конференции Economic Times генеральный директор компании Сэм Альтман подтвердил, что OpenAI не занимается обучением GPT-5, поскольку перед запуском новой языковой модели необходимо провести большую подготовительную работу.