OpenAI оголосила про випуск нових версій GPT-3.5-turbo та GPT-4. Причому остання – отримує можливість виклику функцій, що дозволить розробникам описати функції програмування для великих мовних моделей, а вони надалі створять код для їх виконання.
Виклик функцій допоможе створити чатботів, які відповідатимуть на запитання, викликаючи зовнішні інструменти; перетворюватимуть природну мову в запити до бази даних і витягуватимуть структуровані дані з тексту.
Нова версія GPT-3.5-turbo отримає розширене контекстне вікно. Моделі з маленьким контекстним вікном (яке вимірюється в токенах або необроблених бітах тексту) мають тенденцію «забувати» зміст навіть нещодавніх розмов, що часто викликає проблеми. Оновлення отримує у 4 рази більше токенів (16 000) у порівнянні з попередньою версією GPT-3.5-turbo за вдвічі дорожчою ціною ($0,003 за 1000 вхідних токенів і $0,004 за 1000 вихідних токенів).
За словами OpenAI, модель може завантажувати близько 20 сторінок тексту за раз (компанія також тестує версію GPT-4 із контекстним вікном із 32 000 токенів, але лише в обмеженому випуску.)
Водночас OpenAI знижує ціни на попередні версії API своїх LLM: оригінальна GPT-3.5-turbo здешевшає на 25% – тобто розробники можуть використовувати модель за $0,0015 за 1000 вхідних токенів і $0,002 за 1000 вихідних токенів (що дорівнює приблизно $1 за 700 сторінок). А text-embedding-ada-002, одна з найпопулярніших моделей для вбудовування тексту від OpenAI, відтепер коштує $0,0001 за 1000 токенів, що на 75% нижче попередньої ціни.
Після випуску GPT-4 на початку березня OpenAI оголосила про здійснення поетапного оновлення вже існуючих моделей, замість створення нових з нуля. На нещодавній конференції Economic Times генеральний директор компанії Сем Альтман підтвердив, що OpenAI не займається навчанням GPT-5, оскільки перед запуском нової мовної моделі потрібно провести велику підготовчу роботу.