OpenAI дозволила розробникам інтегрувати ChatGPT в сторонні програми та послуги через API. Компанія також створює Whisper, власну модель перетворення усної мови на текст на базі ШІ, доступну для використання через API та вносить важливі зміни до умов для розробників.
Компанія заявляє, що API ChatGPT можна використовувати не тільки для створення інтерфейсу чату на основі ШІ – її новітня розробка, GPT-3.5-turbo, стане «найкращою моделлю для багатьох випадків використання, не пов’язаних із чатом».
Схоже, що це не той самий рушій, який Microsoft використовує в Bing та називає «новою моделлю великої мови OpenAI наступного покоління, що працює ще швидше, точніше та ефективніше», ніж ChatGPT та GPT. 3.5. Враховуючи, скільки грошей компанія вклала в OpenAI, не дивно, що вона має доступ до технологій, недоступних звичайному розробнику. Microsoft також застосовує у Bing власні технології.
OpenAI пропонує 1000 токенів за $0,002 і стверджує, що це у 10 разів дешевше, ніж використання наявного GPT-3.5 завдяки загальній системній оптимізації. Токени – це блоки, на які система розбиває текст, щоб передбачити, який текст вона має вивести далі. Надсилання одного фрагмента тексту для відповіді в API може коштувати кілька токенів. Компанія надає інструмент для перевірки того, скільки токенів потрібно для інтерпретації рядка тексту, і стверджує, що один токен практично відповідає приблизно 4 символам англійською мовою.
Розробник також зможе отримати виділений «сервер» ChatGPT, якщо він прагне обробляти дуже великий обсяг даних. OpenAI обіцяє більше контролю над тим, яка саме модель ШІ використовується, над часом роботи бота та часом окремої розмови з ним.
Також OpenAI також анонсувала ще один новий API для Whisper, рушія перетворення мови в текст. Його можна використовувати для розшифровки або перекладу аудіо за ціною $0,006 хвилину. Модель Whisper має відкритий вихідний код, тому нею можна скористатися безплатно на власному устаткуванні.
Компанія також заявила про деякі зміни політики, які, за її словами, ґрунтуються на відгуках розробників. OpenAI більше не використовуватиме дані, надіслані через API, для навчання своїх моделей, якщо тільки клієнти явно не схвалять таке використання. Іншими словами, це перехід від системи відмови до системи згоди. Зміна може допомогти зняти деякі побоювання щодо введення конфіденційної інформації під час діалогу з ботом – побоюючись цього, низка компаній раніше заборонили співробітникам використовувати GhatGPT.
Крім того, OpenAI працює над покращенням часу безвідмовної роботи бота і називає своїм пріоритетом стабільність роботи GPT у «виробничому середовищі». Загалом нововведення підвищують привабливість OpenAI у порівнянні іншими розробниками технологій на основі ШІ.
Джерело: The Verge