OpenAI разрешила разработчикам интегрировать ChatGPT в сторонние приложения и сервисы через API. Компания создает Whisper, собственную модель преобразования речи в текст на базе ИИ, доступную для использования через API и вносит важные изменения в условия для разработчиков.
Компания заявляет, что API ChatGPT можно использовать не только для создания интерфейса чата на основе ИИ – ее новейшая разработка, GPT-3.5-turbo, станет «лучшей моделью для многих случаев использования, не связанных с чатом».
Похоже, что это не тот движок, который Microsoft использует в Bing и называет «новой моделью большого языка OpenAI следующего поколения, работающей еще быстрее, точнее и эффективнее», чем ChatGPT и GPT. 3.5. Учитывая, сколько денег компания вложила в OpenAI, неудивительно, что у нее есть доступ к технологиям, недоступным обычному разработчику. Microsoft также применяет в Bing и собственные технологии.
OpenAI предлагает 1000 токенов за $0,002 и утверждает, что это в 10 раз дешевле, чем использование существующие GPT-3.5 благодаря «серии общесистемных оптимизаций». Токены – это блоки, на которые система разбивает текст, чтобы предсказать, какой текст она должна вывести дальше. Отправка одного фрагмента текста для ответа в API может стоить несколько токенов. Компания предоставляет инструмент для проверки того, сколько токенов потребуется для интерпретации строки текста, и утверждает, что один токен на практике обычно соответствует примерно 4 символам на английском языке.
Разработчик также сможет получить выделенный «сервер» ChatGPT, если они обрабатывают очень большой объем данных. OpenAI обещает больше контроля над тем, какая модель ИИ используется, над временем работі бота и временем отдельного разговора с ним.
Также OpenAI также анонсировала еще один новый API для Whisper, «движка» преобразования речи в текст. Его можно использовать его для расшифровки или перевода аудио по цене $0,006 минуту. Модель Whisper имеет открытый исходный код, поэтому ею можно пользоваться бесплатно на собственном оборудовании.
Компания также заявила о некоторых изменениях политики, которые, по ее словам, основаны на отзывах разработчиков. OpenAI больше не будет использовать данные, отправленные через API, для обучения своих моделей, если только клиенты явно не одобрят такое использование. Другими словами, это переход от системы отказа к системе согласия. Изменение может помочь снять некоторые опасения по поводу ввода конфиденциальной информации во время диалога с ботом – опасаясь этого, ряд компаний ранее запретили сотрудникам использовать GhatGPT.
Кроме того, OpenAI работает над улучшением времени безотказной работы бота и называет своим главным приоритетом стабильность работы GPT в «производственной среде». В целом нововведения повышают привлекательность OpenAI в сравнении другими разработчиками технологий на основе ИИ.
Источник: The Verge