Stability AI, компания, которая стоит за ИИ-генератором изображений Stable Diffusion, теперь открывает исходный код своей языковой модели StableLM.
Компания выпустила набор больших языковых моделей (LLM) с открытым кодом под общим названием StableLM и объявила, что они доступны разработчикам для использования и адаптации на GitHub.
Как и ChatGPT, StableLM разработана для эффективного создания текста и кода. Она обучена на наборе данных с открытым исходным кодом Pile, содержащим информацию из ряда источников, включая Wikipedia, сеть веб-сайтов для вопросов и ответов по разным темам Stack Exchange и систему для поиска биомедицинской информации PubMed.
Stability AI говорит, что модели StableLM пока доступны от 3 до 7 миллиардов параметров, и еще от 15 до 65 миллиардов появятся позже.
Компания опирается на свою миссию сделать ИИ-инструменты более доступными, как это было сделано со Stable Diffusion – инструмент для синтеза изображений был доступен в публичной демонстрации и бета-версии, а также предусмотрена возможность полной загрузки модели для экспериментов разработчиков.
Чат-бот Stability AI можно опробовать в демонстрации на Hugging Face. Stability AI предупреждает, что хотя наборы данных, которые он использует, направляют чат-бот на более «безопасное» распространение текста, «не все предвзятые или токсичные ответы можно смягчить путем тонкой настройки».
Источник: The Verge