OpenAI надала вільний доступ до DALL-E 2 – щоб скористатися генератором зображень, тепер не потрібні запрошення, достатньо просто зареєструватися на сайті.
Компанія представила оригінальний DALL-E у січні 2021 року, і цей інструмент вразив як експертів зі штучного інтелекту, так і суспільство своєю здатністю перетворювати будь-який текстовий опис на унікальне зображення. З того часу було створено низку подібних платформ, що можуть змагатися за швидкістю та якістю з DALL-E. Більше того, деякі, такі як Midjourney і Stable Diffusion, є у відкритому доступі.
OpenAI, що отримала значне фінансування від технологічного гіганта Microsoft, завжди обережно ставилася до використання DALL-E. Експерти зазначають, що здатність систем перетворення тексту на зображення створювати оголені тіла та фотореалістичні зображення без згоди людини – потенційно небезпечна. Це може спричинити переслідування, також інструмент можуть використовувати для створення пропаганди, дезінформації та багато іншого. Крім того, оскільки системи перетворення тексту на зображення навчаються на великих наборах даних зображень, взятих з Інтернету, вони відтворюють нерівність. Наприклад, попросіть систему намалювати генерального директора, і вона зазвичай створить зображення білої людини.
OpenAI запровадила низку змін для боротьби з цими ефектами, у тому числі відфільтрувавши зображення сексуального характеру та насильства зі своїх навчальних даних та відмовилася генерувати зображення на основі дуже явних підказок.
Емад Мостак, який допоміг розробити конкуруючу Stable Diffusion для перетворення тексту на зображення, писав, що для OpenAI було «ідіотським рішенням» не генерувати зображення зі слів “Україна” чи “Одеса”.
Інші називали “халтурою” спроби компанії виправити упередженість. Наприклад, DALL-E непомітно вставляє такі фрази, як «Чорношкірий чоловік» та «Азіатська жінка» в підказки користувачам, які не вказують стать або етнічну приналежність, щоб відштовхнути систему від створення зображень білих людей. (OpenAI підтвердила, що використовує цей метод.) Це усуває упередженість у виведенні DALL-E, але деякі користувачі відзначають, що це також створює небажані образи, що не відповідають їхнім інструкціям.
У своєму блозі OpenAI заявила, що провела необхідні покращення в системі безпеки та задоволена ними. Це допоможе компенсувати потенційну шкоду, оскільки тепер нейромережа DALL-E стає доступнішою.
«Протягом останніх місяців ми робили наші фільтри більш надійними: щоб відхиляти спроби створення сексуального, насильницького та іншого контенту, що порушує нашу політику, та створювати нові методи виявлення та реагування, зупиняючи неправомірне використання», – йдеться у повідомленні компанії.
Компанія також заявила, що тестує API для DALL-E, який дозволить компаніям створювати свої власні програми та плагіни, використовуючи вихідні дані системи. Це значно б полегшило OpenAI комерціалізацію результатів DALL-E: потенційно вона б змогла комбінувати систему з інструментами, що використовують, наприклад, ілюстратори і дизайнери.
Будь-хто, хто зареєструється для доступу до DALL-E, отримає 50 безкоштовних кредитів, а потім ще по 15 безкоштовних кредитів щомісяця. Кожен кредит можна використовувати для створення одного зображення, варіанта зображення або функцій “inpainting” та “outpainting” (редагування вмісту зображення або розширення зображення за його існуючі межі). Додаткові кредити можна придбати блоками по 115 штук за 15 доларів. OpenAI повідомляє, що близько 1,5 мільйонів користувачів DALL-E щодня генерують понад 2 мільйони зображень.
Раніше в DALL-E 2 дозволили редагувати обличчя реальних людей, функцію довгий час було заблоковано через міркування безпеки.
Джерело: The Verge