OpenAI надала вільний доступ до DALL-E 2 – щоб скористатися генератором зображень, тепер не потрібні запрошення, достатньо просто зареєструватися на сайті.
Компанія представила оригінальний DALL-E у січні 2021 року, і цей інструмент вразив як експертів зі штучного інтелекту, так і суспільство своєю здатністю перетворювати будь-який текстовий опис на унікальне зображення. З того часу було створено низку подібних платформ, що можуть змагатися за швидкістю та якістю з DALL-E. Більше того, деякі, такі як Midjourney і Stable Diffusion, є у відкритому доступі.
OpenAI, що отримала значне фінансування від технологічного гіганта Microsoft, завжди обережно ставилася до використання DALL-E. Експерти зазначають, що здатність систем перетворення тексту на зображення створювати оголені тіла та фотореалістичні зображення без згоди людини – потенційно небезпечна. Це може спричинити переслідування, також інструмент можуть використовувати для створення пропаганди, дезінформації та багато іншого. Крім того, оскільки системи перетворення тексту на зображення навчаються на великих наборах даних зображень, взятих з Інтернету, вони відтворюють нерівність. Наприклад, попросіть систему намалювати генерального директора, і вона зазвичай створить зображення білої людини.
OpenAI запровадила низку змін для боротьби з цими ефектами, у тому числі відфільтрувавши зображення сексуального характеру та насильства зі своїх навчальних даних та відмовилася генерувати зображення на основі дуже явних підказок.
We’ve removed the waitlist for DALL·E. Sign up and start creating immediately! https://t.co/TCVDl1iMeU
— OpenAI (@OpenAI) September 28, 2022
Емад Мостак, який допоміг розробити конкуруючу Stable Diffusion для перетворення тексту на зображення, писав, що для OpenAI було «ідіотським рішенням» не генерувати зображення зі слів “Україна” чи “Одеса”.
Apparently #DALLE still bans Ukraine as a prohibited word as I flagged before: https://t.co/QygiheMdcq
I’m sorry this is an asshole move.
Many of you have 🇺🇦 in your names to support the brave people there, please contact @OpenAI and tell them it is not right to erase a nation. https://t.co/KvqbUuoCY7— Emad (@EMostaque) June 27, 2022
Інші називали “халтурою” спроби компанії виправити упередженість. Наприклад, DALL-E непомітно вставляє такі фрази, як «Чорношкірий чоловік» та «Азіатська жінка» в підказки користувачам, які не вказують стать або етнічну приналежність, щоб відштовхнути систему від створення зображень білих людей. (OpenAI підтвердила, що використовує цей метод.) Це усуває упередженість у виведенні DALL-E, але деякі користувачі відзначають, що це також створює небажані образи, що не відповідають їхнім інструкціям.
There’s some evidence that’s basically how it works: simply tacking race or gender words to prompts before returning results. These are results for “a person holding a sign that says”:https://t.co/sH4WXIHpgqhttps://t.co/3KOpn6lT51
— Andy Baio (@waxpancake) July 18, 2022
У своєму блозі OpenAI заявила, що провела необхідні покращення в системі безпеки та задоволена ними. Це допоможе компенсувати потенційну шкоду, оскільки тепер нейромережа DALL-E стає доступнішою.
«Протягом останніх місяців ми робили наші фільтри більш надійними: щоб відхиляти спроби створення сексуального, насильницького та іншого контенту, що порушує нашу політику, та створювати нові методи виявлення та реагування, зупиняючи неправомірне використання», – йдеться у повідомленні компанії.
Компанія також заявила, що тестує API для DALL-E, який дозволить компаніям створювати свої власні програми та плагіни, використовуючи вихідні дані системи. Це значно б полегшило OpenAI комерціалізацію результатів DALL-E: потенційно вона б змогла комбінувати систему з інструментами, що використовують, наприклад, ілюстратори і дизайнери.
Будь-хто, хто зареєструється для доступу до DALL-E, отримає 50 безкоштовних кредитів, а потім ще по 15 безкоштовних кредитів щомісяця. Кожен кредит можна використовувати для створення одного зображення, варіанта зображення або функцій “inpainting” та “outpainting” (редагування вмісту зображення або розширення зображення за його існуючі межі). Додаткові кредити можна придбати блоками по 115 штук за 15 доларів. OpenAI повідомляє, що близько 1,5 мільйонів користувачів DALL-E щодня генерують понад 2 мільйони зображень.
Раніше в DALL-E 2 дозволили редагувати обличчя реальних людей, функцію довгий час було заблоковано через міркування безпеки.
Джерело: The Verge
Favbet Tech – це ІТ-компанія зі 100% українською ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологій та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців. IT-компанія входить у групу компаній FAVBET.