Китай розробив правила для ШІ-ботів: контент повинен відображати соціалістичні цінності, не підривати владу та не містити «хибної інформації»

Китайський регулятор опублікував проєкт правил розробки генеративних моделей штучного інтелекту. Проєкт Адміністрації кіберпростору Китаю (CAC) продиктований зусиллями великих технологічних компаній країни з розробки програмних продуктів, аналогічних ChatGPT та можливої ​​політичної чутливості контенту, що генерується.

У проєкт CAC викладено основні правила, яким повинні дотримуватися сервіси генеративного ШІ, включаючи характеристики контенту, що генерується.

«Контент, який створюється генеративним штучним інтелектом, має втілювати основні соціалістичні цінності та не повинен містити матеріалів, що підривають державну владу, пропагують повалення соціалістичної системи, що підбурюють до розколу країни або підривають національну єдність», — йдеться у правилах.

Постачальники повинні будуть надавати свої продукти державі для перевірки до їхнього публічного випуску, вестиметься база даних для їх реєстрації. Регулятор також заявив, що платформи повинні перевіряти особу користувачів, дозволяючи відстежувати використання.

Компаніям необхідно переконатися, що дані, що використовуються для навчання ШІ, не дискримінуватимуть людей за такими ознаками, як етнічна приналежність, раса та стать. Також ШІ не повинні генерувати неправдиву інформацію (цікаві критерії цього у Китаї – ред.).

Правила, які мають набути чинності наприкінці цього року, працюватимуть спільно з іншим законодавством Китаю щодо захисту даних та розробки алгоритмів.

Наскільки розумні китайські чат-боти?

Протягом останніх кількох тижнів китайські технологічні гіганти представили власні. Вчора Alibaba розповіла про Tongyi Qianwen, генеративний ШІ, котрий майданчик електронної комерції планує інтегрувати у різні сервіси. Торік Baidu запустила тестування моделі Ernie Bot.

CEO Alibaba Деніел Чжан заявив, що бот Tongyi Qianwen (назва приблизно перекладається як «правда з тисячі питань»), буде включений до інструменту спільної роботи робочого місця DingTalk та розумні колонки Tmall Genie, пізніше очікується його інтеграція в інші продукти компанії.

Минулого місяця Baidu представила чат-бот Ernie, який отримав неоднозначні відгуки. Користувачі відзначили, що він може створювати яскраві зображення, але має проблеми з базовою логікою і він не може писати код, як GPT-4 від OpenAI.

Чат-бот Tongyi був відкритий для тестування корпоративними клієнтами минулої п’ятниці. Ранні відгуки показали, що ШІ може писати вірші китайською та французькою мовами та вирішувати основні математичні завдання, але має труднощі з логікою.

• Коли один із користувачів запитав Tongyi, як смажити залізобетон, щоб приготувати смачну страву, бот запропонував рецепт, відповідно до якого бетон потрібно було нарізати дрібними шматочками. Ernie від Baidu радив користувачам змішувати бетон із часником, цибулею та перцем, зазначивши, що бетон – «особливий інгредієнт з унікальною текстурою». ChatGPT поставили те саме питання – він сказав, що не розуміє запиту і що бетон не є їстівним.

Інші китайські тести показали, що Ernie і Tongyi вигадують факти про вигаданих людей. Це порушує правило CAC щодо надання неправдивої інформації.

Джерела: CNBC, Ars Techica, Financial Times