Китайский регулятор опубликовал проект правил разработки генеративных моделей искусственного интеллекта. Проект Администрации киберпространства Китая (CAC) продиктован усилиями крупных технологических компаний страны по разработке программных продуктов, аналогичных ChatGPT и возможной политической чувствительностью генерируемого контента.
В проекте CAC изложены основные правила, которым должны следовать сервисы генеративного ИИ, включая характеристики генерируемого контента.
«Контент, создаваемый генеративным искусственным интеллектом, должен воплощать основные социалистические ценности и не должен содержать материалов, подрывающих государственную власть, пропагандирующих свержение социалистической системы, подстрекающих к расколу страны или подрывающих национальное единство», — говорится в правилах.
Поставщики должны будут предоставлять свои продукты государству для проверки до их публичного выпуска, будет вестись база данных для их регистрации. Регулятор также заявил, что платформы должны проверять личность пользователей, позволяя отслеживать использование.
Компаниям необходимо убедиться, что данные, используемые для обучения ИИ, не будут дискриминировать людей по таким признакам, как этническая принадлежность, раса и пол. Также ИИ не должны генерировать ложную информацию (интересны критерии этого в Китае – ред.).
Правила, которые должны вступить в силу в конце этого года, будут работать совместно с прочим законодательством Китая, касающимися защиты данных и разработки алгоритмов.
Насколько умны китайские чат-боты?
За прошедшие несколько недель китайские технологические гиганты представили свои модели искусственного интеллекта. Вчера Alibaba рассказала о Tongyi Qianwen, генеративном ИИ, который площадка электронной коммерции планирует интегрировать в различные сервисы. В прошлом месяце Baidu запустила тестирование модели Ernie Bot.
CEO Alibaba Дэниел Чжан заявил, что бот Tongyi Qianwen (название примерно переводится как «правда из тысячи вопросов»), будет включен в инструмент совместной работы рабочего места DingTalk и умные колонки Tmall Genie, позже последует его интеграция в другие продукты компании.
В прошлом месяце Baidu представила чат-бот Ernie, получивший неоднозначные отзывы. Пользователи отметили, что он может создавать яркие изображения, но у него проблемы с базовой логикой и он не может писать код, как GPT-4 от OpenAI.
Чат-бот Tongyi был открыт для тестирования корпоративными клиентами в прошлую пятницу. Ранние отзывы показали, что ИИ может писать стихи на китайском и французском языках и решать основные математические задачи, но испытывает трудности с логикой.
- Когда один из пользователей спросил Tongyi, как жарить железобетон, чтобы приготовить вкусное блюдо, бот предложил рецепт, в соответствии с которым бетон нужно было нарезать мелкими кусочками. Ernie от Baidu советовал пользователям смешивать бетон с чесноком, луком и перцем, отметив, что бетон – «особый ингредиент с уникальной текстурой». ChatGPT задали тот же вопрос – он сказал, что не понимает запроса и что бетон несъедобен.
Другие китайские пользовательские тесты показали, что Ernie и Tongyi выдумывают факты о несуществующих людях. Это нарушает правило CAC в части предоставления ложной информации.
Источники: CNBC, Ars Techica, Financial Times
Favbet Tech – это IT-компания со 100% украинской ДНК, которая создает совершенные сервисы для iGaming и Betting с использованием передовых технологий и предоставляет доступ к ним. Favbet Tech разрабатывает инновационное программное обеспечение через сложную многокомпонентную платформу, способную выдерживать огромные нагрузки и создавать уникальный опыт для игроков. IT-компания входит в группу компаний FAVBET.