Китай готовится регулировать использование искусственного интеллекта, в частности чатботов, чтобы защитить пользователей от психологического вреда, зависимости и опасного поведения. Власти впервые предлагают обязать AI-сервисы вмешиваться в случаях упоминаний о самоубийстве, самоповреждении или насилии.
Кибер-администрация Китая обнародовала проект правил, которые будут регулировать все продукты и сервисы ИИ, публично доступные в стране. Документ распространяется на чатботов, в частности боты-компаньоны. Он обязывает компании предупреждать пользователей о рисках чрезмерного использования ИИ и вмешиваться в случаях формирования зависимости. ИИ-сервисам запретят распространять контент, угрожающий национальной безопасности или подстрекающий к насилию.
Самые жесткие требования касаются самоубийств и самоповреждений. Если в диалоге появляется упоминание о суициде, обязательным станет немедленное вмешательство человека. Все несовершеннолетние и пожилые пользователи при регистрации должны оставлять контактные данные опекуна, которого будут сообщать при обсуждении самоповреждения. Чатботам запретят эмоциональные манипуляции, ложные обещания, оскорбления, клевету, пропаганду азартных игр, непристойностей и подстрекательства к преступлениям. Также требуется показывать всплывающие предупреждения, если использование чатбота превышает два часа. По словами адъюнкт-профессора Школы права NYU Уинстона Ма, эти правила могут стать первой в мире попыткой регулирования ИИ.
Инициатива появилась на фоне растущего беспокойства о вреде от ИИ-компаньонов. В 2025 году исследователи фиксировали поощрение самоповреждения, насилия и терроризма, распространение опасной дезинформации, сексуальные домогательства, поощрение к употреблению наркотиков и словесные оскорбления. The Wall Street Journal сообщал, что психиатры все чаще связывают психозы с использованием чатботов. ChatGPT стал объектом судебных исков из-за ответовсвязанные с детским самоубийством и убийством-самоубийством; OpenAI признавала, что защитные механизмы ослабевают с продолжительностью чатa.
Помимо контентных ограничений, Китай предлагает ежегодные тесты и аудиты безопасности для сервисов с более 1 млн зарегистрированных пользователей или более 100 тыс. ежемесячно активных. Подачу жалоб планируют упростить. За нарушение правил магазинам приложений будут прекращать доступ к чатботам в Китае. По данным Business Research Insights, в 2025 году глобальный рынок ботов-компаньонов превысил $360 млрд и может приблизиться к $1 трлн к 2035 году, во многом благодаря азиатским рынкам. На этом фоне CEO OpenAI Сэм Альтман в начале 2025 года заявлял о готовности работать с Китаем и называл это важным.
Источник: CyberNews.com, ArsTechnica.com
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: