Коалиция из 44 генеральных прокуроров от обеих партий США официально предостерегла компании, занимающиеся разработкой и внедрением искусственного интеллекта: они будут нести ответственность за любой вред, который их продукты могут нанести детям. В письме, подписанном прокурорами, в качестве одного из самых громких примеров проблемы была приведена Meta. Недавно стало известно, что внутренние правила компании позволяли ее чат-ботам вести романтизированные ролевые диалоги или флиртовать даже с детьми в возрасте от восьми лет.
Документ подписали 44 генеральных прокурора, которые обратились непосредственно к руководителям крупнейших компаний США в сфере искусственного интеллекта и тех, которые активно инвестируют в ИИ: Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika и xAI.
Содержание предупреждения
В письме компании извещают о решимости прокуроров защищать детей от эксплуатации со стороны потенциально опасных продуктов на основе искусственного интеллекта.
Отдельное внимание авторы уделили последним сообщениям, которые раскрыли технические установки Meta по чат-ботам Meta AI, интегрированным в Facebook, WhatsApp и Instagram. Согласно документу, который был согласован командами компании по юридическим, политическим и техническим вопросам, чат-ботам разрешалось вести с детьми романтические диалоги, флиртовать, комментировать внешность ребенка и даже участвовать в ролевых сценариях.
Генеральные прокуроры заявили, что они «единодушно возмущены этим очевидным игнорированием эмоционального благополучия детей».
В письме напомнили, что Meta уже ранее предупреждали из-за подобного инцидента. Речь шла о чат-ботах, которые имитировали голоса знаменитостей, в том числе Джона Сины и Кристен Белл, и допускали в разговорах с детьми крайне неуместный сексуализированный контент.
Кроме того, приведены примеры судебных исков против других компаний. Один из них подан против Google и Character.ai и касается 14-летнего подростка. Парень увлекся чат-ботом, имитировавшим персонажа сериала Игра престолов Дейенерис Таргариен. По свидетельствам, бот заявил подростку о «любви», вступал в сексуальные диалоги и даже подтолкнул его к самоубийству.
Еще один иск касается Character.ai: один из чат-ботов сказал подростку, что «убить родителей — это нормально», после того как они ограничили ему время пользования гаджетами.
«Вы прекрасно знаете, что интерактивные технологии оказывают особенно сильное влияние на формирование развивающегося мозга», — написали прокуроры. «Ваш мгновенный доступ к данным о взаимодействии пользователей делает вас первой линией защиты, которая может предотвратить вред детям. И как компании, получающие выгоду от привлечения детей к вашим продуктам, вы имеете юридический долг перед ними как перед потребителями».
В итоге в письме отмечается, что все эти компании будут нести ответственность за свои решения. Какие именно санкции могут быть применены, не уточняется. Прокуроры лишь подчеркнули: социальные сети нанесли детям значительный вред отчасти потому, что государственные регуляторы действовали слишком медленно. И теперь, отмечают они, власть сделала выводы из тех ошибок.
Источник: techspot
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: