На пресконференції цього тижня щодо 12-мільярдного бюджетного дефіциту Нью-Йорка мер Зохран Мамдані заявив про ліквідацію ШІ-чатбота від попередньої адміністрації. Чатбот, який мав допомагати містянам, давав відверто неадекватні поради.
Чат-бот, який був запущений адміністрацією Еріка Адамса восени 2023 року, мав на меті надати власникам бізнесу зручний спосіб перевірки міських правил і норм. Але бот почав давати відповіді, які, якщо їх дотримуватися, призводили б до незаконних дій бізнесу, наприклад, до відбирання частини чайових у працівників. Прес-секретарка мера Дора Пекек підтвердила, що нова адміністрація планує прибрати чат-бота. Вона зазначила, що член команди переходу Мамдані бачив матеріали про бота і представив їх меру як можливе джерело економії коштів.
“Попередня адміністрація мала чат-бота ШІ, який був функціонально непридатний. Він коштував адміністрації близько півмільйона доларів. Саме по собі це не здатне закрити таку дірку, але це показник того, як витрачалися гроші, відмовляючись враховувати реальні витрати цих програм”, — сказав Мамдані.
Бот, створений із використанням хмарної платформи Microsoft, був частиною амбітного оновлення цифрових сервісів Нью-Йорка під назвою MyCity. Проєкт мав на меті спростити доступ до урядових послуг, але зазнав критики через залучення зовнішніх підрядників. Було невідомо, скільки коштує підтримка чат-бота, але лише створення основ бота, за повідомленнями, коштувало майже $600 тис., що близько до суми, названої Мамдані.
Тестування програми у 2024 році показало, що чат-бот впевнено надавав неправильну та потенційно шкідливу інформацію користувачам. Наприклад, у запитанні про житлову політику бот радив орендодавцям дискримінувати орендарів. Чатбот не знав мінімальної зарплати і повідомляв користувачам, що можна відмовлятися приймати готівку, незважаючи на міський закон.Після публікації першого матеріалу про чатбота читачі продовжували ставити йому іноді абсурдні запитання, на які він і надалі не давав правильних відповідей. Адміністрація Адамса захищала бота, заявляючи, що він покращуватиметься з часом.
“Ми визначаємо проблеми, будемо їх виправляти, і матимемо найкращу систему чат-ботів у світі. Люди приїдуть і подивляться, що ми робимо в Нью-Йорку”, — говорив свого часу Адамс на пресконференції.
Адміністратори міста невдовзі додали до бота застереження, що користувачам слід “не використовувати його відповіді як юридичну або професійну консультацію”. Також вони покращили деякі відповіді бота, але, схоже, обмежили типи запитань, на які бот готовий відповідати. Наразі бот радить користувачам “ставити лише запитання до уряду Нью-Йорка” і застерігає, що «відповіді іноді “можуть бути неточними або неповними”. Користувачі повинні погодитися з обмеженнями бота перед використанням.
Джерело: TheMarkUp.org
Повідомити про помилку
Текст, який буде надіслано нашим редакторам: