Рубрики НовостиИИ

Компания Deloitte наконсультировала правительство Австралии на $290 000 с "галлюцинациями" ИИ и должна вернуть деньги

Опубликовал Андрій Русанов

Международная консалтинговая фирма Deloitte частично возместила правительству Австралии убытки из-за отчета стоимостью 440 000 австралийских долларов (около $290 000). Он содержал вымышленные данные и другие следы ИИ.

Вероятно, заказчик услуги стоимостью в сотни тысяч ожидал более тщательной и профессиональной работы. Сенатор от Лейбористской партии Дебора О’Нил, которая участвовала в сенатском расследовании, говорит, что компания имеет «проблему с человеческим интеллектом». Департамент занятости и трудовых отношений (DEWR) подтвердил, что Deloitte вернет последний взнос по своему контракту. В декабре 2024 года ведомство поручило фирме пересмотреть системы автоматизации штрафов социального обеспечения в случае невыполнения обязательств соискателями работы.

«У Deloitte проблема с человеческим интеллектом. Это было бы смешно, если бы не было так обидно. Частичное возмещение кажется частичным извинением за некачественную работу. Любой, кто хочет заключить контракт с этими фирмами, должен спросить, кто именно выполняет работу, за которую они платят, и должна ли быть проверена эта экспертиза на отсутствие использования искусственного интеллекта Возможно, вместо крупной консалтинговой фирмы, закупщикам было бы лучше оформить подписку на ChatGPT«, — отметила О’Нил.

Отчет впервые был опубликован 4 июля. На прошлой неделе его заново загрузили на сайт DEWR после того, как в августе издание Australian Financial Review сообщило об обнаружении многочисленных ошибок, в том числе ложных ссылок и цитат. Доктор Кристофер Радж из Сиднейского университета первым обратил внимание на ошибки. Он заявил, что отчет содержит «галлюцинации» в результате заполнения моделью искусственного интеллекта пробелов в знаниях, неверные интерпретации и просто вымышленные утверждения.

«Вместо того, чтобы просто заменить одну галлюцинационную фальшивую ссылку на настоящую ссылку, они снова добавили фальшивые ссылки, и в новой версии их около десяти. Это свидетельствует, что первоначальное утверждение, высказанное в основной части отчета, не основывалось ни на одном конкретном доказательном источнике», — говорит профессор.

Представитель DEWR высказался более мягко относительно новой версии отчета. По его словам, речь идет о небольших исправлениях.

«Компания Deloitte провела независимую проверку и подтвердила, что некоторые сноски и ссылки были неправильными. Суть независимого обзора сохраняется, его рекомендации не меняются».

В обновленном отчете Deloitte добавила ссылку на использование генеративного ИИ. Компания отмечает, что часть отчета «включала использование цепочки инструментов на основе большой языковой модели генеративного искусственного интеллекта (ИИ) (Azure OpenAI GPT — 4o), лицензированного DEWR и размещенного на арендованной платформе Azure DEWR».

Источник: The Guardian

Контент сайту призначений для осіб віком від 21 року. Переглядаючи матеріали, ви підтверджуєте свою відповідність віковим обмеженням.

Cуб'єкт у сфері онлайн-медіа; ідентифікатор медіа - R40-06029.