В Австралии университет ошибочно обвинил сотни студентов в мошенничестве из-за искусственного интеллекта. «Нарушение» обнаружила система, которая… базировалась на ИИ.
Сотни студентов Австралийского католического университета (ACU) получили официальные письма с темой «Беспокойство относительно академической добропорядочности». Их обвинили в использовании ChatGPT или подобных инструментов ИИ при выполнении заданий. Одна из студенток Мадлен рассказала, что получила такое письмо, когда подавала заявку на аспирантуру после обучения на медсестру.
«И в дополнение к этому, я получала электронные письма от совета по вопросам академической неправомерности, в которых говорилось, что мне нужно написать объяснение, почему, по моему мнению, это могло произойти», — сказала Мадлен.
Обвинения университет выдвинул быстро, а вот исправлять ситуацию пришлось месяцами. Студентка «выбивала» право очистить свое имя в течение полугода. Вуз скрыл ее результаты обучения, а потому пострадала ее карьера. Женщине отказали в работе аспиранта.
«Тогда было очень трудно устроиться на работу медсестрой, потому что большинство мест требуют иметь год обучения в аспирантуре. Я не знала, что делать. Стоит ли мне вернуться к учебе? Стоит ли просто сдаться и заниматься чем-то, что не является медсестринством в больнице?» — вспоминает она.
Однако понятно, что история Мадлен — не единственная. В 2024 году ACU сообщил почти 6000 случаев подозрения на мошенничество, 90% из которых касались использования искусственного интеллекта. Хотя заместитель вице-канцлера Таня Бродли признала, что таких случаев стало больше, она назвала цифры «существенно завышенными».
Проблема в том, что университет опирался только на данные детектора ИИ от Turnitin — популярной системы проверки на плагиат. Сам Turnitin прямо отмечает, что его результаты «не должны использоваться как единственное основание для дисциплинарных действий». Однако руководство университета полностью полагалось только на Turnitin.
Каждый, кто хоть когда-то работал с текстами знает, что подобные системы ИИ односторонние и ненадежные. Например, полностью написанный от руки текст может отображаться как сгенерированный, пока созданный ИИ — как полностью оригинальный. Поэтому в свое время китайские студенты обходили подобные детекторы… искусственным интеллектом.
Студенты рассказали, что университет требовал от них доказательства невиновности — рукописные заметки, черновики и даже историю поиска в браузере. Последний пункт особенно абсурдный, потому что что делать, если постоянно удаляешь историю поиска? Или потерял доступ к своему предыдущему аккаунту и теперь пользуешься новым?
«Они не полиция. У них нет ордера на обыск, чтобы запрашивать вашу историю поиска. Но когда сталкиваешься с риском повторно сдавать предмет, ты просто делаешь то, что они хотят», — рассказал студент-парамедик, который также стал жертвой ошибки.
После года жалоб и критики университет отказался от использования детектора Turnitin в марте этого года. Около четверти всех обращений было отклонено после расследования. Любой случай, когда инструмент обнаружения на основе искусственного интеллекта Turnitin был единственным доказательством, был немедленно отклонен. Однако слова студентов говорят о другом — большинство расследований длились месяцами, а обвинения часто снимали только после серьезного давления со стороны пострадавших. Да и сами расследования тормозили, что вредило карьере юных медиков.
Источник: Futurism
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: