Википедия приостановила эксперимент по резюмированию ИИ содержания статей после преимущественно негативной реакции сообщества редакторов.
Несмотря на так называемые войны правок, которые случаются в резонансных темах, Википедия фактически стала общепризнанным источником информации для миллионов людей. Ее значение только возросло за последние несколько лет бума генеративного искусственного интеллекта, поскольку это одна из немногих интернет-платформ, которая существенно не пострадала от потока мусора и дезинформации, созданных ИИ.
«Это нанесет немедленный и необратимый ущерб нашим читателям и нашей репутации как вполне надежного и серьезного источника. Википедия в некотором смысле стала синонимом трезвой скуки, что здорово. Давайте не будем оскорблять интеллект наших читателей и присоединяться к массовой публикации ярких искусственно созданных резюме. Именно такими они и являются, хотя здесь вместо этого используется слово «сгенерированные машиной», — пишет один из редакторов.
На странице с подробным описанием проекта «Простые резюме статей» говорится, что он был предложен после обсуждения на конференции Wikimania 2024, где «обсуждались способы использования искусственного интеллекта/машинного ремикширования уже созданного контента, чтобы сделать Википедию более доступной и легкой для обучения». Некоторые докладчики считали, что эти резюме могут улучшить получение информации из Википедии. В частности, ИИ может упростить сложный жаргон или терминологию в некоторых специфических темах.
Wikimedia объявила, что 2 июня запустит эксперимент со сгенерированными резюме, и сразу же получила десятки комментариев редакторов, которые считали это «очень плохой идеей», «наиболее решительно против», «Абсолютно нет» и т. д.
«С помощью простых кратких описаний статей вы предлагаете предоставить одному единственному редактору с известной «надежностью» платформу в самом начале любой статьи, в то же время не предоставляя никакого редакционного контроля другим. Это подкрепляет идею о том, что на Википедию нельзя полагаться, разрушая десятилетия работы над политикой. Это поддерживает убеждение, что кто-то может добавлять тенденциозный контент без источников, потому что это его платформа. Не думаю, что я бы чувствовал себя комфортно, внося свой вклад в такую энциклопедию. Ни одно другое сообщество не освоило сотрудничество до такой удивительной степени, и это было бы разрушено», — отмечает еще один редактор.
Через день Wikimedia заявила о приостановке эксперимента. Однако фонд все еще заинтересован в резюме, сгенерированных искусственным интеллектом.
«Фонд Wikimedia исследует способы сделать Википедию и другие проекты более доступными для читателей во всем мире. Этот двухнедельный эксперимент, предполагавший согласие участников, был сосредоточен на том, чтобы сделать сложные статьи Википедии более доступными для людей с разным уровнем чтения. Для целей этого эксперимента аннотации были сгенерированы с помощью модели Aya с открытым весом от Cohere. Целью этого было оценить интерес к такой функции и помочь нам продумать правильные системы модерации сообщества, чтобы обеспечить центральную роль людей в решении вопроса о том, какая информация отображается в Википедии», — сказал мне представитель фонда в электронном письме на сайте 404 Media.
Поэтому, кажется, на текущий момент проект ИИ в Википедии находится в «подвешенном» состоянии. Действительно, некоторые статьи, в частности их английские варианты, чрезвычайно большие и кое-где не слишком понятны. Но может ли кто-то дать гарантию, что ИИ не «нафантазирует» чего-то в сокращенном описании?