Новости Софт 09.06.2022 в 17:49 comment views icon

ИИ, натренированный на неполиткорректных материалах 4chan, публиковал расистские высказывания

author avatar
https://itc.ua/wp-content/uploads/2022/04/ad81c83e9fbf757ce8a90d0eb41dee5b-96x96.jpeg *** https://itc.ua/wp-content/uploads/2022/04/ad81c83e9fbf757ce8a90d0eb41dee5b-96x96.jpeg *** https://itc.ua/wp-content/uploads/2022/04/ad81c83e9fbf757ce8a90d0eb41dee5b-96x96.jpeg

Вадим Карпусь

Автор новостей

Автор YouTube-канала Yannic Kilcher рассказал о своём эксперименте в сфере обучения ИИ. Он тренировал языковую модель, используя контент за 3 года из раздела Politically Incorrect (Неполиткорректно) форума 4chan. Этот раздел печально известен проявлениями расизма и других форм фанатичных нелицеприятных высказываний.

Затем автор внедрил эту модель в 10 ботов и запустил их в форуме. И тем самым он породил волну ненависти. В течение 24 часов боты написали 15 тыс. сообщений, которые часто содержали расистский контент или взаимодействовали с ним. По словам автора, в тот день боты оставили более 10% сообщений в ветке Politically Incorrect (/pol/).

Модель под названием GPT-4chan научилась не только подбирать слова, используемые в сообщениях ветки /pol/, но учитывала общий тон, который, по словам Килчера, сочетал в себе «оскорбление, нигилизм, троллинг и глубокое недоверие». Создатель видео позаботился о том, чтобы обойти защиту 4chan от прокси и VPN, и даже использовал VPN, чтобы создать впечатление, что посты ботов исходят с Сейшельских островов.

ИИ допустил несколько ошибок, таких как публикация пустых сообщений. Но в то же время он был достаточно убедителен. Многим пользователям потребовалось около 2 дней, чтобы понять, что что-то не так. По словам Килчера, многие участники форума заметили только одного из ботов. Модель ИИ проявляла достаточную осторожность, чтобы люди обвиняли друг друга в том, что они боты, даже через несколько дней после того, как Килчер их деактивировал.

Автор охарактеризовал эксперимент как «розыгрыш», а не исследование. И он может служить в качестве напоминания, что обученный ИИ хорош настолько, насколько хорош исходный материал.

Курс English For Tech course від Enlgish4IT.
Лише 7 тижнів по 20-30 хвилин щоденного навчання допоможуть вам подолати комунікативні бар'єри. Отримайте знижку 10% за промокодом ITCENG.
Дійзнайтеся більше

Также следует отметить, что Килчер поделился своей работой. Он не хотел публиковать код бота, но поделился частично урезанной версией модели с репозиторием ИИ Hugging Face. Посетители могли воссоздать ИИ для зловредных целей, и администрация Hugging Face решила ограничить доступ к материалам в целях предосторожности. У проекта были явные этические проблемы, и сам Килчер сказал, что в будущем ему следует сосредоточиться на «гораздо более позитивной» работе.

Источник: Engadget

Продолжается конкурс авторов ИТС. Напиши статью о развитии игр, гейминг и игровые девайсы и выигрывай профессиональный игровой руль Logitech G923 Racing Wheel, или одну из низкопрофильных игровых клавиатур Logitech G815 LIGHTSYNC RGB Mechanical Gaming Keyboard!


Loading comments...

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: