Папа Римський Лев XIV / Depositphotos
В послании к 60-му Всемирному дню социальных коммуникаций от 24 января (день отмечается 17 мая) Папа Римский критиковал продукты искусственного интеллекта и дипфейки.
Лев XIV, который, как ранее сообщал ITC.ua, не чурается некоторых игр и фильмов и не далёкий от современной культуры, выразил негативное отношение к искусственно созданным или переделанным лицам и голосам — тому, что называют дипфейками. Вероятно, слова об этом отражают позицию католической церкви.
«Наши лица и голоса — это уникальные, отличительные черты каждого человека; они раскрывают собственную неповторимую идентичность человека и являются определяющими элементами каждой встречи с другими. […] Лица и голоса священны. Бог, создавший нас по своему образу и подобию, дал их нам, когда призвал нас к жизни через Слово, которое Он обратил к нам», — говорится в послании.
Голоса и лица — не единственное, что смущает Понтифика. Он видит проблему на более высоком уровне — как языковые и другие генеративные модели влияют на жизнь и общение.
«… Цифровые технологии угрожают радикально изменить некоторые фундаментальные основы человеческой цивилизации, которые порой воспринимаются как должное. Имитируя человеческие голоса и лица, мудрость и знания, сознание и ответственность, эмпатию и дружбу, системы, известные как искусственный интеллект, не только вмешиваются в информационные экосистемы, но и посягают на самый глубокий уровень коммуникации — человеческие отношения».
Папа Римский не призывает к отказу от ИИ, но он подчеркивает ответственное использование и осознание рисков.
«Защита лиц и голосов в конце концов означает защиту самих себя. Воспользоваться возможностями, которые предлагают цифровые технологии и искусственный интеллект, с мужеством, решительностью и благоразумием не означает закрывать глаза на критические проблемы, сложности и риски».
«Не отказывайся от своей способности мыслить» — отдельно подчеркивает Лев XIV.
Помехой этому глава Католической церкви видит не только ИИ, но и социальные сети. Точнее, их современную технологическую организацию, алгоритмы поощрения пользователей и подбора контента.
«Уже давно существует множество доказательств того, что алгоритмы, разработанные для максимизации привлечения в социальных сетях (что выгодно для платформ) вознаграждают быстрые эмоции и наказывают более трудоемкие человеческие реакции, такие как усилия, необходимые для понимания и рефлексии. Группируя людей в пузыри легкого консенсуса и легкого возмущения, эти алгоритмы уменьшают нашу способность слушать и критически мыслить, а также усиливают социальную поляризацию.»
Не осталась без внимания и проблема зависимости от ИИ. Послание раскрывает ее связь и снижением способностей человека.
«Ситуация еще больше усугубляется наивной и безоговорочной зависимостью от искусственного интеллекта как «друга», который знает все, источника всех знаний, архива всех воспоминаний, «оракула» всех советов. Все это может еще больше подорвать нашу способность аналитически и творчески мыслить, понимать значение и различать синтаксис и семантику. Хотя ИИ может оказывать поддержку и помощь в управлении задачами, связанными с коммуникацией, в конце концов, избежание усилий для самостоятельного мышления и удовлетворения искусственными статистическими компиляциями грозит снижением наших когнитивных, эмоциональных и коммуникативных навыков».
Слова, вынесенные в заголовок, касаются «творчества» ИИ. Генерация контента ворвалась почти во все творческие отрасли. Понтифик призывает быть осторожным с этим.
«В последние годы системы искусственного интеллекта все больше и больше контролируют производство текстов, музыки и видео. Это ставит значительную часть человеческой творческой индустрии под угрозу демонтажа и замены этикеткой «Работает на искусственном интеллекте», превращая людей в пассивных потребителей необдуманных мыслей и анонимных продуктов без права собственности или любви. Тем временем шедевры человеческого гения в области музыки, искусства и литературы сводятся к простым тренировочным площадкам для машин».
В довольно обширном послании Лев XIV также коснулся обманчивого очеловечивания ИИ, влияния на выбор, дезинформации и искажения реальности как результата этих процессов.
«Сила симуляции такова, что искусственный интеллект может даже обманывать нас, создавая параллельные «реальности», узурпируя наши лица и голоса. Мы погружены в мир многомерности, где становится все труднее отличить реальность от вымысла.»
Вспомнил Папа Римский и признание ИИ и его создателей «Человеком года 2025». Его беспокойство вызывает «олигополистический контроль» систем ИИ, который способен «незаметно влиять на поведение и даже переписывать историю человечества, включая историю Церкви». В тексте много раз повторяется слово «ответственность», призыв к которой можно назвать главным в послании. Лев XIV призывает компании и общество к сотрудничеству в предотвращении рисков, вызванных новой технологией.
Контент сайту призначений для осіб віком від 21 року. Переглядаючи матеріали, ви підтверджуєте свою відповідність віковим обмеженням.
Cуб'єкт у сфері онлайн-медіа; ідентифікатор медіа - R40-06029.