Блоги
Эксперты: сфера нейротехнологий нуждается в регулировании на законодательном уровне, иначе нас могут лишить когнитивной свободы
61

Эксперты: сфера нейротехнологий нуждается в регулировании на законодательном уровне, иначе нас могут лишить когнитивной свободы

Эксперты: сфера нейротехнологий нуждается в регулировании на законодательном уровне, иначе нас могут лишить когнитивной свободы

Ментальная приватность человеческого мозга, его абсолютная защищенность от внешнего воздействия являлись незыблемым правом человека на протяжении многих веков. Сегодня, однако, развитие технологий вплотную подошло к тому, чтобы его нарушить. Нейроинтерфейсы и усовершенствованные системы нейровизуализации уже позволяют ученым расшифровывать сигналы нервной системы и даже управлять ими, и хотя подобные разработки имеют огромное значение для науки, они вызывают этические, юридические и социальные вопросы. Об опасностях «взлома мозга» рассказали эксперт по биоэтике Марчелло Йенка и Кристофер Маркоу, юрист из Университета Кэмбриджа и член Экспертного совета по ответственному использованию робототехники.

О чем речь?

В прошлом году Илон Маск вознамерился воплотить в жизнь мечту многих фантастов, напрямую подключив человека к компьютеру. С этой целью небезызвестный американский предприниматель основал компанию Neuralink, цель существования которой заключается в создании первого в мире “нейронного кружева” – автоматической системы вживления электродов, призванной “улучшить когнитивные способности человека”.

В ближайшие четыре года новоиспеченная компания намерена выпустить свои первые миниатюрные чипы размером в несколько микрон для пациентов с ограниченными возможностями, а также для тех, кто перенес инсульт и обладает врожденными заболеваниями. На первых порах нейронные кружева будут использоваться исключительно в медицинской практике, помогая восстанавливать память и утраченные двигательные функции. А со временем, через 8-10 лет, Neuralink планирует представить первое коммерческое устройство для прямого взаимодействия человека с компьютером, позволяющее обмениваться мыслями.

На данный момент между Neuralink и ее конечной целью стоит ряд технических трудностей. Есть причины полагать, что компании удастся их преодолеть. Есть причины полагать, что не удастся.

Но если Илон Маск все же добьется своего, в результате может получиться интерфейс, который пользователь будет ощущать как часть своего тела, продолжение центральной нервной системы. Обмениваться потоками информации с миром станет так же просто, как думать.

Впрочем, Илон Маск – далеко не единственный предпринимать, занимающийся подобными разработками. О планах создать собственные нейроинтерфейсы открыто заявляют такие IT-гиганты, как Facebook, Samsung и Netflix, которые хотят сменить привычные методы ввода данных на системы мозг-компьютер.

Кроме этого, проникают нейротехнологии и в область обороны, в частности, DARPA проводит конкурсы на создание наиболее эффективного нейроинтерфейса. С его помощью военные надеются повысить внимательность и скорость реакции у солдат, усилить их боевой дух, сделав их поистине бесстрашными, и нивелировать необходимость сна.

Еще одной сферой применения нейроинтерфейсов называется создание настоящих “детекторов лжи”. Несмотря на скептицизм экспертов [см. книгу “Нейромания. Как мы теряем разум в эпоху расцвета науки о мозге”, авт. Скотт Лилиенфельд. – прим. автор новости], многие коммерческие компании уже сегодня вовсю рекламируют свои “детекторы лжи” на основе МРТ и электроэнцефалографии. А в некоторых случаях медицинскую визуализацию уже даже применяют в суде: так, в 2008 году жительницу Индии приговорили к пожизненному заключению на основании того, что сканирование ее мозга указало на «эмпирическое знание» об убийстве.

Наконец, исследования на тему нейротехнологий помогут нам лучше понять механизмы работы нашего мозга, который до сих пор изучен очень мало.

Вместе с тем, предупреждают эксперты, столь экстраординарные возможности порождают не менее экстраординарные проблемы и очень сложные вопросы, выходящие далеко за рамки технических задач. Тем не менее, несмотря на всю их трудноразрешимость, важно подумать о них заранее. Ведь если мы не станем на них отвечать, на них ответят за нас.

http://ml-ai.ru/wp-content/uploads/2016/05/neyronnaya-set-mozga.jpg

Чем это грозит?

По мнению ученых, основная опасность заключается в том, что многие нейротехнологии начали переходить из медицинской и научной сфер в коммерческую. Те же будущие нейронные кружева Neuralink — это, по сути, система коммуникаций, а она почти не подпадает под существующие правила и ограничения. Как следствие, в случае повсеместного внедрения подобного рода технологий наш мозг может стать объектом вожделения правительственных агентств, рекламодателей, страховых и маркетинговых компаний, которые захотят проследить за нами и проконтролировать нас, вмешиваясь в наши желания с целью что-нибудь навязать. Хуже того, нейротехнологии могут дойти до такой степени развития, что нейроинтерфейсы начнут вживлять всем людям в обязательном порядке, “чтобы бороться с преступным и аморальным поведением” (какой бы смысл сюда ни вкладывали).

Йенка признает, что технологии «взлома мозга» можно воспринимать как часть новой “цифровой реальности”, в которой наше личное пространство постепенно сужается. Однако ментальная приватность всегда была незыблемым правом человека, поэтому, возможно, нам следует несколько повременить с такими разработками, чтобы за это время переосмыслить базовые права человека и разработать отдельные права в области неврологии: людей необходимо наделить правом на ментальную приватность, которое защитит пользователя от вторжения третьей стороны в его мыслительные процессы и от несанкционированного сбора данных.

Особое внимание эксперты акцентируют на том, что вопросы безопасности в данной сфере определенно не следует недооценивать. Мы уже знаем по личному опыту, что «умный» означает «уязвимый». Как только вы подключаете что-то к чему-то, появляется возможность взлома. Если появляется дверь, в нее можно войти, даже если это дверь в мозг.

При этом недобросовестное использование нейроинтерфейсов принесет намного больше проблем, чем взлом компьютерной базы данных, считают ученые, поскольку речь идет о способности человека принимать решения. Например, взломав устройство, хакеры могут повлиять на мышление пользователя, навязать ему какие-то противозаконные действия или узнать те его мысли, о которых человек предпочитает умалчивать. Или же недобросовестные коммерческие компании могут возжелать втайне от нас воспользоваться вживленными в мозг нейроустройствами для того, чтобы обойти наше сознание, снизить критичность мышления и тем самым подтолкнуть нас к покупке их продукта.

Таким образом, говорят ученые, нужно заранее отрегулировать сферу применения подобных систем, приравняв скрытые манипуляции с ними к нарушению права человека на психическую неприкосновенность.

“Если инструменты сканирования мозга станут повсеместными, у злоумышленников появятся новые возможности – вплоть до так называемого “взлома мозга”. Нам нужно на законодательном уровне защититься от подобного рода манипуляций, – пишет Йенка. – Необходимо выработать некий “Когнитивный закон”, регулирующий взаимодействие между двумя и более мозгами и созданный на пересечении философии, технологии, социологии и юриспруденции”.

Напоследок ученые отмечают, что они не призывают запрещать подобные технологии, поскольку  “пользы от них будет очень много”. Однако, по их мнению, нужно завести традицию в открытую регулярно обсуждать развитие нейроинтерфейсов с юристами, специалистами по нейронаукам и этике, а также с обычными гражданами. Только такой подход поможет минимизировать риски и защитить когнитивную свободу человека в будущем, заключают эксперты.

Источники: Scientific American, The Conversation, hightech.fm (1; 2)


Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: