Нейросеть просто прочтет ваши мысли. Нужны новые права, чтобы защитить свой ум (Самуил Сигал)

Право хранить молчание все равно превратится в фикцию

Facebook и Neuralink Илона Маска объявили, что создадут технологию, которая позволит читать мысли — переводить импульсы нейронов в мозге в слова. Прорыв в науке знаменует крах частной жизни. Что делать, чтобы уберечь свой ум от вмешательства посторонних, когда будущее наступит? Об этом рассуждают журналист Самуил Сигал и нейроэтик Марчелло Янка в материале The Vox.

«Нет ничего твоего, кроме нескольких кубических сантиметров в черепе». Это цитата из антиутопии Джорджа Оруэлла «1984», опубликованной в 1949-м. Герои романа живут в тоталитарном государстве, которое постоянно контролирует их жизнь. Лишь их внутренняя жизнь пока остается в тайне.

Для нас же будущее уже наступило. Facebook и Neuralink Илона Маска объявили, что создают технологию, которая позволит буквально читать ваши мысли.

Власть над умами миллионов

Компания Марка Цукерберга финансирует создание искусственного интеллекта (BCI), который сможет воспринимать мысли непосредственно из нейронов мозга и переводить их в слова. Исследователи говорят, что они уже создали алгоритм, который может декодировать слова из мозговой деятельности в режиме реального времени.

Компания Маска создала гибкие «нити», которые могут быть имплантированы в мозг и однажды позволят вам управлять смартфоном или компьютером с помощью мыслей. Маск планирует начать тестирование на людях к концу 2020 года.

Другие компании, такие как Kernel, Emotiv и Neurosky, также работают над технологиями, связанными с мозгом. Они говорят, что у них благая цель — например, помочь людям с параличом контролировать свои устройства.

Это все звучит как научная фантастика. Но технологии уже начали менять жизнь людей. За последние 12 лет несколько парализованных пациентов получили мозговые имплантаты, которые позволяют им перемещать компьютерный курсор или управлять роботизированными руками.

Имплантаты, способные читать мысли, все еще недоступны для продажи. Но исследования в этой области продвигаются быстрее, чем думает большинство людей.

Ваш мозг — последний рубеж приватности — уже скоро может стать всеобщим достоянием.

Защита прав вашего мозга

Некоторые нейроэтики утверждают, что вероятность злоупотребления этими технологиями настолько велика, что нужны новые права и свободы, а также судебная практика, чтобы защитить нас. Технологии могут вмешаться в права, которые стали настолько базовыми, что мы о них даже не думаем. Например, наша способность определять, где кончается наша сущность и начинается воля машины, с которой мы связаны. Действующие законы не в силах решить эту проблему. 

Несколько стран уже размышляют о том, как справиться с «нейронными свободами». В Чили два законопроекта, которые сделают защиту мозговых данных правом человека, представят парламенту в ноябре 2019-го, отчасти благодаря поддержке нейробиолога Рафаэля Юсте. В Европе ожидается, что в этом году ОЭСР выпустит новый свод принципов, регулирующих использование данных мозга.

Один из главных людей, защищающих новые права человека — нейроэтик Марчелло Янка, исследователь в ETH Цюриха, одном из ведущих европейских университетов науки и техники. В 2017 году он выпустил документ с изложением четырех прав человека эры нейротехнологий, которые, по его мнению, должны быть закреплены в законодательстве. 

— Меня беспокоит, что данные мозга — наши мысли — превращаются в товар на потребительском рынке, — говорит он.

— И я не говорю о выдуманном будущем. У нас уже есть потребительская нейротехника. Люди обменивают свои мозговые данные на услуги от частных компаний. И это нейрокапитализм.

Он упомянул нейрогейминг, где игрок управляет своими движениями в видеоигре, используя мозговую активность, а не традиционный джойстик. 

Технология BCI включает в себя системы, которые «читают» нейронную активность и превращают ее в слова. Часто это делается с помощью программного обеспечения для обработки искусственного интеллекта. Также существуют системы, которые дают мозгу новые данные, и он начинает функционировать иначе. Некоторые машины способны на оба действия. 

Я попросил Янку объяснить каждое из четырех прав человека, которые, по его мнению, нам нужны, и привести конкретный пример того, как нейротехнология может нарушить их. В ответ он предложил несколько пугающих сценариев, часть которых уже воплощены в жизнь.

1. Право на интеллектуальную свободу

Человек имеет право свободно решать, используете вы данную нейротехнологию или же откажетесь от нее.

В Китае правительство уже извлекает данные из мозга граждан, заставляя их носить устройства, сканирующие мозговые волны на наличие депрессии, тревоги, ярости или усталости. 

— Если ваш работодатель хочет, чтобы вы носили гарнитуру EEG для контроля уровня вашего внимания, это может квалифицироваться как нарушение интеллектуальной свободы, — сказал Янка.

Даже если вам говорят, что использовать устройство необязательно, вы, вероятно, чувствуете скрытое давление на вас. И соглашаетесь, чтобы не быть хуже ваших коллег.

Нейроэтик добавил, что американские военные также изучают нейротехнологии, чтобы воздействовать на солдат. Например, сделать их менее чуткими и более агрессивными. Военнослужащие вынуждены соглашаться с этим вмешательством, чтобы не лишиться службы.

— Уже финансируются военные исследования, которые позволят отслеживать снижение внимания и концентрации и создать устройства, которые помогут считывать и устранять эти состояния, чтобы повысить бдительность солдат посредством нейромодуляции, — говорит Марчелло Янка. По его словам, эти проекты финансирует агентство передовых исследований Министерства обороны США.

2. Право на неприкосновенность частной жизни

Человек имеет право скрывать данные своего мозга или публично делиться ими.

Янка подчеркнул, что нейротехнология имеет огромное значение для правоохранительных органов и государственного надзора. 

— Если устройства для сканирования мозга смогут читать мысли, — сказал он, — то в ближайшие годы правительства разных стран будут заинтересованы в использовании этой технологии для допросов и расследований.

Право хранить молчание и отказ от самообвинения, закрепленный в Конституции США, могут стать бессмысленными в мире, где власти могут заглянуть в вашу черепную коробку без вашего согласия.

Это сценарий, напоминающий научно-фантастический фильм «Особое мнение» (2002), в котором специальное полицейское подразделение разыскивает и арестовывает убийц, прежде чем они совершат свои преступления.

3. Право на психическую неприкосновенность

Человек имеет право на защиту от физического или психологического вреда от нейротехнологий.

Устройства с функцией записи информации в сознание могут обеспечить новые формы «промывания мозгов», позволив контролировать наш разум всевозможным людям. Это может быть власть, подавляющая инакомыслие. Или террористические группировки, вербующие новых бойцов.

Устройства, подобные тем, что создают Facebook и Neuralink, уязвимы для хакерских атак. Что будет, если вы столкнетесь с одной из них и злоумышленник перехватит сигнал, увеличивая или уменьшая напряжение тока, который поступает в ваш мозг, сделав вас более подавленным?

— Это все еще гипотезы, но такая возможность была продемонстрирована в исследованиях для проверки концепции, — сказал Янка, добавив: — Подобный взлом не потребует технологических сложностей.

4. Право сохранить свое психологическое состояние

Человек имеет право на защиту своего психологического состояния и отказ от его изменения.

В одном исследовании женщина с эпилепсией, которой вживили устройство в мозг, почувствовала с ним такой радикальный симбиоз, что сказала — «Оно стало мной». Затем компания обанкротилась, и ее заставили удалить микрокомпьютер. Она плакала, говоря: «Я потеряла часть себя».

По словам Янки, это пример того, как психологическая преемственность может быть нарушена не только путем внедрения нейротехнологии, но и путем ее устранения.

— Это сценарий, в котором компания овладевает нашим самочувствием, — сказал он.

Другая угроза психологической преемственности исходит из зарождающейся области нейромаркетинга, где рекламодатели пытаются выяснить, как мозг принимает решения о покупке и как подтолкнуть его к ним. Манипуляции происходят на неосознанном уровне, нейронные вмешательства могут произойти без нашего согласия. Например, нейромаркетинговая компания тестирует подсознательную технику: вы можете предпочесть продукт «А», а не продукт «Б», не зная почему.

Организации защиты прав потребителей подняли тревогу из-за нейромаркетинга. Джефф Честер, исполнительный директор Центра цифровой демократии, сказал, что реклама для взрослых должна регулироваться, чтобы люди могли различать правду и ложь.

Абсолютное убежище

Учитывая беспокойство по поводу нейрокапитализма, я спросил Янку, следует ли выводить нейротехнологии из-под контроля частных компаний и реклассифицировать их как общественные блага. Он сказал «да». И для того, чтобы не допустить причинения вреда всему человечеству, и для того, чтобы компании не предоставляли выгоды только богатым людям, которые могут платить за их продукты.

— Одна опасность в том, что эти технологии могут стать доступными только для определенных экономических слоев, и это усугубит существующее социальное неравенство, — сказал он. — Я думаю, что государство должно играть активную роль в обеспечении технологиями тех, кто в них нуждается.

Трудно сказать, будут ли нейроэтики эффективно контролировать риски нейротехнологий. Но, учитывая, как быстро они развиваются, кажется, что нам понадобятся новые законы, чтобы защитить нас. Поэтому экспертам уже пора сформулировать наши права. Законодатели действуют медленно, и если мы дождемся появления таких устройств, как продукты Facebook или Neuralink, может быть слишком поздно.

— Мозговые данные — абсолютное убежище для нас, мы привыкли к их полной конфиденциальности. Если они будут под угрозой, это изменит мировой порядок, — предупредил Янка. — И как только мозговые данные будут собраны у множества людей, мы уже не сможем это остановить.

The Vox

pravmir.ru