Вы попали под дождь по пути домой. У вас нет зонта. Вы замечаете дождевик в витрине магазина и думаете про себя: «Такая куртка идеально подошла бы для этой погоды». Когда вы просматриваете ленту Instagram в метро, вы видите похожую куртку — это рекламный пост. Вас охватывает тревога: разве я говорил вслух о дождевике? Instagram читает мои мысли?
Цена персонализированной рекламы
Рекомендательные алгоритмы социальный сетей порой знают о нас слишком много. Это напоминает телепатию. Но в конечном счете они получают информацию о пользователях, считывая миллионы зарегистрированных действий в сети: клики, поиск, лайки, сообщения, покупки. За нами постоянно наблюдают.
Какими бы мощными не были современные алгоритмы, мы надеемся, что сумеем скрыть от них наши мысли. Но недавние достижения в области интерфейса мозг-компьютер (BCI), которая объединяет мышление с устройством, ставят это под сомнение.
В 2018 году ученые показали, как с помощью искусственного интеллекта перевести мысли текст, регистрируя активность нейронов. Эта технология может помочь многим людям с тяжелыми неврологическими заболеваниями, которые вызывают нарушения речи. Но исследование также отслеживали, и частично финансировали частные компании, в том числе Facebook. Они предлагают перейти на интерфейсы мозг-компьютер, выстроив прямую связь между разумом и устройствами.
Но какую цену мы заплатим за новейшие технологии? Не разрушит ли искусственный интеллект последний оплот конфиденциальности? Готовы ли мы отказаться от внутренней свободы ради более умных онлайн-сервисов и персонализированной рекламы?
Как вернуть речь после инсульта
BCI — это устройство, которое обеспечивает прямую связь между мозгом и компьютером. Оно переводит активность нейронов мозга в команды, которые распознает машина.
Активность нейронов нелегко расшифровать. За последние 20 лет удалось много добиться в переводе сенсорно-моторных сигналов в команды. Благодаря этому мы двигаем курсором мыши по экрану или же управляем роботизированной рукой. Но деятельность мозга, связанная с речью, остается слишком сложной для декодирования.
Но достижения в сфере искусственного интеллекта, который имитирует когнитивные способности человеческого мозга, многое изменили. В апреле 2019 года группа ученых из Калифорнийского университета в Сан-Франциско опубликовала результаты эксперимента: они преобразовали нейронную активность в речь с помощью BCI.
Ученые поместили небольшие электронные устройства в мозг пяти участников эксперимента. Техника записывала активность их нейронов, а также фиксировала движения челюстей, рта и языка, когда люди читали вслух детские книги. Затем эти данные использовали для обучения двух алгоритмов: один исследовал, как мозг заставляет двигаться мышцы лица, другой — как эти движения связаны с речью.
После этого участников вновь попросили прочесть отрывки из детских книг. Используя данные о нейронной активности алгоритмические системы расшифровали сказанное и воспроизвели предложения.
По словам Гопала Ануманчипалли, руководителя исследования, его результаты помогут пациентам с боковым амиотрофическим склерозом, а также тем, кто перенес инсульт.
После него люди порой находятся в сознании, но не могут говорить.
— На данном этапе участие в эксперименте приняли люди, которые могут говорить, — сказал он. — Но мы предполагаем, что эта технология будет полезна для людей с неврологическими нарушениями. Возможно, она позволит восстановить речь.
Читать мысли и печатать без клавиатуры
В 2017 году Facebook объявил, что будет инвестировать в разработку неинвазивных устройств BCI, которые позволят пользователям социальной сети «набирать текст силой мысли». С тех пор компания финансирует исследования, связанные с этой технологией, в том числе еще один проекта Калифорнийского университета в Сан-Франциско. Участники исследования слушали вопросы с несколькими вариантами ответов и отвечали на них, в то время как активность их нейронов записывалась для обучения алгоритмов искусственного интеллекта.
Facebook сообщал, что результаты исследований указывают — они приближаются к созданию устройства, которое позволит людям «набирать текст, лишь подумав о том, что именно они хотят написать». По словам Мака Слуцкого, профессора неврологии в Северо-Западном университете, эта технология все еще далека от «чтения мыслей».
Слуцкий полагает, что современные BCI расшифровать только нейронную активность, связанную с физическим актом артикуляции. Расшифровка внутреннего монолога, которой пытается добиться Facebook, потребует перевода мыслей в язык. Это более сложный процесс.
— Если кто-то думает о чем-то, но не пытается сформулировать предложение, непонятно, как его будут считывать алгоритмы, — сказал он.
Многие философы в XX веке предполагали, что мы мыслим предложениями и словами, что в основе мышления лежит язык. Но использование технологий визуализации, таких как электроэнцефалография и электрокортикография, доказывают, что мышление основано на комбинации образов и ассоциаций.
По словам Джона Дилана Хейнса, профессора неврологии в Университете Шарите в Берлине, некоторые сигналы нейронов можно расшифровать, но это еще не чтение мыслей.
— Мы не до конца понимаем язык нашего мозга, — подчеркнул он.
Что они сделают с нашими данными?
Даже если технология BCI не сможет читать мысли, это не означает, что ее не смогут использовать для раскрытия конфиденциальных данных. По словам Хейнса, структурное сканирование при подключении к BCI позволит выявить, есть ли у человека определенные заболевания или когнитивные нарушения.
В исследовательских институтах строго регламентировано использование данных, полученных в ходе подобных экспериментов. Но для технологических компаний таких правил нет. Глядя на то, как социальные сети превращают массивы персональных данных в прибыль, Хейнс опасается растущей индустрии BCI.
— Я был бы очень осторожен при передаче ваших данных компаниям, — отметил профессор неврологии.
По словам Марчелло Йенки, научного сотрудника Швейцарской высшей технической школы, специалиста по этике нейротехнологий, следует проанализировать последствия доступа частных компаний к когнитивным данным пользователей.
— Мы достигли точки, когда аналитики в социальных сетях могут использовать данные пользователей, чтобы сделать предположение о беременности или суицидальных мыслях, — сказал он.
— Как только устройства BCI попадут на рынок, у компаний появится множество записей деятельности мозга. И вторжение в нашу частную жизнь станет более очевидным.
Слияние с машиной
Развитие технологии BCI связано не только с развитием социальных сетей, но и с потенциальным слиянием человека и машины. Илон Маск сказал, что создал компанию Neuralink для достижения симбиоза с искусственным интеллектом.
Адина Роскис, профессор философии в Дартмутском университете, говорит, что такое будущее связано с острыми этическими вопросами об идентичности и моральной ответственности людей.
— Когда BCI переводят нейронную активность в какое-то действие (например, движение роботизированной руки), алгоритм подключается к нашему мышлению, — пояснила она. — Эти системы становятся все более сложными, и неясно, кто совершает действие в итоге — человек или машина.
Как объяснил Кристиан Херф, профессор кафедры нейрохирургии в Маастрихтском университете в Нидерландах, системы, транслирующие нейронную активность в речь, несовершенны. Когда сигнал мозга записан, система прогнозирования (такая же, как у голосовых помощников) сообщает алгоритму, какие слова нужно передать и в каком порядке они будут идти. Здесь возможны ошибки.
— Когда человеку тяжело сформулировать мысль, системы могут сделать предположение о том, что он хочет сказать, — соглашается Роскис. — Но, учитывая то, что мы знаем о прогностических системах, результат не всегда будет отражать намерения человека.
Другими словами, вместо того, чтобы читать наши мысли, эти устройства могут думать за нас.
Роскис подчеркнула, что мы все еще далеки от этой реальности, и что зачастую компании впустую тратят технологические возможности ради рекламы.
— Но я верю, что пришло время задуматься о некоторых этических последствиях этих технологий, — сказала она.
Источник: The Guardian