Но хотим ли мы жить в мире, где у людей не останется тайн, можно ли отделить правду от лжи и можно ли довериться в этом искусственному интеллекту размышляет журналист The Guardian Амит Катвала.
Зачем люди лгут
Мы учимся лгать еще детьми, в возрасте от двух до пяти. Когда мы становимся старше, то обманываем еще виртуознее. Мы говорим неправду нашим работодателям, коллегам и, прежде всего, нашим матерям. В среднем человек слышит около 200 слов лжи ежедневно, согласно исследованию Джерри Джеллисона, психолога из Университета Южной Калифорнии.
Большая часть нашей лжи — безобидная и незначительная. «Мне так нравится платье!» — говорим мы, чтобы угодить подруге. И это смазывает шестеренки человеческих отношений.
Но большинство людей допускают и серьезную ложь, причем один или два раза в день, говорит Ричард Уайзман, психолог из Хартфордширского университета.
Мы лжем, чтобы представить себя в лучшем свете, защититься или не ранить других.
И как это сходит нам с рук? Загадка. Ведь наши тела выдают нас. Сердцебиение, пот и мимика. Мы заикаемся, замедляем речь и допускаем оговорки по Фрейду.
«Ни один смертный не в силах хранить секреты, — писал психоаналитик в 1905 году. — Если его губы молчат, то проговорятся кончики пальцев. Предательство сочится из него каждой капелькой пота».
От горстки риса до полиграфа
Тем не менее, мы не можем обнаружить обман. В этом люди безнадежны. Согласно 206 научным исследованиям, люди могут отделить правду от лжи всего лишь в 54% случаев — это немногим лучше, чем подбросить монету.
«Люди не слишком проницательны, потому что разница между лжецами и теми, кто говорит правду, малозаметна», — говорит Алдерт Врий, психолог из Портсмутского университета, который потратил годы на изучение способов обнаружения обмана.
Когда одних ловят на лжи, они замирают. Другие — обманывают еще неистовее. Лжецы могут плести изысканную пряжу истории, полную красноречивых деталей. А правда может быть зыбкой или уклончивой.
Люди пытались решить эту проблему на протяжении тысячелетий. Идеальный детектор лжи искали с помощью пыток, судебных испытаний или даже встреч с ослом в темной комнате в древней Индии. Три тысячи лет назад в Китае обвиняемых заставляли жевать и выплевывать рис. Считалось, что зерна прилипают к сухим, нервным ртам виновных.
Совсем недавно ложь искали дрожащие стилусы полиграфической машины — типичного детектора лжи, который используют в полицейских участках и в дневных телешоу. Но ни один из этих методов не был надежен.
Совершенный мир без лжи
Скоро все изменится. За последние 20 лет рост технологий сканирования мозга и искусственного интеллекта породил, как утверждают многие, новое поколение инструментов для обнаружения лжи. Стартапы, стремящиеся к коммерциализации этих разработок, хотят, чтобы мы поверили — безошибочный детектор лжи скоро ворвется в нашу жизнь.
Их изобретения раскупают полиция, государственные органы и страны, отчаянно пытающееся обезопасить себя от иностранных угроз. Они также используются работодателями, страховыми компаниями и социальными работниками.
«Мы наблюдаем рост интереса как со стороны компаний, так и со стороны правительства», — сказал Тодд Миккельсен, генеральный директор компании Converus, которая создает детектор лжи на основе движений глаз и незначительных изменений в размере зрачка.
Технология Converus, EyeDetect, использовалась FedEx в Панаме и Uber в Мексике — там проверяли водителей с криминальной историей. Также ее применяло агентство кредитных рейтингов Experian: компания проверяла своих сотрудников в Колумбии, чтобы убедиться, что они не манипулируют базой данных ради кредитов для своей семьи.
В Великобритании полиция использует пилотную версию EyeDetect, отслеживая реабилитацию людей, которые совершили преступления против половой неприкосновенности. Другие клиенты EyeDetect — правительство Афганистана, McDonald’s и десятки местных отделений полиции в США.
Вскоре крупномасштабные программы по обнаружению лжи могут появиться на границах США и Европейского Союза.
Когда такие инструменты, как EyeDetect, проникают в нашу жизнь, возникает вопрос — насколько этично их использовать.
В наш век искусственного интеллекта идея о том, что машина узнает наши сокровенные тайны, кажется более правдоподобной, чем когда-либо.
А что, если целые штаты и крупные корпорации поверят в технологию по обнаружению лжи, которая на деле будет не объективной?
И что мы будем делать с этими технологиями, если они распространятся по всему миру? Машина, которая надежно сортирует правду от лжи, может изменить нас. Создатели этих инструментов утверждают, что, отсеивая обман, они создадут более справедливый и безопасный мир. Но то, как в прошлом использовались детекторы лжи, наводит на мысль, что такие заявления слишком оптимистичны.
Пять способов раскрыть обман
Для большинства из нас ложь приносит больше стресса, чем честность и прямота. Чтобы предугадать точку зрения собеседника, подавить свои эмоции и удержаться от правды, требуется больше интеллектуальных усилий и энергии, чем при искреннем разговоре. Это требует от нас когнитивной нагрузки. Это бремя, как предполагает большинство теорий обнаружения лжи, влияет на нас — мы меняем положение тела и ведем себя не так, как обычно.
Технологии обнаружения лжи исследуют пять типов доказательств. Первые два — устные: то, что мы говорим, и то, как мы их говорим. Джефф Хэнкок, эксперт по цифровым коммуникациям в Стэнфорде, обнаружил, что люди, которые лгут в своих профилях онлайн-знакомств, чаще используют слова «я» и «мой».
Голосовой анализ уровня стресса определяет обман на основе изменения тона голоса. Его использовали во время допроса Джорджа Циммермана, который стрелял в подростка Трейвона Мартина в 2012 году. <…>Только пять из 23 местных органов власти, где проводился голосовой анализ, оценили его как успешный, но в 2014 году он все еще использовался.
Третий источник доказательств — язык тела. Некоторые лжецы демонстрируют так называемое «наслаждение Пупера», мимолетное выражение радости, которое возникает на лице, когда они думают — им поверили. Когнитивная нагрузка заставляет людей двигаться по-разному, и лжецы, пытающиеся «вести себя естественно», могут в конечном итоге добиться обратного. В эксперименте 2015 года исследователи из Кембриджского университета обнаружили обман более чем в 70% случаев. На испытуемых были плотно облегающие костюмы, в которых обманщики замерзали или начинали слишком суетиться.
Четвертый тип доказательств — физиологический. Полиграф измеряет кровяное давление, частоту дыхания и пот. <…> Инфракрасные камеры анализируют температуру лица. Когда Пиноккио лгал, его нос вырастал, а наш — сжимается, когда к мозгу приливает кровь.
В 1990-х годах новые технологии открыли пятый путь исследования: мозг. Стивен Эйвери, который отбывал пожизненное заключение за жестокое убийство, которое, по его словам, он не совершал, проходит «дактилоскопию мозга». В ней используется электродная гарнитура, называемая электроэнцефалограммой, или ЭЭГ — она позволяет отследить нервную деятельность. Изобретатель теста, доктор Ларри Фарвелл, утверждает, что он может отследить информацию о преступлении, спрятанном в мозгу подозреваемого, обнаружив нейронную реакцию на фразы или фотографии, относящиеся к событию. Еще один тест на основе ЭЭГ был использован в 2008 году, чтобы осудить 24-летнюю индийскую женщину по имени Адити Шарма за то, что она отравила мышьяком своего жениха. <…>
Аватар на границе
Новые технология для обнаружения лжи используют на границе США и Европы. В 2014 году путешественников, летевших в Бухарест, допросил виртуальный пограничный агент по имени Аватар — фигура на экране в белой рубашке с голубыми глазами. Он представился как «будущее паспортного контроля». Помимо сканеров электронных паспортов и отпечатков пальцев, устройство оснащено микрофоном, инфракрасной камерой слежения за глазами и датчиком Xbox Kinect для измерения движений тела. Это один из первых «мультимодальных» детекторов лжи — тот, который включает в себя ряд различных источников доказательств — начиная с полиграфа.
Но секретный ингредиент, по словам Дэвида Макстеллера, который выводит технологию на рынок через компанию Discern Science, заключается в программном обеспечении, которое использует алгоритм для объединения всех этих типов данных. Машина нацелена на вынесение вердикта в течение 45 секунд. Либо путешественник едет дальше, либо его отводят в сторону для дополнительного досмотра.
Макстеллер сказал, что он ведет переговоры с правительствами — он не сказал бы, какие именно — об установке Аватара на постоянной основе после дальнейших испытаний в Ногалесе в Аризоне на границе США и Мексики, а также в аэропорту Рейган в Вашингтоне. Discern Science утверждает, что показатели точности в их предварительных исследованиях, в том числе в Бухаресте, составляли от 83 до 85%.
Испытания в Бухаресте поддержало агентство ЕС Frontex, которое финансирует конкурирующую систему iBorderCtrl с собственной виртуальной пограничной службой. iBorderCtrl основан на Silent Talker, технологии, которая разрабатывается в Манчестерском университете с начала 2000-х годов.
Silent Talker использует модель искусственного интеллекта для анализа более 40 типов микроструктур на лице; для работы ему нужны только камера и интернет. Теоретически, его можно запустить на смартфоне или использовать в прямом эфире, возможно, даже во время политических дебатов. О’Ши и его коллега Зухайр Бандар утверждают, что Silent Talker до сих пор имеет 75% точности в исследованиях.
«Мы не знаем, как это работает», — сказал О’Ши.
Если машина ошибется
Макстеллер сказал, что результаты работы Avatar улучшатся по мере изучения алгоритма. Он также ожидает, что в полевых испытаниях технология покажет себя лучше — лжецы боятся, что их поймают, поэтому испытывают стресс. Но исследования показывают, что может быть и обратное: лабораторные исследования имеют тенденцию переоценивать успех в реальном мире.
Прежде чем эти инструменты получат массовое применения, нужны доказательства, что они будут эффективны с разными группами людей. Например, с психопатами, чье невербальное поведение будет отличаться от нормы.
Большая часть исследований проводилась на белых американцах и европейцах. Данные из других областей исследования показывают, что алгоритмы кодируют предубеждения обществ, в которых создаются. Это может усилится на границе, где страхи и предрассудки общества обретают особенную силу. Черный ящик модели искусственного интеллекта не способствует к прозрачному принятию решений. Никто не способен объяснить его логику.
Энди Балмер, социолог из Манчестерского университета, опасается, что технология только усилит существующие предубеждения, что создаст проблемы уязвимым общественным группам.
«Авторитетная наука ясно показывает, что обнаружение лжи невозможно. И все же оно остается областью исследований, которую мы не оставляем. Это кое-что говорит о нас», — отмечает он.
«У правды есть только одно лицо, — писал французский философ 16-го века Мишель де Монтень, — но у лжи их — сто тысяч. И она не имеет границ».
На данный момент мы не знаем явных признаков обмана, которые бы проявлялись в любой ситуации. Пиноккио не существует.
«Это считается священным Граалем обнаружения лжи, — сказала доктор Софи ван дер Зее, юридический психолог из Университета Эразма в Роттердаме. — Пока никто не нашел его».
Точность в 80–90%, о которой заявляют такие организации, как EyeDetect и Avatar, звучит впечатляюще. Но когда их начнут применять на пограничном контроле, это приведет к тому, что тысячи людей будут ошибочно обвинены во лжи и признаны источником угрозы. Также это может означать что двое из десяти террористов останутся незамеченными. <…>
Ложь, правда и политика
Новыми технологиями сложнее манипулировать. Но это не значит, что они будут честными. Детекторы лжи, работающие на искусственном интеллекте, используют наше желание верить в проницательность науки. И чем надежнее они станут в глазах общества, тем большей опасностью нам грозят. Потому что детекторы лжи часто нацелены на наиболее уязвимые слои общества: женщин в 1920-х годах, подозреваемых в диссидентстве в 60-х годах, получателей пособий в 2000-х годах и мигрантов сегодня.
«Ученые мало думают о том, кто будет использовать эти методы, — сказал Джорджио Ганис. — Люди должны знать о последствиях».
В эпоху фейковых новостей и лжи у нас есть соблазн полностью довериться науке. Но детекторы лжи имеют тенденцию появляться в «точках давления» в политике, когда правительства снижают свои требования к научной строгости, сказал Балмер. В этой среде сомнительные новые методы могут занять место полиграфа, предсказывает Алдер.
В реальном мире практика лжи — истории, которые мы рассказываем о себе, ложь, которая составляет ядро нашей идентичности, — усложняет ситуацию.
«У нас есть огромная способность верить в свою собственную ложь, — сказал Дэн Арили, известный поведенческий психолог из Университета Дьюка. — И как только мы верим в нее, мы, конечно, не подаем никаких сигналов о неправомерных действиях».
В своем научно-фантастическом романе 1995 года «Машина правды» Джеймс Гальперин представил мир, в котором удается создать идеальный детектор лжи. Изобретение помогает объединить враждующие страны земного шара в мировое правительство и ускоряет поиск лекарства от рака.
Но данные последних ста лет показывают, что в реальной жизни это, вероятно, не получится. Политики вряд ли стоят в очереди, чтобы использовать новые технологии на себе. Терри Маллинс, частный полиграфолог, безуспешно пытался заинтересовать полицию и правительственные ведомства технологией EyeDetect. «Я думаю, что они все в ужасе», — сказал он.
Даниэль Ланглебен, ученый, работающий в МРТ No Lie, сказал мне, что ни одно из правительственных учреждений, к которому он обращался, на самом деле не интересовалось точностью его детектора лжи на основе исследований мозга. Машину МРТ нельзя упаковать в чемодан или доставить в комнату для допросов в полиции. Следователь не может манипулировать результатами теста, чтобы оказать давление на подозреваемого, отказавшегося от сотрудничества. Агентство просто хотело узнать, можно ли его использовать, чтобы обучить агентов обманывать полиграф.
«Правда на самом деле не товар», —размышлял Ланглебен.
Источник: The Guardian
Фото: кадр из фильма «Сноуден»