Пятьдесят лет назад инженер по имени Дуглас Энгельбарт провел в Сан-Франциско живую демонстрацию, которая изменила компьютерную индустрию и, косвенно, весь мир. Несколько сотен гиков в зрительном зале наблюдали, как он использует что-то, называемое «мышкой», и специальную клавиатуру, чтобы управлять документами, и показывает, как люди в разных местах могут вместе работать над общими файлами в интернете.
Это, как сказал присутствовавший на выступлении технический историк Стивен Леви, была «мать всех демонстраций».
«Окна открывались и закрывались, и их содержимое менялось, а аудитория смотрела в утробу киберпространства. Энгельбарт говорил своим спокойным голосом сотрудника Центра управления полетами, и, действительно, перед их глазами проносились последние рубежи».
Это выступление 1968 года вдохновило огромную новую индустрию, основанную на сетевых персональных компьютерах, использующих графические интерфейсы. Другими словами, все то, что мы используем сегодня.
Дуглас Энгельбарт во время демонстрации
Энгельбарт был провидцем, который считал, что наиболее эффективный способ решения проблем — расширить человеческие возможности и разработать способы построения коллективного интеллекта. По его мнению, компьютеры будут «мощным рулевым механизмом для мозга» — инструментом для расширения человеческих возможностей. Эта идея стала основой оптимистической истории технологической индустрии.
***
За последние несколько лет мечта оказалась немного запятнана. Мы узнали, как информационные вампиры внедряют технологии, чтобы использовать нас, и одновременно предоставляют бесплатные инструменты для нашего предполагаемого «роста». Аргументы «за» варьируются от компании к компании. Электронные таблицы, обработка текстов, автоматизированное проектирование (CAD) и инструменты для планирования, например, безусловно стали благом.
Поисковые системы можно рассматривать как протез для человеческой памяти или оправдание того, что нет необходимости сохранять в голове фактические знания. Но не ясно, какой когнитивный рост — если такой имеется — нам дают Instagram или Facebook. А уж что касается твиттера…
Тем не менее, существует один вид недавних технологических разработок, в пользу которого постоянно приводят аргументы о росте. Это искусственный интеллект (ИИ). Его проповедники неизменно изображают ИИ как технологию, которая действительно может усилить человеческие возможности. В нынешнем проявлении это, как правило, машинное обучение.
Его потенциал роста часто впечатляет. Можно подумать, например, о том, как программное обеспечение может сканировать десятки тысяч снимков сетчатки и отбирать те, на которые необходимо обратить внимание глазному хирургу.
Но в то же время известно много случаев, когда машинное обучение приводило к искаженным результатам и предвзятым прогнозам. Широко распространена обеспокоенность по поводу построения мира вокруг такой мощной и такой несовершенной технологии.
***
Чтобы попытаться оценить степень риска, Исследовательский центр Пью поставил перед группой экспертов следующий вопрос: «Считаете ли вы, что к 2030 году продвижение систем искусственного интеллекта и связанных с ним технологических систем усилит человеческий потенциал и расширит его возможности?»
Ученые получили откровенные и отрезвляющие ответы. Все респонденты были людьми, которые понимали потенциал технологий, но преобладающее впечатление, которое у них сложилось, вызывает обеспокоенность. Они считают, что широкое использование ИИ приводит к потере человеческой воли, поскольку принятие решений по ключевым аспектам жизни передается «черному ящику», управляемому кодом. Они боятся возможного злоупотребления в системах наблюдения, предназначенных для получения прибыли (так называемых «социальных сетях»), последствия которых уже достаточно очевидны.
Они видят риски существования для многих видов занятости. В то время как некоторые ожидают появления новых видов рабочих мест, другие беспокоятся по поводу массовой безработицы, расширения экономических разногласий, социальных потрясений и популистских восстаний, вызванных этим.
Многие из респондентов осознают и приветствуют потенциал роста ИИ, другие же опасаются, что наша растущая зависимость от технологий подорвет нашу способность думать самостоятельно, действовать независимо или эффективно взаимодействовать с другими.
И некоторые предвидят, что рост способности технологий вмешиваться в демократические процессы (например, с помощью видео с «глубокой фальсификацией») приведет к хаосу.
Первое, что следует сказать об этом исследовании — это не был статистически репрезентативный опрос общественного мнения. Это серьезная попытка выяснить мнение широкого круга хорошо осведомленных мыслителей, многие из которых знакомы с отраслью, ее технологиями и корпорациями. По крайней мере, их размышления отличаются от бешеного хвастовства об «искусственном интеллекте повсюду» в технологической индустрии, которая рассматривает этику как профессиональную терапию для философов на неполной занятости и других «неудачников».
Но в первую очередь это заставило меня задуматься, что бы Дуглас Энгельбарт сделал во время дебатов. «Кто-то однажды назвал меня “просто мечтателем”, — как-то сказал он. — Это оскорбило меня. Быть “просто мечтателем”, настоящим мечтателем — тяжелая работа. Действительно сложно становится, когда начинаешь верить в свои мечты». Особенно когда они превращаются в ночной кошмар.