Что о вас знает ChatGPT? Андрей Себрант — о нелепых ответах и мифах
«К нейросети относятся как к оракулу»
— Появилась новая забава — спрашивать у нейросети «кто я такой?» и получать нелепые ответы. Например, я — белорусская журналистка, которая неоднократно награждалась президентами Белоруссии. Вы уже задавали ChatGPT этот вопрос?
— Есть люди, которые раз в неделю проверяют, что Google и «Яндекс» знают про них, и страшно по этому поводу волнуются. Я к ним точно не отношусь. А что касается нелепых ответов — они бывают и у поисковых систем, вы же не всегда находите идеальный ответ по первой ссылке.
Почему вы ждете чуда от нейросети? Я давно заметил, что к ней относятся как к оракулу, словно она никогда не может ошибиться. Люди любят заниматься мифотворчеством и антропоморфизацией всего вокруг. Почему — знают, наверное, психологи.
А вы попросите нейросеть ответить на свой вопрос не один, а 100 раз, никаких технических ограничений здесь нет. А потом выбирайте самое интересное. Я вам гарантирую, что на каком-нибудь тридцатом ответе вы скажете: «Ух ты! А вот это было реально круто!»
— Давно ли вы в своей работе познакомились и пообщались с нейросетями?
— Мы («Яндекс») еще в 2017 году очень классно анонсировали в планетарии, в режиме прямого телемоста с космонавтами на орбите, наш алгоритм «Королев», и называлось это «нейросети в поиске». Это было почти шесть лет назад. Уже тогда около половины ответов формировалось не традиционными факторами ранжирования, где математические лингвисты анализируют запросы и ответы, а нейросетью. Сейчас процент, конечно, выше. Любой пользователь «Яндекса», Google, Bing или другого поисковика работает с нейросетями, которые стараются понять ваш вопрос, подобрать ссылки в традиционном старом интерфейсе и отранжировать их так, как им кажется наиболее правильным.
Все рекомендательные сервисы, которые предлагают вам какие-то дополнительные товары или услуги, — это тоже нейросети. Если вы еще не задохнулись от спама в своем почтовом ящике, — и это нейросети. Если вы за что-то платите в онлайне, а банки не берут с вас чудовищные комиссии за риск, то это опять нейросети! Весь антифрод — нейросетевой. Иначе любая электронная транзакция была бы настолько рискованной, что ни магазину, ни покупателю это не было бы выгодно.
Так что в нашей цифровой жизни нейросети были давно, просто этот рабочий инструмент скрыт настолько глубоко «под капотом», что мы о нем не задумываемся.
«Пошла бешеная вирусная волна»
— Почему именно нейросеть под названием ChatGPT — продукт компании OpenAI — вызывает такие завышенные ожидания?
— Я и сам не понимаю. Думаю, это опять вопрос к психологам. Наверное, в тот момент, когда с тобой достаточно сложно и как будто вдумчиво заговорил алгоритмический собеседник, это стало восприниматься по-новому.
Допустим, обновился алгоритм в Google или в «Яндексе». Вряд ли кто-то стал бы писать в личных сообщениях и соцсеточках: «Слушай, тут алгоритм поиска обновили, пойдем скорее у него что-нибудь спросим». А сейчас реально пошла бешеная вирусная волна.
Если брать не текстовую, а визуальную историю, то в середине прошлого года — по нашим меркам уже довольно давно — выстрелила генерация изображений от Midjourney и Stable Diffusion. Намного раньше, в 2015 году появился DeepDream от Google. А мы в «Яндексе» еще в 2018 году восстановили с помощью нейросети утраченные фрагменты фрески, а потом в рамках фестиваля «Стенография» робот-художник нанес ее изображение на фасад дома в Екатеринбурге.
Нейросетям, которые могут рисовать хоть с нуля, хоть дополнять утраченные фрагменты в имеющейся картине, уже много лет. Но до 2022 года такого ажиотажа тоже не было.
— Вы можете простыми словами объяснить, как это все работает?
— Допустим, мы хотим создать алгоритм, который умеет отличать кошечку от собачки. Древний подход состоял в том, чтобы внимательно посмотреть на котов и собак, а потом силой человеческого разума определить факторы отличия. Например, сказать, что на морде этого животного есть объект, который называется «глаз». В нем есть внутренняя деталь, которая называется «зрачок». Дальше мы пытаемся выделить этот зрачок и объяснить, как вертикальная форма зрачка указывает на то, что это кошка, а круглая — что собака. Множество таких факторов надо пошагово размечать вручную, и тут возникает проблема. Допустим, кошечка закрыла глаза. Она перестала от этого быть кошкой или нет? Мы, люди, с этим справлялись намного лучше алгоритмов.
И тут появилась возможность показать нейросети миллион картинок, про которые известно: «это кошка», потом показать миллион картинок, про которые известно: «это собака». А потом показать двухмиллионпервую картинку и спросить: «Это кошка или собака?» Сначала сеть отвечает что попало. При каждой ошибке в ответе поступает сигнал: «неправильно», который начинает распространяться по сложной матрице, которая зашита внутрь алгоритма. Значит, в каком-то месте надо поправить какую-то цифру — и тогда будет дан верный ответ.
Этот процесс повторяется миллион раз, каждый раз правятся разные места, и в итоге уже не с вероятностью 50 на 50, а с вероятностью 99,9% нейросеть сможет отличать кошечку от собачки.
Как именно она это делает, мы чаще всего не знаем.
ChatGPT объясняет «Правмиру», как работают нейронные сети
«Если бы Алиса все могла объяснить, она была бы предельно тупой»
— Что значит «не знаем»? А кто знает?
— У каждого в кармане лежит вот эта штука (достает смартфон). Вы понимаете, как она работает?
— Я-то нет, но разве изобретатели не должны понимать, как работает их устройство?
— Это обычное заблуждение, существующее насчет науки. Позволю себе про это говорить, потому что в 1977 году заканчивал Физтех и 20 лет занимался экспериментальной физикой.
Ричард Фейнман, получивший Нобелевскую премию за работы в области квантовой физики, совершенно искренне и нисколько не рисуясь, говорил, что в квантовой физике он не понимает ничего, потому что понять это человеку невозможно. Можно написать некую систему уравнений, которую ты вывел из какого-то количества наблюдаемых фактов. Этим занимается математика. Но представить себе это в голове — невозможно.
Все, с чем мы сегодня работаем, когда включаем свой смартфон — сложнейшая квантовая физика твердого тела, по сути, математические абстракции. Это не искусственный алмаз, созданный по образцу природного. Полупроводников, микросхем или их прототипов никогда не существовало в природе. Их придумали, просчитали, создали, но как понять умом, что в маленькой пластинке заключены десятки миллиардов каких-то транзисторов?
Фото: Сергей Петров
— Нужно смириться с проклятой неизвестностью, которая изначально заложена в сложную структуру?
— Она заложена в структуру Вселенной. Нормально понимаемое описание нашего мира дал, наверное, только Ньютон. Даже с классической электродинамикой все становится гораздо сложнее. Дальше — хуже. Как волна может быть одновременно и частицей? Есть уравнения, которые очень хорошо описывают, как ведет себя свет в нашей комнате, но осознать этого все равно нельзя.
Вернемся к нейросетям. В основе математики нейросетей лежит представление о многомерных векторах. С двумерными векторами мы работали еще в школе. Помните такую стрелочку, которая торчит из нуля в точку с координатами X и Y? Двумерный вектор — это два числа. Трехмерный вектор — X, Y, Z — чуть сложнее, потому что сама по себе стереометрия сложнее, чем плоскостная геометрия. Но мы все еще можем себе это представить, поскольку живем в трехмерном пространстве. А теперь вообразите что-нибудь пятимерное. Этого уже не может сделать ни один математик, хотя формулы для пятимерного мира он написать сумеет.
Нейросети работают с размерностью в десятки, сотни тысяч. С точки зрения математики, это просто набор координат. Есть правила, по которым моему запросу — или моему промту, как принято говорить на языке ChatGPT, — сопоставляется некий N-мерный вектор, где число N измеряется тысячами или десятками тысяч. Когда мы обучаем нейросеть фрагментам всех известных ей в дальнейшем текстов или фрагментам изображений, им тоже соответствуют свои векторы размерности N.
— То есть нейросеть — это такое пространство, в котором пересекаются много-много осей?
Сгенерировано нейросетью Stable Diffusion
— Точнее, нейросеть работает в таком пространстве. А теперь для простоты допустим, что координат всего две, как на плоскости. Давайте на оси Х отложим точки, которыми обозначим, например, ультраконсервативных либо, наоборот, очень склонных к фантазии людей. А по оси Y — людей с художественными талантами или с талантами в области естественных наук. На такой плоскости мы сможем нарисовать понятные нам области, характеризующие людей разного типа. Этот метод частенько используется для классификации в маркетинге и в HR.
В двухмерном пространстве мы в состоянии описать человека с интересующими нас качествами. У нас для этого есть слова. Но в мире, где существует непредставимо огромное количество измерений, для понятия, отложенного по любой из осей, не существует человекопонятных терминов. Поэтому в ряде источников пространства, в которых работают нейросети, называются «семантическими пространствами», то есть пространствами смыслов. Математически это описывается, но эмпирически, опять же, совершенно непредставимо.
Сгенерировано нейросетью Kandinsky 2.1
Иногда спрашивают: «А почему Алиса именно так ответила на мой вопрос?» Потому что в одну и ту же точку и ее окрестность «торчат» векторы самых разных фраз, которые заполняют собой семантическое пространство. Алгоритм Алисы находит вектор, близкий вектору запроса, и с его помощью дает ответ. Он может быть совершенно неожиданным, иначе с сетью невозможно было бы общаться. Она, как попугай, все время твердила бы одно и то же и была бы предельно тупой. Любой ответ — это последовательность шагов, операций с семантическими многомерными векторами, и на каждом из них включается фактор случайности. По какому принципу? Это отдельное искусство человека, пишущего алгоритм.
Вот почему никто не может объяснить в привычных и знакомых нам терминах, что такое ChatGPT или любая другая нейросеть. Возможность чем-то управлять не означает понимания этого даже у того, кто создает систему управления.
— Но вы можете хотя бы объяснить, почему она «нейро»?
— Если совсем примитивизировать функцию нейрона, она состоит в том, что у него есть много входных отросточков, есть аксон, который идет дальше, к следующему нейрону. В зависимости от того, на каком входе и с какой силой подается сигнал, на выходе он либо есть, либо нет. Нейросети — это математическая модель сети из множества таких элементов, каждый со многими входами и одним выходом.
Они развивались медленно и поначалу не очень успешно со второй половины 50-х годов прошлого века, потому что тогда еще близко не было ничего похожего на современную аппаратную базу и вычислительные возможности. Всерьез это все заиграло году в 2014-м или в 2016-м. Но сама по себе идея довольно тривиальна и основана на сильно упрощенном представлении о том, как работают нейроны.
«И тут у меня по спине пробежал холодок»
— Можно ли появление нейросетей сравнить с появлением интернета?
— Кажется, все-таки нет. Я помню, как впервые столкнулся с интернетом. У меня побежал холодок по спине, как при первой встрече с любимой девушкой.
Это было в 1988 году, я занимался физикой в филиале института Курчатова в подмосковном Троицке (сейчас он называется Институт «Тринити»). 1988-й — это еще СССР, но уже перестройка. Неожиданно с самых больших верхов нам спускают инициативу принять группу американских школьников. Почему это должны делать физики? Да, у нас есть компьютерный клуб, мы его покажем, но основную организацию мы попытались делегировать тем, кому это больше по профилю — то есть учителям. Но они сказали, что скорее уволятся, чем будут этим заниматься. Пришлось справляться самим. Обычно в таких случаях детей размещали в пионерлагерях, но мы договорились с семьями, где были ровесники этих американских ребят, что они возьмут к себе их пожить на две недели, а у их детей как бы появится американский братик или сестричка. Ну круто же!
Фото: Сергей Петров
Ночью в Шереметьево мы встречали на специально выделенном нам автобусе детей и взрослых, озверевших от бесконечного перелета. Потом долго ехали в Троицк. Когда мы добрались до института, то мечтали только об одном: поскорее отправить всех по домам спать. Но американцы говорят: «Мы валимся с ног, но все-таки сначала отведите нас в ваш компьютерный клуб». Ок, в клуб — так в клуб. Потом они спрашивают, где тут у нас городская телефонная розетка. Ну, вот она. «Нет ли, — говорят, — какого-нибудь инженера, а то у нас другие вилки от компьютеров, мы не можем подключиться». — «Не проблема, мы все экспериментальные физики и в состоянии прикрутить провода».
Дальше они вставляют разъем в розетку, достают из сумки какую-то коробочку и вторым, уже стандартным, шнуром втыкаются в последовательный порт на компьютере. Запускают со своей дискеты программу и начинают что-то клацать на клавиатуре. Мы с интересом наблюдаем — благо в лаборатории у нас уже был кое-какой опыт обработки цифровых данных, мы даже заводили сигналы с оборудования прямо в компьютер. Но тут-то что происходит? Зачем эта штука воткнута в телефонную розетку?
Они начинают запускать с дискеты команды (никаких «виндов» тогда, конечно, еще не было и в помине), а потом говорят: «Кто из вас нормально знает английский — напишите приветственные слова нашим коллегам в Окленде, которые прямо сейчас собрались в школе и ждут». Что?! Ну да, мы понимали, что можно протянуть кабель из комнаты в комнату, получится локальная сеть. Но прямая связь со школой в городе Окленд, штат Калифорния? Через обычный московский телефон? Тут я и почувствовал тот самый холодок по спине.
На следующий день спрашиваю, что это была за магия. Они объясняют, что есть такая штука, называется интернет и, как видите, он доступен даже в СССР. Мы заранее узнали московский телефонный номер, который подключит нас к модему SovAm Teleport, а дальше эта организация воспользуется глобальными средствами, чтобы соединиться со школой в Окленде.
«Искусственный интеллект не уничтожает рабочие места. Он их создает»
— Только что ютуб-канал Grandayy сгенерировал с помощью ChatGPT голос Эминема, а пару лет назад вышли «Lost Tapes of the 27 Club» с композициями умерших рок-звезд. Как у нейросети получается подделывать голоса и музыкальные стили?
— Мы занимались и этим еще в 2017 году. На открытии одной нашей конференции звучала музыка в стиле Скрябина, сгенерированная для терменвокса. А исполнял ее Петр Термен, внук Льва Термена — того самого, который и придумал этот инструмент с неземным звучанием. Получился отличный концерт.
Сгенерировано нейросетью DALL·E
Это технологически не так уж сложно, снова помогает нейросеть. Если загрузить в нее множество звуковых последовательностей, разметить «это музыка», а это «не музыка», а потом попросить ее написать собственное произведение, то она справится. Получится дико унылая последовательность гармонических звуков, которую невозможно слушать, хотя по формальным признакам она совпадает с тем, чему, наверное, учат в музыкальной школе. И тут начинается самое интересное.
Вы наверняка знаете, что есть множество приложений, которым даешь любую фотографию, просишь «сделать под Ван Гога» — и она очень похоже раскрашивает картинку в узнаваемом стиле. Оказывается, звук тоже можно «раскрасить», как в живописи. То есть если мы напичкаем сеть всем богатством написанных человечеством музыкальных композиций, до которых можно дотянуться в интернете, то на выходе получится довольно никакая музыка (хотя это будет именно музыка, а не шум прибоя). Но стоит ей затем скормить лишь несколько произведений Скрябина, как она выдаст очень пристойную стилизацию. Только, как всегда, из огромного контента, нагенеренного нейросетью, человек с музыкальным вкусом должен выбрать несколько реально удачных вариантов.
Что действительно отличает алгоритмы искусственного интеллекта — так это их совершенно нечеловеческая неутомимость, поэтому из груды вариантов все равно должен выбирать человек. Например, вам срочно нужен слоган к выставке, а копирайтеры уже спят. Попросите нейросеть написать сотню слоганов, и один уж точно подойдет. Потом вокруг него задайте еще 100 вариаций — и в итоге получится такое, чего за сутки не сочинит ни один отряд копирайтеров.
— И копирайтеры останутся без куска хлеба?
— Нет, они начнут заниматься другим. Прямо сейчас у нас висят интереснейшие вакансии для тех, кто хорошо владеет русским языком и пишет тексты. Нам нужны сотни таких людей — тренеров нейросети. И они будут нужны почти всегда. Рабочих мест при технологическом прогрессе всегда становится не меньше, а больше.
В 30-е годы прошлого века в Штатах, да и во всем мире, для музыкантов случилась катастрофа: стала распространяться качественная звукозаписывающая и звуковоспроизводящая аппаратура. А потом появилась звуковая дорожка на лентах кинофильмов. Таперы в кинотеатрах и певцы в ресторанах остались не у дел. Раз в неделю, по пятницам, была живая музыка, а все остальное время — музыкальный автомат.
Выпадал реально большой сегмент рынка труда. И началась огромная кампания, на которую интересно взглянуть из сегодняшнего дня. Во-первых, в ней стали использовать визуальный образ мерзкого бездушного робота, заменившего живого человека, а во-вторых, возник термин canned music — консервированная музыка — который упирал на то, что вместо подлинной музыки нам пытаются скормить искусственную дрянь из железной банки. Оба этих образа актуальны и поныне у тех, кто пугает публику развитием технологий.
А музыка, да, сильно изменилась. Но за век пыль осела, и сегодня любой человек в любой момент получает доступ к любой музыке мира. Можно ли было об этом мечтать? Конечно, у исполнителей есть масса претензий к лейблам и стримингам. Но появилась совершенно новая гигантская индустрия с огромным количеством рабочих мест. И среднестатистическому человеку на земле стало жить лучше, потому что у него появился выбор. Это самое главное, что нам дают технологии.
Но и старые форматы не умирают. Вот, говорят, теперь будут читать книги, написанные искусственным интеллектом. Да, будут — но не только их, потому что читателю книги часто интересен ее автор, реальный человек с его жизненным опытом и, например, скандальным разводом с женой.
«Вы читаете учебники для того, чтобы написать главу, которой в них еще нет»
— Если нейросеть пишет за ученика сочинение, о чем это говорит?
— Месяц назад я модерировал в ИТМО (Петербургский государственный университет информационных технологий, механики и оптики — до 2019 года. — Примеч. ред.) встречу студентов и преподавателей, которая прямо так и называлась: «ИТМО говорит “да” чату GPT». Мы попросили присылать заявки всех, кто хотел бы поделиться личным опытом учебного взаимодействия с этой сетью. Пришло около 300 заявок и от студентов, и от преподавателей, которые я читал с огромным интересом.
А пока я их изучал, фоном шли какие-то материалы — далеко не только российские — как очередной университет запрещает студентам использовать нейросети. В Москве из РГГУ чуть не выгнали студента, который защитил диплом с помощью ChatGPT. Хорошо хоть вменяемый министр их одернул.
А почему университет запаниковал — понятно. Если студент не ходил на лекции — значит, ему просто неинтересно, а обучение нужно только ради бумажки. И он решил сжульничать.
— Так это жульничество?
— Это правильный подход. Тут вопрос к вузу — почему студенты в нем отбывают повинность, расплачиваясь своим временем за диплом? Да потому что ничего полезного для жизни из этого вуза не вынесешь. Задача преподавания — подготовить человека к будущей жизни, он должен уметь делать что-то нужное в реальном мире. Вот главный критерий, по которому можно отделять вменяемые вузы от плохих.
Сгенерировано нейросетью Kandinsky 2.1
Уже в 70-е годы на экзамен в Физтехе можно было прийти с учебниками, это даже поощрялось. Ясно же, что в реальной жизни у меня есть библиотека, куда я пойду и возьму книжку. Но я должен понять, что в ней написано, и применить для решения задач, которые в ней не описаны. Нам так и говорили: «Вы читаете учебники для того, чтобы когда-нибудь написать главу, которой в них еще нет».
Чтобы получить хороший ответ, нужно задать вопрос, в котором уже содержится половина этого ответа. Если вы запрещаете на экзамене пользоваться Google, то к какой жизни вы людей готовите? Но это требует, простите, и соответствующего класса профессуры. В ИТМО не только студенты, но и преподаватели тут же набросились на новые возможности: «Ой, как круто можно это использовать! Как интересно будет на наших семинарах».
Продуктов на основе больших языковых моделей скоро будет много, и без них будет просто невозможно. Хорошие преподаватели понимают, что теперь им придется учить людей жить в мире, где есть ChatGPT или что-то на основе нашего YaLM’а.
Вы знаете, что в прошлом году мы в «Яндексе» объявили о создании YaLM с его сотней миллиардов параметров, но не сделали тогда на его базе какого-то публичного продукта?
«Технологический прогресс — не бойцовское шоу, в режиме “кто кого”»
— Вас послушать, так «Яндекс» все придумал первым. Почему же не сделал?
— Не первым, но и не последним, как «Сбер», кстати. А зачем обязательно гнаться за первенством? Зато мы учтем чужой опыт и на многие грабли не наступим. Генерального директора Google, Сундара Пичаи, все время пинают, что, дескать, они отстали от Microsoft навсегда. А он отвечает, что сейчас происходит нечто похожее на войну браузеров. Никто же не кричал, что Microsoft наконец выпускает свой Explorer, который навсегда убьет Netscape, а потом появится Microsoft Edge и закопает Explorer. А рядом суетился еще какой-то Firefox, а позже Chrome.
Лидер менялся не раз и не два, причем нынешний отнюдь не был первопроходцем. Это очень длинная гонка. Ни один нормальный спортивный комментатор не станет по первым метрам марафонской дистанции делать вывод: «О, ну этот всех сделал, остальные могут дальше не бежать».
Почему же журналисты пытаются превратить и науку, и бизнес, и технологический прогресс исключительно в шоу, причем обязательно в режиме бойцовского клуба «кто кого»? Ну дешевка же. Прошло три месяца, и они объявляют: «Ну все, Google — труп». Сундар Пичаи на это говорит: «Ребята, что вы пристали? Google почти никогда не делал ничего первым. Хорошие цифровые карты были до нас. Поиск был до нас. Хорошая электронная почта была до нас. Но мы сделали лучше всех, учтя опыт первопроходцев, о которых теперь никто, кроме историков, не вспомнит».
Не все знают, что «Яндекс» на год старше Google. Но и мы не были первыми. До этого была Alta Vista и еще некоторые поисковики. Где они теперь? Зато мы сделали сильно лучше, поэтому и остались на этом поле вместе с Google.
«Сейчас будет куча исков — это нормально»
— Недавно был подан огромный иск к нейросети Stable Diffusion, генерирующей изображения. Что теперь будет с авторским правом?
— Ну, то и будет — иски, суды. Это нормально. К счастью, человечество давно выбрало правильный способ решения новых юридических вопросов: судебная практика.
Сгенерировано нейросетью Stable Diffusion
Вот пример, который я очень люблю, связанный с появлением самодвижущегося транспорта, то есть первых автомобилей. Представьте, какой это был ужас для человека XIX века, который привык, что карету тянут лошади. И вдруг она едет сама! Алармисты кричали, что это сведет с ума и людей, и тех животных, которые все еще впряжены в большую часть повозок. Так появился «Закон красных флагов»: перед любым самоходным средством должен идти человек с флажком, ограничивая скорость и показывая, что все под контролем.
Вскоре стало понятно, что если человек неспешно выступает перед пожарным экипажем, то на пожаре не выживет никто. Закон начали потихоньку отменять, и там, где это сделали раньше, лучше развивалась автомобильная промышленность, быстрее вырабатывался регламент, которого не существовало во времена гужевого транспорта: правила движения, дорожная разметка, дорожные знаки, автомобильные права. Это и есть внятный ответ человечества на технический прогресс. Не отменить и запретить, а разумно и бережно отрегулировать.
То, что сейчас возникает куча исков, — совершенно нормальный путь, в результате которого довольно быстро появятся новые правовые нормы. Они не отменят потенциальный вред полностью, но минимизируют его.
«Фейки делают от лени»
— В чем потенциальный вред нейросетей?
— Это мощный инструмент в руках человека, и, как любая другая технология, он может быть использован не с самыми чистыми помыслами. Простейший пример — fake news, которые способны нанести ущерб репутации и ввести массу людей в заблуждение.
— И как защищаться?
— Ну, в данном случае никак. Невозможно сделать так, чтобы их не было. Если у человека стоит задача правильным образом изменить твое мнение, то он так тебе подаст факты, что все равно они будут интерпретированы тобой так, как он рассчитывает.
Когда-то в Советском Союзе, чтобы получить свою исследовательскую группу, мне пришлось окончить Университет марксизма-ленинизма. У нас там был курс теории и практики пропаганды. Технологических возможностей в те времена было мало, поэтому нужно было думать головой. Профессиональная советская — да и американская — школа пропаганды руководствовалась принципом, что надо не придумывать факты, а правильно их отбирать и подавать.
Фейки делаются от лени, чтобы не париться с фактами, а просто что-то быстренько сочинить. Защищаться от этого можно только одним способом: проверять информацию из разных источников, пользоваться критическим мышлением. Иначе никак.
Фото: Сергей Петров
— Есть ли риск, что искусственный интеллект выйдет из-под контроля?
— Ваш смартфон тоже может выйти из-под контроля. Например, в нем заведется какой-то вирус. Но вред будет достаточно локальным. В худшем случае он очистит мой банковский счет, но никого не убьет, ресурсов не хватит. Нейросеть может придумать сценарий «как угробить мир», но никогда не сможет его реализовать.
К счастью, все особо опасные производства не управляемы напрямую из единого центра. Сюжеты про власть нейросети раскручивает исключительно кинематограф. Несколько лет назад в моде было словосочетание «большие данные». Мы тогда много говорили о том, что сами по себе эти массивы не интересны, но зато их можно скормить нейросетям. И тогда же возникли истории про то, что это обязательно кончится захватом мира.
Однажды в большом зале перед лекцией я поставил довольно рядовой маркетинговый эксперимент: попросил всех расслабиться, закрыть глаза и озвучить первое, что приходит в голову в связи со словосочетанием «искусственный интеллект». По залу прошел некий шелест, но громче всех звучало слово «терминатор».
Конечно, это придумали не создатели сетей, не популяризаторы науки, а исключительно киносценаристы и пропагандисты. Очень странно развивать эти кинематографические модели и думать: «А как он на самом-то деле будет нас покорять?» Времени жалко. Не будет искусственный интеллект никого покорять.