Если говорить о будущем ИИ, то его разработка сейчас движется двумя путями, часто не соответствующими представлениям о благе человечества. Усилия Китая являются частью скоординированного плана построения нового мирового порядка с Си Цзиньпином во главе, а в Америке главными движущими силами служат рыночные факторы и консьюмеризм. Сочетание этих двух факторов представляет собой слабое место, потенциально угрожающее всем нам. Разрешение этой проблемы самый важный вопрос для будущего развития ИИ, именно в этом и заключается задача настоящей книги. Может быть, компании «Большой девятки» преследуют одну и ту же благородную цель взломать код машинного интеллекта, чтобы строить системы, способные мыслить подобно человеку, но со временем результаты их работы могут нанести непоправимый вред человечеству.
В принципе я верю, что ИИ представляет собой положительную силу, которая принесет много пользы следующим поколениям и поможет построить будущее, соответствующее нашим самым идеалистическим представлениям о нем.
Но я прагматик. Мы все знаем, что даже люди, которые руководствуются самыми благими намерениями, способны причинить огромный вред. Говоря о технологии, особенно об ИИ, всегда следует иметь план на случай злоупотребления ею, как случайного, так и намеренного. Особенно важно это сейчас, когда ИИ захватывает все сферы человеческой деятельности: глобальную экономику, рынок труда, сельское хозяйство, транспорт, банковскую сферу, контроль за состоянием окружающей среды, образование, вооруженные силы и национальную безопасность. Вот почему, если нынешние направления развития ИИ в Соединенных Штатах и Китае сохранятся, 2069 год может оказаться совсем не похожим на 2019-й. По мере того как структуры и системы, управляющие обществом, постепенно перейдут на использование ИИ, мы увидим, что принятые ими от нашего имени решения выглядят совершенно разумными только с точки зрения машины, а не с нашей.
Мы, люди, быстро теряем бдительность как раз тогда, когда машины пробуждаются. Мы уже прошли несколько важных этапов технологического и геополитического развития ИИ, но при этом с каждым значительным шагом вперед ИИ становится все менее заметен нам. Наши данные анализируются и уточняются все менее очевидным для нас образом, а наша способность понимать, каким образом автономные системы принимают решения, снижается. Таким образом, уже сейчас мы не в состоянии понять, каким образом ИИ влияет на нашу жизнь, и этот разрыв будет расти по экспоненте с течением времени, когда для нас минуют годы, а потом и десятилетия. Сократить этот разрыв насколько возможно, критикуя нынешний путь развития ИИ, вот задача, ради которой я пишу эту книгу. Моя цель сделать обсуждение искусственного интеллекта более демократичным, снабдить вас дополнительными знаниями относительно того, что нас ждет, а также объяснить, пока еще не поздно, как последствия развития ИИ коснутся именно вас и почему они будут совершенно ощутимыми и конкретными.
Человечество проходит через экзистенциальный кризис в самом буквальном смысле слова, поскольку никто не занимается вопросом, ключевым для ИИ с самого начала работ над ним: что произойдет с обществом, когда мы передадим власть системе, разработанной небольшой группой людей для того, чтобы она принимала решения, которые касаются всех? Что произойдет, если эти решения склонятся в сторону рыночных факторов или интересов амбициозной политической партии? От ответа зависит, какие именно возможности откроются перед нами в будущем, каким образом нам станут закрывать доступ к тому или иному ресурсу, какие социальные условности возникнут внутри наших обществ, по каким правилам заработает экономика наших стран и каким образом мы окажемся связаны с другими людьми.
Эта книга не об обычных спорах вокруг ИИ. Она одновременно предостережение и набросок лучшего будущего. Она ставит под вопрос нелюбовь нас, американцев, к долгосрочному планированию, и подчеркивает неготовность к приходу ИИ в сфере бизнеса, образования, государственного управления. Она рисует впечатляющую картину скоординированных между собой геополитических, экономических и дипломатических планов Китая, направленных к единой цели установлению мирового господства. И она требует героического руководства в исключительно трудных обстоятельствах. Потому что, как вы сами увидите, нашему будущему требуется герой.
Текст, который последует ниже, представляет собой призыв к действию в трех частях. Из первой вы узнаете, что такое ИИ и какую роль в его разработке сыграла «Большая девятка». Мы также в деталях рассмотрим положение, в котором находятся американские члены «Большой девятки» и китайские Baidu, Alibaba и Tencent.
Вторая часть подробно описывает вероятные варианты будущего, исходя из прогноза развития ИИ на 50 лет. Среди трех сценариев, которые вы увидите, окажется и оптимистический, и прагматический, и катастрофический, и в них будут показаны как возможности, так и риски, с которыми сопряжен переход от слабого к сильному ИИ. Все эти сценарии несут высокую эмоциональную нагрузку. Они построены на основе моделирования с использованием фактических данных и дают вам интуитивное представление о том, в каком направлении может развиваться ИИ и как в результате этого изменится наша жизнь.
В третьей части я предлагаю стратегические и тактические решения всех проблем, перечисленных в сценариях, а также конкретный план исправления настоящего. Третья часть, по моему замыслу, должна заставить нас действовать, поэтому в ней содержатся конкретные рекомендации для правительств, «Большой девятки» и даже вас лично.
* * *
Каждый человек из числа живущих сегодня способен сыграть серьезную роль в будущем ИИ. Решения, которые мы принимаем относительно ИИ сейчас казалось бы, даже самые незначительные, навсегда изменят ход человеческой истории. Машины пробуждаются, и в один прекрасный день мы можем понять, что вопреки нашим надеждам и альтруистическим амбициям воздействие наших систем ИИ на человечество было катастрофическим.
Но подобное развитие событий отнюдь не предопределено.
«Большой девятке» в моем рассказе вовсе не отводится роль злодея. Напротив, входящие в нее компании наша главная надежда на лучшее будущее.
Переверните страницу. Мы не можем пассивно ждать, что принесет нам будущее. ИИ уже среди нас.
Часть 1
Духи внутри машины
Глава 1
Разум и машина: очень краткая история ИИ
Корни современного ИИ берут свое начало в далеком прошлом, задолго до того, как «Большая девятка» создала наших электронных помощников: Сири, Алексу и их китайского коллегу Тян Мао. И за все это время не было создано единого определения ИИ, подобного тому, что существует для других технологий. Когда дело касается ИИ, оказывается, что сложно дать его конкретное описание, поскольку он представляет собой разные вещи, даже когда отрасль продолжает развиваться. То, что вполне можно было назвать ИИ в 1950-х калькулятор, способный выполнять деление столбиком, сегодня едва ли воспринимается как шедевр технологии. Это явление известно под названием «парадокса невозможного» как только новая технология становится частью мейнстрима, мы перестаем ее замечать. Мы больше не воспринимаем ее как ИИ.
В самой базовой форме ИИ представляет собой систему, самостоятельно принимающую решения. Действия, выполняемые ИИ, повторяют работу человеческого разума или подражают ей. Примерами могут служить распознавание звуков и изображений, решение задач, понимание естественного языка, использование стратегии для достижения целей. Некоторые системы ИИ огромны и способны осуществлять миллионы вычислений, в то время как другие узки и предназначены для решения всего одной задачи, например поиска обсценной лексики в сообщениях электронной почты.
В своих рассуждениях мы постоянно возвращаемся к одним и тем же вопросам: могут ли машины думать? Что означает глагол «думать» в применении к машине? Что означает он в применении к нам? Что такое мысль? Как мы можем быть уверены однозначно, с полной определенностью, что мы на самом деле думаем свои собственные оригинальные мысли? Эти вопросы живут рядом с нами в течение столетий и обладают основополагающим значением как для истории ИИ, так и для его будущего.
Когда мы задаемся вопросом, каким именно образом мыслят люди и машины, главной проблемой оказывается, что слово «мыслить» неотделимо от слова «ум». Словарь Merriam-Webster Dictionary определяет слово «мыслить» как «формировать или иметь в уме», а Oxford Dictionary[9] объясняет, что это означает «активно использовать ум для формирования взаимосвязанных идей». Если мы посмотрим в словаре значение слова «ум», то окажется, что и Merriam-Webster, и Oxford определяют его в контексте слова «сознание». Но что такое сознание? Согласно обоим словарям, это качество или состояние, при котором мы осознаем действительность и реагируем на предлагаемые ею стимулы[10]. Различные группы специалистов: психологи, нейробиологи, философы, теологи, ученые в области этики или информатики все они будут подходить к определению термина «мышление» со своих позиций.
Если мы ищем столик в любимом ресторане при помощи Алексы, она, как и мы, будет обсуждать еду так, словно осознает действительность и способна реагировать на внешние стимулы. При этом Алекса никогда не чувствовала хрустящего яблока на зубах, пикантных маринованных огурчиков или газированной воды на языке, прикосновения густого арахисового масла к нёбу. Попросите Алексу описать свойства этих продуктов, и ее ответ будет опираться на ваш собственный опыт. У Алексы нет рта как же она может ощущать вкус пищи, подобно вам?
Вы уникальная в биологическом смысле личность, и потому слюнные железы и вкусовые сосочки расположены у вас не совсем так, как у меня. Тем не менее мы оба знаем, что такое яблоко, каково оно в общем на вкус, какова его текстура, как оно пахнет. В какой-то момент жизни мы научились узнавать яблоко при помощи методики, которую специалисты называют «обучением с подкреплением»: кто-то объяснил нам, что такое яблоко и чем оно отличается от других фруктов. Потом, со временем и без нашего осознанного участия, наши автономные биологические системы распознавания образов довели до совершенства навык узнавания яблока, даже при недостаточных данных. Увидев черно-белое, двумерное, схематичное к тому же изображение яблока, мы знаем, что это такое, несмотря на то, что у нас нет сведений о вкусе, запахе, хрусте и других вещах, сигнализирующих мозгу: «Это яблоко». Способы, которыми мы и Алекса узнали что-то о яблоках, куда ближе друг к другу, чем можно было бы подумать.
Алекса вполне компетентна, но вот разумна ли она? Должно ли ее машинное восприятие обладать всеми качествами человеческого, чтобы мы приняли ее способ «мышления» как адекватное отражение своего собственного? Американский психолог методов обучения Бенджамин Блум основную часть своей академической карьеры посвятил исследованию и классификации состояний ума. В 1956 году он опубликовал систему, позже известную как «таксономия Блума», описывавшую цели обучения и достижения учащихся в образовательном процессе. Базовый уровень это запоминание фактов и основных понятий, за ним по порядку следуют понимание идей, применение знаний в новой ситуации, экспериментальный анализ информации и выстраивание логических связей, оценка, защита и определение ценности информации и, наконец, создание оригинальной работы. Будучи маленькими детьми, мы в основном заняты запоминанием и пониманием. Например, нам сначала следует запомнить, что в бутылке находится молоко, а только после этого что у бутылки есть лицевая и тыльная сторона, даже если мы одной из них не видим.
Компьютеры обучаются, следуя той же иерархии. Например, в 2017 году система ИИ под названием Amper создала и записала музыку для альбома I AM AI («Я ИИ»). Аккорды, инструментовку, партии ударных Amper разрабатывала сама, используя в качестве исходных параметров жанр, настроение и длину произведения, и при этом среди ее произведений проникновенная баллада Break Free, набравшая более 1,6 млн просмотров на YouTube и ставшая хитом на обычном радио. Прежде чем написать такую песню, Amper нужно было узнать качественные характеристики популярной баллады, а также некоторую количественную информацию, например как рассчитывать высоту нот и такты, как распознавать тысячи шаблонов в музыке (аккордовые последовательноси, гармонические последовательности, ритмические акценты).
Способность к творчеству, по Блуму, является высшим результатом обучения, но не было ли оно в данном случае просто выученным механическим процессом? Было ли это творчество подобно человеческому? Или его природа была совершенно иной? Думала ли Amper о музыке так же, как композитор-человек? Можно было бы попытаться доказать, что «мозг» Amper нейронная сеть, которая использует алгоритмы и данные, ограниченные своим контейнером, не так уж сильно отличается от мозга Бетховена, который построен из органических нейронов, использует данные, распознает образы и заключен в контейнер его головы. Так ли сильно отличался творческий процесс Amper от бетховенского, когда тот создавал свою Пятую симфонию с ее знаменитым началом «та-та-та-ТАМ» и последующим переходом из мажора в минор? За этими четырьмя нотами следуют гармоническая последовательность, фрагменты гамм, арпеджио и другие ингредиенты, из которых состоит любая композиция. Прислушайтесь внимательно к скерцо в финале, и вы услышите очевидные заимствования из Сороковой симфонии Моцарта, написанной на двадцать лет раньше, в 1788 году. Моцарт испытывал влияние Антонио Сальери и своего друга Франца Йозефа Гайдна, которые, в свою очередь, находились под влиянием своих предшественников, например Иоганна Себастьяна Баха, Антонио Вивальди и Генри Перселла, творивших с середины XVII до середины XVIII века. В их музыке можно услышать следы работ еще более ранних композиторов, таких как Якоб Аркадельт, Жан Мутон и Йоханнес Окегем. Те, в свою очередь, испытывали влияние композиторов самого раннего Средневековья и цепочку можно проследить дальше, до самой первой записанной композиции, так называемой Сейкилосской эпитафии, выбитой на мраморном столбе, который был обнаружен на территории современной Турции и когда-то служил надгробным памятником. Можно углубляться и дальше в прошлое, к тем временам, когда были изготовлены первые примитивные флейты из костей животных и слоновой кости то есть примерно 43 000 лет назад. Ученые полагают, что и в более ранние времена наши предки пели, прежде чем начать говорить[11].
Человеческое мышление представляет собой результат миллионов лет эволюции. Подобным же образом мышление современного ИИ опирается на долгий эволюционный процесс, начинающийся со времен математиков, философов и ученых древности. Хотя может показаться, что человечество и царство машин всегда шли разными путями, на самом деле наше развитие было взаимосвязано. Homo sapiens извлекал уроки из окружающей его среды, передавал нужные привычки последущим поколениям, приобретал все большее разнообразие и размножался благодаря изобретению совершенных технологий, таких как сельское хозяйство, охотничьи орудия, пенициллин. Понадобилось 11 000 лет, чтобы население Земли увеличилось с шести миллионов человек в неолите до семи миллиардов в наши дни[12].