Огромное население Китая 1,4 млрд человек означает, что в его распоряжении находится самый богатый и, возможно, самый важный природный ресурс эпохи ИИ: данные о людях. Чтобы добиться высокой точности от алгоритма распознавания образов, требуются огромные объемы данных, и поэтому китайские системы распознавания лиц, например Megvil или SenseTime, так привлекательны для инвесторов. Все данные, которые китайские граждане генерируют, когда звонят друг другу, делают покупки онлайн или публикуют фото в социальных сетях, помогают Baidu, Alibaba и Tencent создавать лучшие в своем классе системы ИИ. Важное преимущество Китая отсутствие ограничений, связанных с неприкосновенностью частной жизни и безопасностью, которые отчасти могут тормозить прогресс в Соединенных Штатах.
Нам следует рассматривать планы разработки ИИ в более широком контексте грандиозных планов Китая. В апреле 2018 года президент Си выступил с большой речью, где поставил задачу превратить Китай в глобальную компьютерную сверхдержаву. Государственное информационное агентство Синьхуа воспроизвело отрывки из нее, где описана сеть для администрирования киберпространства и Интернет, который «распространял бы положительную информацию, держался бы верной политической линии, направлял бы общественное мнение и ценности в правильную сторону»[3]. Авторитарный закон, по которому Китай хочет заставить жить всех нас, не имеет ничего общего со свободой слова, рыночной экономикой и распределенным управлением ценностями, которыми мы дорожим на Западе.
ИИ упоминается в ряде законодательных актов Китая, которые нацелены на тотальный контроль над всей информацией, создаваемой внутри границ страны, и перехват данных ее резидентов, а также граждан государств стратегических партнеров. Один из таких актов требует хранить все данные о китайских гражданах на серверах, расположенных на территории Китая. Тем самым государственные службы получают возможность свободного доступа к этим данным. Другая инициатива, «Облако китайской полиции», разработана для контроля и отслеживания местоположения душевнобольных, критиков режима и уйгуров этнического меньшинства, исповедующего ислам. В августе 2018 года Организация Объединенных Наций заявила о наличии у нее достоверных сведений, что Китай удерживает миллионы уйгуров в тайных лагерях на дальнем западе страны[4]. Так называемая Китайская интегрированная программа совместных действий использует ИИ для поиска отклонений от общепринятого социального поведения например несвоевременной оплаты счетов. Система социального кредита, согласно удачной фразе из ее основополагающего документа, разработана ради создания идеального общества, «позволяя достойным доверия свободно перемещаться, в то время как дискредитировавшим себя будет трудно сделать хотя бы шаг[5]». Понятие «достойный доверия» определяется на основании численных показателей, например за «героические поступки» (гражданину начисляются баллы) и штрафы за нарушение правил дорожного движения (баллы вычитаются). Граждане с низким рейтингом могут столкнуться с трудностями при приеме на работу, покупке дома или попытке отдать детей в школу. В некоторых городах портреты граждан с высоким рейтингом выставляются на доске почета[6]. В других городах, таких как Шаньдун[7], фотографии людей, нарушающих правила перехода улицы, выставляются на цифровых рекламных стендах на всеобщее обозрение и автоматически отправляются в Weibo, популярную социальную сеть[8]. Если все это кажется слишком невероятным, вспомните, что Китай смог успешно провести в жизнь политику одного ребенка, чтобы сдержать рост населения.
Эти проекты и инициативы рождены в узком кругу советников президента Си Цзиньпина, которые примерно десять последних лет сосредоточены именно на превращении Китая в мировую сверхдержаву и соответствующем изменении восприятия Китая окружающим миром, а также реформах внутри страны. Сегодня Китай более авторитарен, чем при любом из предыдущих руководителей со времен Мао Цзедуна, и разработка и внедрение ИИ необходимое условие сохранения такого положения дел. Инициатива «Один пояс и один путь» на самом деле масштабный глобальный стратегический план, замаскированный под план строительства инфраструктуры, которая повторяет маршруты Шелкового пути, что связывал когда-то Китай с Европой через Ближний Восток и Африку. Китай не просто строит мосты и шоссе он экспортирует технологию слежения и собирает данные, увеличивая таким образом влияние Коммунистической партии Китая в мире в противовес нашему либеральному демократическому порядку. Инициатива Global Energy Interconnection еще один национальный стратегический план, который поддерживает президент Си. Он предусматривает создание первой в мире глобальной сети электроснабжения, управляемой из Китая.
Эти проекты и инициативы рождены в узком кругу советников президента Си Цзиньпина, которые примерно десять последних лет сосредоточены именно на превращении Китая в мировую сверхдержаву и соответствующем изменении восприятия Китая окружающим миром, а также реформах внутри страны. Сегодня Китай более авторитарен, чем при любом из предыдущих руководителей со времен Мао Цзедуна, и разработка и внедрение ИИ необходимое условие сохранения такого положения дел. Инициатива «Один пояс и один путь» на самом деле масштабный глобальный стратегический план, замаскированный под план строительства инфраструктуры, которая повторяет маршруты Шелкового пути, что связывал когда-то Китай с Европой через Ближний Восток и Африку. Китай не просто строит мосты и шоссе он экспортирует технологию слежения и собирает данные, увеличивая таким образом влияние Коммунистической партии Китая в мире в противовес нашему либеральному демократическому порядку. Инициатива Global Energy Interconnection еще один национальный стратегический план, который поддерживает президент Си. Он предусматривает создание первой в мире глобальной сети электроснабжения, управляемой из Китая.
Там уже научились масштабировать технологию передачи электроэнергии по сверхвысоковольтным кабелям, что позволяет доставлять электричество в Шанхай с дальнего запада страны и сейчас Китай заключает договоры, превращающие его в поставщика электроэнергии для соседних стран.
Эти инициативы, как и многие другие, остроумный способ надолго обеспечить расширение своей «мягкой власти». Это великолепный ход со стороны Си Цзиньпина, за отмену предельного срока пребывания на посту которого КПК проголосовала в марте 2018 года, тем самым позволив ему по сути оставаться президентом пожизненно. Конечная цель стратегии президента Си предельно проста: построить мировой порядок, обеспечивающий Китаю лидерство де-факто. Тем не менее во время расширения сферы дипломатического влияния Китая Соединенные Штаты необъяснимым образом перестали замечать долгосрочные глобальные союзы и соглашения с его участием, когда президент Трамп возвел новый «бамбуковый занавес».
Если говорить о будущем ИИ, то его разработка сейчас движется двумя путями, часто не соответствующими представлениям о благе человечества. Усилия Китая являются частью скоординированного плана построения нового мирового порядка с Си Цзиньпином во главе, а в Америке главными движущими силами служат рыночные факторы и консьюмеризм. Сочетание этих двух факторов представляет собой слабое место, потенциально угрожающее всем нам. Разрешение этой проблемы самый важный вопрос для будущего развития ИИ, именно в этом и заключается задача настоящей книги. Может быть, компании «Большой девятки» преследуют одну и ту же благородную цель взломать код машинного интеллекта, чтобы строить системы, способные мыслить подобно человеку, но со временем результаты их работы могут нанести непоправимый вред человечеству.
В принципе я верю, что ИИ представляет собой положительную силу, которая принесет много пользы следующим поколениям и поможет построить будущее, соответствующее нашим самым идеалистическим представлениям о нем.
Но я прагматик. Мы все знаем, что даже люди, которые руководствуются самыми благими намерениями, способны причинить огромный вред. Говоря о технологии, особенно об ИИ, всегда следует иметь план на случай злоупотребления ею, как случайного, так и намеренного. Особенно важно это сейчас, когда ИИ захватывает все сферы человеческой деятельности: глобальную экономику, рынок труда, сельское хозяйство, транспорт, банковскую сферу, контроль за состоянием окружающей среды, образование, вооруженные силы и национальную безопасность. Вот почему, если нынешние направления развития ИИ в Соединенных Штатах и Китае сохранятся, 2069 год может оказаться совсем не похожим на 2019-й. По мере того как структуры и системы, управляющие обществом, постепенно перейдут на использование ИИ, мы увидим, что принятые ими от нашего имени решения выглядят совершенно разумными только с точки зрения машины, а не с нашей.
Мы, люди, быстро теряем бдительность как раз тогда, когда машины пробуждаются. Мы уже прошли несколько важных этапов технологического и геополитического развития ИИ, но при этом с каждым значительным шагом вперед ИИ становится все менее заметен нам. Наши данные анализируются и уточняются все менее очевидным для нас образом, а наша способность понимать, каким образом автономные системы принимают решения, снижается. Таким образом, уже сейчас мы не в состоянии понять, каким образом ИИ влияет на нашу жизнь, и этот разрыв будет расти по экспоненте с течением времени, когда для нас минуют годы, а потом и десятилетия. Сократить этот разрыв насколько возможно, критикуя нынешний путь развития ИИ, вот задача, ради которой я пишу эту книгу. Моя цель сделать обсуждение искусственного интеллекта более демократичным, снабдить вас дополнительными знаниями относительно того, что нас ждет, а также объяснить, пока еще не поздно, как последствия развития ИИ коснутся именно вас и почему они будут совершенно ощутимыми и конкретными.