В-четвертых, необходимо учитывать антропоцентричность в технике – определение человеком себя как конечной цели любого технического процесса, как выраженного смысла существования техники. Для современных машин causa finalis выступает Homo sapiens. Карандаш и клавиатура, при всей разнице в уровне техники, равно «привязаны» к пальцам. Но в современных фантастических прогнозах самое показательное проявление антропоцентризма – это фактический застой одного из ответвлений фантастики, кибер-панка, рассматривающего равноправные отношения человека и компьютера. С чем он связан? Если романы начинались с описания созданного искусственного интеллекта (дальше – ИИ), то последующее совершенствование машин превращало человека в некую игрушку, в объект действия более могущественных сил. В результате авторы вынуждены сужать горизонт прогноза: чем более человечным желают они изобразить мир, тем меньшими возможностями должны в нем обладать вычислительные машины, из-за этого события произведений развиваются либо в ближайшем будущем, либо задаются некие ограничения, тормозящие развитие техники. В романах основателя кибер-панка У. Гибсона можно наблюдать сползание действия с передового края науки на периферию – только так автор мог сохранить уровень отношений между ИИ и персонажами, заданный в прославленной «Нейромантике».
Возникает вопрос: как же такие системы, у которых нет предела по сложности, смогут изменить человека?
2. Силуэт технологической сингулярности
Полтораста лет назад развитие металлургии определяло индустриальное состояние Европы. Пуск новых доменных печей был важнейшим в технологическом плане событием. Железной дороге повезло еще больше – она зримо помогала каждому человеку, потому изменение общественного бытия зафиксировано во всей классической литературе XIX века.
Однако стоит отрасли отойти от фронтира, сделаться не такой важной, и самые глубинные изменения в ней остаются совершенно не интересны окружающим. Как пристально общество сейчас следит за отказом от мартеновских печей? И действительно, сейчас переворот в металлургии не приведет к настолько же зримому изменению образа жизни людей, как в XIX веке.
Если мы ищем наибольший прорыв в технике – следует искать то наибольшее противоречие, которое в ней присутствует. Тогда даже временное, даже частичное снятие этого противоречия даст гигантские изменения в технике, позволит создать принципиально новые структуры. Каково же основное противоречие в техносфере? Если мы устранимся от частностей отдельных отраслей, то поймем, что техносфера замыкается на чуждом ей факторе – на человеке. Он ее смысл и конечный потребитель. То есть наблюдается противоречие между самообслуживанием техники и ее функциональным назначением.
Может ли техника существовать, имея целиком автономный смысл? Пока еще нет такой техники, которая сама была бы для себя causa finalis. Однако любой токарный станок не обслуживает непосредственно человека, а создает части других механизмов. Далее: будь машина живым существом, она создавала бы свои подобия. Но специализация, присущая техносфере, требует обратного, потому что функция создания, например, паровой машины это одно, а функция, которую будет исполнять эта паровая машина, – совсем другое. И как назвать техносферу, которая сможет разумно контролировать собственное состояние? Такой термин уже существует – ноосфера. Вот цель эволюции техники, которая снимает самое большое из актуальных противоречий ее бытия.
Вопрос о качественном скачке в развитии техники упирается в создание машин, могущих исполнять творческие функции человека. Названия у таких машин уже есть – искусственный интеллект. ИИ должен самостоятельно пополнять набор своих знаний, овладевать новыми методами, оперировать в нечетких ситуациях, адаптироваться.
Запрос на подобную машину во все века был чрезвычайно велик, и пока ее создание было явно невозможным, желания людей выражались в сказках и философских трактатах. Как только возникла самая призрачная возможность создать разумного работника, в подобные проекты стали вкладывать средства.
Например, как вкладывают в САПР, стремясь превратить эту систему в инструмент с максимально широкими возможностями. Требуются программы – секретари и делопроизводители. Уже сейчас есть сканеры, которые могут распознавать содержимое документов, есть аналитические программы, которые частично понимают содержание документов. Если же вспомнить армейскую проблематику, то здесь берут на вооружение вообще все, что позволит заменить человека. И не только потому, что жалко людей, – человек попросту неэффективен. Труслив, ленив, невнимателен, косорук. Бывает, что храбр, инициативен, находчив и удачлив, но реже.
Закон Мура действует исправно, и мощности суперкомпьютеров двадцатилетней давности сейчас никого не впечатляют. То, что вчера было прорывом, сегодня есть в любом доме. Следовательно, за сравнительно короткий исторический промежуток времени ИИ, созданный на передовых машинах, на суперкомпьютерах, сможет интегрироваться во всемирную паутину. Техносфера приобретет качества самоуправления, самоорганизации.
Это как раз то, что в рамках трансгуманизма принято называть «сингулярностью».
Каково же будет качественное изменение отношений между человеком и техносферой в случае создания ИИ?
Это будет переворот отношения к человеку, причем самый страшный из всех, бывших до того. По И. Канту, человек должен быть не средством, а целью. Но парадокс в том, что пока Homo sapiens остается средством – неизбежно приходилось делать его и целью. Если государство стремится послать солдата на войну, надо ждать хотя бы пятнадцать лет от момента его рождения. Допустим, человек перестанет быть средством, – ни его тело, ни его аналитические способности, ни его эмоции уже не смогут выступить на рынке первосортным товаром. Машины все сделают лучше. В этом случае целью человек будет оставаться только по инерции, за ним останется лишь роль потребителя.
И статус потребителя, как финальной причины существования техники, вовсе не спасает человека от деградации.
Сейчас уже никто не желает учить сведения, которые в любой момент, при ничтожных усилиях можно получить в Интернете. То есть от необходимости знать, где в какой книге находятся ответы, люди переходят просто к умению грамотно формулировать вопрос. За этим почти неизбежно последует новый шаг – формулировать свои пожелания. Но если личный микрокосм человека будет состоять из элементов, поставляемых поисковой системой, и если программа будет указывать лучшие варианты решений, – то даже «слабый» ИИ станет лучшим кормчим в этой искусственной вселенной. Несколько сгущая краски, можно сказать, что характер ребенка сформируется в зависимости от свойств поисковой системы и программы-опекуна – ведь даже родители станут полагаться на почти безошибочные советы компьютеров.
В не самой приятной перспективе мы получаем симбиоз – человек не сможет создавать никаких других смыслов жизни, кроме тех, что уже заданы ему необходимостью потребления. Его личный микрокосм состоит только из элементов, смоделированных компьютером, а решения в этом микрокосме принимаются только по калькам компьютерных решений. Человек становится неким полумагическим элементом, который живет вроде бы для себя, но уже и для техносферы. А техносфера, еще будучи не в состоянии осмыслить сама себя, использует человека как замыкающее звено ее причинно-следственных связей.
Каков может быть ответ человека на все эти потенциальные угрозы?
Микрочипы в крови или укрепленные микроволокном кости скелета, или усовершенствованные хрусталики глаз – дадут лишь очередного «супермена». Но сознание человека мало изменится. Даже нейрошунт, устройство, которое позволит нервной системе напрямую воспринимать информацию от компьютера, здесь не поможет.
Основное требование для сохранения за человеком его статуса – это неограниченные возможности роста его умственных способностей. Лишь обретя возможности по самосовершенствованию, присущие сейчас компьютерам, человек, как субъект, останется во главе техносферы. Так сказать, на вершине пищевой (интеллектуальной) пирамиды.
Подобную трансформацию называют перекачкой (или преображением) – сознание человека оцифровывается и переводится в машину. Идея далеко не нова, неоднократно «обкатывалась» в фантастической литературе. Она, понятно, является весьма спорной по этическим и религиозным соображениям.
Но оцифровка человеческого сознания и создание ИИ – это две стороны одной медали. Если ИИ будет создан на фоне значительного отставания в технологиях работы с мозгом, то люди теряют свое место на вершине техносферы. Самое грустное, что для этого надо просто оставить все как есть: конкурентная борьба и войны обеспечат появление ИИ – ведь в бесплатных и сообразительных работниках нуждаются практически все. Если же будет создана технология преображения, то человечество раскалывается на тех, кто может себе позволить перенос, и всех остальных, – этот вариант блестяще показал Р. Желязны в романе «Князь света».
Основное противоречие, которое вскрывает данная работа, – это противоречие между созданием искусственного интеллекта и оцифровкой сознания.
И у преображенных будут свои проблемы. Основная из них – самотождественность личности. Человек переживает множество психологических кризисов в детстве, но там есть привязка к обществу, к подобным ему, в конце концов – к собственному телу. С какими кризисами столкнется сознание после преображения – сказать очень тяжело. Программное состояние психики позволит человеку свободно перестраивать собственную личность, и эта личность будет непрерывно развиваться. Цифровое самосовершенствование – принципиально новая степень свободы.
Самые известные (или самые одиозные) трансгуманисты называют 2030-е годы[2] наиболее вероятным временам технологической сингулярности. Эти прогнозы могут не сбыться. Как не сбылись в полном объем прогнозы о быстром создании программ-переводчиков, о конструировании ИИ еще в 70-х гг. XX века и множество других оптимистичных предположений. Но даже если к созданию полноценного самосовершенствующегося ИИ человечество подойдет в 2050-60-х – это будет означать коренное изменение человеческой истории.
Однако в пояснении того, что же будет дальше, за гранью, – футурологи вообще, и трансгуманисты в частности, чрезвычайно немногословны. Что же можно разглядеть в грядущих витках научно-технического прогресса?
Главное, что после своего создания ИИ будет неограничен в росте. Биологических рамок, которые задает мозг, у него нет. Следовательно, возможно объединение всей техносферы в рамках единой управляющей структуры – возникновение моносубъекта. Этот сюжет неоднократно рассматривался в фантастической литературе, изрядно опошлен и затаскан. Сколько-нибудь аналитическое рассмотрение основных вариантов подобной интриги требует десятков страниц текста и множества допущений в стиле «Загадки Прометея» Л. Мештерхази.
Но образ моносубъекта позволяет сформулировать противоречие, которое будет характерно для техносферы после достижения технологической сингулярности:
Противостояние между моносубъектностью и полисубъектностью; между неантагонистическим решением всех противоречий в рамках одной личности, и острой конкурентной борьбой нескольких индивидуумов.
То есть противоречие между частью и целым, между всеохватным единством и необходимым разнообразием.
Любой кризис в целиком компьютеризованной техносфере будет провоцировать возникновение моносубъекта – хотя бы с целью экономии ресурсов или для победы над противником. И с возможностью подобного «конца истории» необходимо считаться, ведь на фоне моносубъекта человечество уже не будет играть определяющей роли.
Но будет ли бесконечным развитие этого моносубъекта? Для самообновления необходимо актуализировать некие противоречия, но внутри моносубъекта такой возможности может элементарно не оказаться – все самостоятельные центры мышления будут устранены. Тогда единственным вариантом остается бесконечная экспансия нашей техносферы во вселенной и при этом, как ни парадоксально, потеря ее субъектности. Если будут повторяться одни и те же стандартные решения, замкнется цикл самовоспроизводства – и мы получим образ, похожий на образ Океана планеты Солярис. Техносфера скатится, если уместно такое сравнение, из животного мира в растительный, и кремниевый «Океан», выросший из наших компьютеров, будет активно заселять планету за планетой.
Если сохранятся несколько центров мышления – это привнесет в техносферу более явные противоречия. Пока одни субъекты будут тратить время и ресурсы на освоение территорий, другие смогут вырасти качественно. Создать принципиально новые технологии, которые позволят взять под контроль «первопроходцев» – более совершенные программы, энергетические системы, оружие. В конкурентной борьбе будет постоянно возникать фактор принципиально новой технологии.
Можно представить себе гипотетическую науку, которую, по аналогии с наукой о биосфере и среде обитания – экологией, можно будет назвать наукой о равновесии разумов в пространстве – экофренией. Она будет описывать ту иерархию разумов, которая сложится после широкого распространения ИИ. Понятно, что эта иерархия будет чрезвычайно подвижной, так как составляющие ее субъекты смогут перестраивать собственные личности. Это как если бы музыканты могли бы улучшать слух и навыки игры простой «дозагрузкой» новых программных пакетов. Лучшие пианисты и виолончелисты, конечно, имели бы большие шансы получить свежие программы, но и посредственный скрипач после обновления заиграл бы не хуже Паганини.
3. Самость России
Изменения, которые ждут нас в ближайшие сто лет, так велики, что на их фоне меркнут отличия страны от близких и дальних соседей. Однако это не значит, что надо отказываться от самих себя; напротив, вполне возможно обеспечить преемственность – сохранить линию развития страны, ее индустрии, науки и искусства. Обеспечение культурной преемственности в развитии содержит противоречие: между своей конкретной, нынешней формой – и будущим, которое может принять произвольное обличье.
Статичное укрепление идентичности всегда сводится к проставлению национальных штампов на всех окружающих предметах, словах и образах. Чем заканчивается подобная линия поведения, хорошо видно на примере Эстонии или Латвии.
Однако путь космополитической империи, в которой народы смешиваются без общей цели, не менее опасен. Если империя терпит поражение, то носители «стандартного культурного набора», как то язык и нормы поведения, не желают тратить свои жизни на ее спасение. Если взять русскоязычных эмигрантов, переехавших в Израиль, или жителей западной Украины, или многих жителей Кавказа – владение русским языком нисколько не приближает их к цивилизационному проекту «Россия». Имперский язык – лишь основа сохранения единства общества, но не гарантия жизни «души народа».
Цивилизации движутся вперед империями, при том, что империя a priori многонациональна. Любая страна, объединяющая в своем составе столько народов, сколько Россия, сталкивается с феноменом этнической контр культуры: некий субэтнос, этнос или даже социальная страта осознают выгодность действий, направленных на разрушение государства. Объединяющие население религиозные культы, языки, метафизические идеи на определенном этапе перестают работать по отношению к такой группе. Эту группу людей можно квалифицировать по-разному: как «антисистему» Л. Н. Гумилева или как «бесов» Ф. М. Достоевского, – не суть важно.
Попытаемся показать, на основании какой схемы было бы естественнее снимать это противоречие. Используем огрубленную аналогию с тремя уровнями развития культуры.
Первый – занимают масс-культура и архаика. В современных условиях новую субкультуру можно создать за две недели. Модная одежда, десяток экзотических аксессуаров, жаргонные словечки. Носителем этой культуры выступит молодежная среда, а источником финансов и вдохновения – очередной фильм. Собственно, под любой современный блокбастер сочиняется очередной маленький культ: есть свои герои, мифы и фетиши. Однако у субкультуры есть предел развития – в ее рамках не решают реальных проблем общества, это всего лишь способ уйти от действительности. Аналогично в современных условиях неадекватна культура племен Амазонки или Якутии.
Второй уровень – это «осваивающая» культура небольших государств, готовая перелицевать материалы других культур. Ее представители не могут своими силами создавать передовые научные разработки, творить высокое искусство мирового уровня, поэтому основные усилия этой культуры направлены на «перевод текстов» в самом широком смысле. Лишь в частностях удается временами совершать прорывы. Однако народ-носитель этой культуры с ее помощью осмысливает собственное существование. Ее язык – уже «дом бытия». Разумеется, проблемы большей частью далеко не всемирно-исторические, а скорее, специфические. И предел ее развития – перевод материалов из других стран «в режиме реального времени».
Третий уровень – производящая культура, культура фронтира цивилизации. Она сталкивается с принципиально новыми явлениями, вынуждена осмыслять их. Ей приходится вырабатывать новые ценности, новые идеалы, создавать новые понятия и образы. Подобная культура уникальна, поскольку находит свои собственные формы решения противоречий, возникающих при ее развитии. Ее можно отдаленно сравнить с миром-экономикой из работ Ф. Броделя – там поддерживается относительная самодостаточность при постоянном созидании принципиально новых продуктов.
Культуры не статичны, да и в разных своих составляющих могут существовать на разных уровнях. Россия в своей культуре совмещает второй и третий уровни, неся в себе множество субкультур и проявлений этнической архаики. Чем больше проблем решается в рамках ее культуры, тем большей интегрирующей силой она обладает. Лишь первым разглядев будущее, можно сделать его своим.