Но так ли это? В одном из разделов моей книги я уделю внимание некоторым соображениям, показывающим, по моему мнению, что машины вполне способны творить другие машины по своему образу и подобию. Предмет моих рассуждений одновременно является сугубо техническим и весьма узким. Не следует воспринимать мои рассуждения слишком серьезно, как описание фактической модели биологического процесса воспроизведения, и уж тем более как полную модель божественного творения; в то же время она полезна в том отношении, что проливает свет на обе эти концепции.
Два упомянутых раздела книги могут рассматриваться как дополняющие друг друга. Обучение индивида представляет собой процесс, который протекает на протяжении жизни человека, в онтогенезе. Биологическое воспроизведение есть явление, протекающее на протяжении жизни человеческого рода, в филогенезе, но обучается не только индивид, но и род в целом. Дарвиновский естественный отбор является разновидностью процесса родового обучения, он происходит в условиях, которые устанавливаются воспроизведением индивидов.
Третья группа тем данной книги также относится к проблемам обучения. Имеются в виду взаимоотношения машины и живого существа, а также систем, объединяющих в себе характеристики машин и живых существ. С учетом сказанного понятно, что рассмотрению подлежат нормативные, точнее, этические принципы. Мы изучим наиболее важные моральные ловушки, в которые, судя по всему, может угодить современное поколение, и затронем обширный комплекс человеческих традиций и легенд, окружающих магию и другие подобные материи.
Начнем с обучающихся машин. Организованной системой можно назвать такую систему, которая преобразует некое входящее сообщение в исходящее в соответствии с каким-то принципом трансформации. Если этот принцип трансформации регулируется некоторым критерием эффективности и если способ преобразования подразумевает повышение эффективности работы системы в соответствии с указанным критерием, значит, такую систему можно назвать обучаемой. Простейшим типом системы с легко интерпретируемым критерием эффективности является игра, которая ведется по определенным правилам, а критерием эффективности в ней выступает выигрыш, которого удалось добиться при соблюдении этих правил.
Есть игры, обладающие совершенной теорией и потому не представляющие для нас интереса. Примерами подобных игр служат «ним» по Бутону и «крестики-нолики». В этих играх мы не просто можем теоретически найти наилучшую стратегию для выигрыша; теория победы заранее известна во всех подробностях. Игроки (тот или другой, не имеет значения) всегда могут выиграть или хотя бы свести поединок к ничьей, придерживаясь вышеназванной тактики. В теории любая игра может быть сведена к подобному состоянию (эта мысль принадлежит покойному Джону фон Нейману), однако, едва игра действительно оказывается в таком состоянии, к ней мгновенно утрачивают интерес и перестают воспринимать даже как развлечение.
Всеведущее существо наподобие Бога сочло бы шахматы и шашки (а также английские draughts и континентальные dames) примерами игр в том смысле, который обозначил фон Нейман, но человек не разработал до сих пор полной их теории, а потому они по-прежнему воспринимаются как вдохновенные состязания в интуиции и силе ума и ведутся совсем не так, как предполагала теория фон Неймана.
В самом деле – ведь обычно игра не идет по принципу: сейчас я сделаю наилучший из возможных ходов, потом мой противник сделает наилучший из возможных ходов, потом я снова отвечу наилучшим из возможных ходов, и так далее, пока кто-то не выиграет или пока игра не обернется повторением ходов. Чтобы вести игру в соответствии с постулатами фон Неймана, следует, по сути, располагать полной теорией игры, то есть свести игру к тривиальному занятию.
Пожалуй, может показаться, что тема обучения, а в особенности тема машин, которые учатся играть в игры, достаточно далека от религии. Тем не менее, существует богословская проблема, для которой эти концепции являются релевантными. Это проблема игры между Творцом и творением – предмет книги Иова и «Потерянного рая» Джона Мильтона.
В обоих этих религиозных сочинениях дьявол показывается как ведущий игру с Богом – за душу Иова или за души всех людей на свете. При этом, согласно ортодоксальным иудейским и христианским воззрениям, дьявол тоже сотворен Богом, как и все живое. Любое иное допущение ведет к моральному дуализму с привкусом зороастризма и к тому «внебрачному» отпрыску зороастризма и христианства, которое принято называть манихейством.
Но если дьявол есть одно из творений Бога, то игра, о которой повествуют книга Иова и «Потерянный рай», представляет собой игру между Богом и одним из Его творений. Такая игра изначально выглядит неравноправным соперничеством, в котором один игрок обладает сокрушительным перевесом. Ввязываться в игру со всемогущим и всеведущим Богом попросту глупо, однако нам говорят, что дьявол искушен в кознях. Любое восстание мятежных ангелов обречено на поражение. Не требуется бунта Сатаны, возмутившегося, как Манфред, чтобы это доказать. Всемогущество же, которое для самоутверждения мечет с небес молнии, вовсе не всемогущество, а лишь некая могучая сила, следовательно, мятеж ангелов мог бы закончиться восхождением Сатаны на небесный трон и низвержением Бога в тьму вечного проклятия.
Таким образом, если мы не запутаемся в догмах всемогущества и всеведения, конфликт между Богом и дьяволом оказывается реальным конфликтом, в котором Бог выступает как нечто, не обладающее абсолютным всемогуществом. Да, Он действительно вовлекается в конфликт со Своим творением – и вполне может проиграть. Однако это творение создано Им по Его собственной воле, а значит, приобрело, по-видимому, свои способности к действиям от самого Бога. Может ли Бог вести полноценную игру со Своим творением? Способен ли вообще какой угодно творец, даже ограниченный в возможностях, вести полноценную игру с собственным творением?
Конструируя машины, с которыми он играет в игры, изобретатель присваивает себе функции творца, ограниченного в возможностях, какова бы ни была природа создаваемых им игровых устройств. Это в особенности верно применительно к игровым машинам, которые обучаются на своем опыте. Как уже отмечалось, такие машины существуют. Как они функционируют? Какого успеха они достигли?
Вместо того чтобы действовать согласно игровой теории фон Неймана, они ведут себя так, словно стараются подражать действиям обычного игрока-человека. На каждом этапе игры они подчиняются установленным правилам, которые ограничивают выбор следующего хода. Тот или иной ход выбирается согласно некоторому нормативному критерию хорошей игры.
Здесь опыт игры человека предоставляет ряд подсказок для выбора такого критерия. В шахматах или шашках обыкновенно невыгодно терять свои фигуры, зато обычно выгодно забирать фигуры противника. Игрок, сохраняющий подвижность своих фигур и право выбора ходов, как и тот, который контролирует большее число полей на доске, превосходит своего противника, не придающего значения этим факторам игры.
Данные критерии хорошей игры действуют на протяжении всей партии, но имеются и другие критерии, относящиеся к отдельным этапам игры. В финальной стадии, когда фигур на доске мало, намного труднее сблизиться с противником для «съедения» его фигур. В начале же игры – причем это куда важнее в шахматах, нежели в шашках – фигуры расположены в порядке, который лишает их подвижности и силы, а потому требуется некая тактика, позволяющая убрать фигуры с пути друг друга, как для нападения, так и для защиты. Кроме того – ведь в шахматах фигуры намного разнообразнее по сравнению с шашками, – существует множество особых критериев хорошей игры специально для шахмат, и важность их доказывается многовековым опытом.
Подобные критерии можно объединять (дополнять одним другой или комбинировать более сложным способом), чтобы оценивать в числовом выражении эффективность следующего хода, который предстоит сделать машине. Это возможно делать до известной степени произвольно. Тогда машина сравнит между собой числовые показатели эффективности возможных по правилам ходов и выберет ход с наибольшим показателем. Перед нами один из способов автоматизации выбора очередного хода.
Такая автоматизация ходов не обязательно и вообще далеко не всегда является условием оптимального выбора, но все-таки это выбор, и машина может продолжать игру. Чтобы оценить подобный способ механизации игры, следует отринуть все представления о механизации, касающиеся известных людям технических устройств, а также физический образа человека в восприятии обычного игрока. По счастью, это довольно просто; именно так ведутся игры в шахматы по переписке.
В игре по переписке один игрок посылает свой ход другому по почте, и единственной связью между игроками является письменный документ. Даже в такой игре в шахматы опытный игрок быстро составляет представление о личности своего противника – его шахматной личности, разумеется. Он узнает, насколько его противник тороплив или осторожен, легко ли его обмануть или он проницателен, способен ли изучать трюки соперника или склонен снова и снова попадаться в одну и ту же элементарную западню. Все это выясняется, повторяю, без какой-либо дополнительной коммуникации в ходе самой игры.
С этой точки зрения игрок, будь то человек или машина, который опирается в игре только на показатели эффективности, выбранные однажды и не подлежащие изменению, производит впечатление ригидной, «закосневшей» шахматной индивидуальности. Стоит обнаружить его уязвимое место, как становится понятно, что эта уязвимость неискоренима. Если некая тактика сработала против него единожды, она будет срабатывать всегда. Весьма малого количества партий вполне достаточно, чтобы выявить его манеру игры.
Пожалуй, на этом закончим с механическим игроком, который не обучается. Впрочем, ничто не мешает механическому игроку научиться играть более разумно. Для этого ему следует фиксировать в памяти прошлые партии и серии партий. Тогда после каждой игры или после каждой серии игр конкретного типа его механизм будет использоваться далее совершенно иным образом.
При составлении числовых показателей эффективности применяются некоторые константы, которые можно выбирать различными способами. Относительная значимость констант управления, подвижности фигур и их количества может выражаться, например, соотношением 10:3:2 вместо 9:4:4. Новый способ использования регулируемой машины состоит в том, чтобы изучить уже сыгранные партии с учетом их исхода и вывести числовой показатель эффективности – не для уже сыгранных партий, но для оценки критериев, выбранных для этих игр.
Тем самым числовой показатель эффективности подвергается непрерывной переоценке, причем так, что наибольшее значение присваивается показателю для преимущественно выигранных партий, а наименьшее значение – показателю для преимущественно проигранных партий. Игра будет продолжаться с этим новым числовым показателем, который возможно внедрить различными способами, отличающимися лишь в деталях. В результате игровая машина постепенно трансформируется в другую машину в соответствии с фактической историей игры. Здесь играют важную роль опыт и успех как для машины, так и для ее противника-человека.
При игре против такой машины, которая как бы перенимает часть своей игровой индивидуальности от соперника, эта игровая индивидуальность не является абсолютно ригидной. Противник может выяснить, что тактики, приводившие к успеху в прошлом, перестали быть состоятельными. Машина способна демонстрировать, так сказать, поистине сверхъестественную хитрость.
Можно, конечно, заявить, что весь этот неожиданный машинный интеллект был встроен в машину ее конструктором и программистом. В некотором смысле это верно, но не всегда будет верным предположение, будто все новые функции машины были заблаговременно и явно предусмотрены ее конструктором. Будь это так, то ему не составило бы труда одолеть собственное творение. Однако это утверждение опровергается фактической историей машины доктора Сэмюела.
Стоит признать, что в течение довольно значительного срока машина Сэмюела была в состоянии регулярно побеждать своего конструктора – всего после одного или двух дней подготовки. Но тут нужно отметить, что Сэмюел, по его собственным словам, не является опытным шашистом и что, после небольшой практики и толики наставлений, он смог обыграть собственное творение. Впрочем, ни к чему преуменьшать значение того факта, что на протяжении некоторого периода времени машина обыгрывала конструктора едва ли не постоянно. Она побеждала – и училась побеждать, а способы, которыми она обучалась, ничем принципиально не отличались от методов обучения человека, который учится играть в шашки.
Верно, что выбор тактик, доступных «шашечной» машине, почти наверняка более узок, чем выбор, открытый игроку-человеку; но верно и то, что для человека выбор эффективной тактики в игре в шашки тоже не безграничен. От бесконечности выбора человека отделяют лишь границы его интеллекта и воображения; эти границы действительно существуют и, по сути, мало чем отличаются от пределов, в которых функционируют машины.
В итоге получается, что машине, которая уже сейчас достаточно хорошо играет в шашки, нужно лишь подучить тактику действий на финальном этапе и получше освоить умение наносить coup de grâce; тогда она начнет приближаться к уровню мастера. Если бы не тот факт, что интерес публики к шашечным турнирам и без того существенно снизился по причине чрезмерной «предсказуемости» обычной человеческой игры, можно было бы предположить, что шашечная машина в скором времени полностью уничтожила бы интерес к этой игре. Не удивительно поэтому, что люди уже начинают спрашивать, а не постигнет ли та же самая участь и шахматы. И хотят знать, когда следует ожидать этой катастрофы.
Машины, играющие в шахматы (или такие, которые способны хотя бы провести значительную часть шахматной партии), существуют на самом деле, однако пока они играют сравнительно слабо. В лучшем случае они играют на уровне опытного игрока-любителя, не претендующего на профессионализм; вдобавок в действительности большинство из них редко достигает даже этого уровня. Это объясняется прежде всего гораздо большей сложностью шахмат в сравнении с шашками – как в отношении обилия фигур и ходов, так и в отношении разнообразия тактик на разных этапах игры. Относительно небольшое количество правил, необходимых для соблюдения при механизации игры в шашки, и малая степень различия между этапами этой игры совершенно несопоставимы с шахматами.
Тем не менее, по общему мнению тех моих друзей, которые являются довольно опытными шахматистами, дни шахмат как интересного человеческого занятия сочтены. Мои друзья ожидают, что в ближайшие годы (от десяти до двадцати пяти лет) шахматные машины достигнут гроссмейстерского уровня, а затем, если эффективные, но отчасти машиноподобные методы русской школы позволят шахматам просуществовать так долго, шахматы вообще перестанут интересовать игроков-людей.
Как бы то ни было, найдется множество других игр, которые станут бросать вызов конструкторам и программистам игровых машин. В частности, это го, дальневосточная игра, в которой различают минимум семь степеней признанного мастерства. Кроме того, война и бизнес суть конфликты, напоминающие игры, а потому они могут быть формализованы в виде игр с определенными наборами правил. В самом деле, нет ни малейших оснований предполагать, что подобные формализованные варианты до сих пор не созданы в качестве моделей, цель которых заключается в определении стратегий нажатия Большой Кнопки и сжигания планеты дотла во имя строительства нового, куда менее зависимого от человека порядка вещей.