58
Наука и нравственность – две отдельные друг от друга области аргументации. Только признав их раздельность, мы можем иметь дело с ними обеими. Если дискриминация считается плохой только в том случае, когда одинаковы средние значения по группам, если война, насилие и алчность считаются плохими, только если у людей к ним никогда не было склонности, если люди должны нести ответ за свои поступки, только если их поступки необъяснимы, тогда ученым нужно быть готовыми к тому, чтобы фальсифицировать свои данные – или нам всем быть готовыми к тому, чтобы отказаться от своих моральных ценностей. Научные дебаты будут напоминать обложку юмористического журнала «Нэшнл лампун», на которой был изображен пес с приставленным к голове пистолетом и надписью «Купите этот журнал или мы пристрелим эту собаку».
Принцип, отделяющий причинное объяснение поведения от моральной ответственности, – палка о двух концах. Последним поворотом в сюжете моралите под названием «человеческая натура» стало открытие генетиком Дином Хеймером хромосомного маркера гомосексуальности, присутствующего у некоторых мужчин, – так называемого «гена гомосексуальности»
59
выбратьРазведение научной и нравственной аргументации по отдельным сферам также не укладывается в регулярно используемую мной метафорическую схему, в которой мозг сравнивается с машиной, а люди – с роботами. Разве это не является дегуманизацией и овеществлением людей, рассмотрением их наравне с неодушевленными объектами? Как писал один ученый-гуманист в сети Интернет, разве это не лишает силы весь человеческий опыт, материализуя парадигму отношений, основанную на соотношении между «Я» и «Оно», и делая незаконными любые другие формы дискурса, что влечет за собой в корне деструктивные последствия для общества? Только для человека, мыслящего настолько буквально, что он неспособен перейти от одного подхода к другому, рассуждая о концептуализации человека для разных целей. Человек – это одновременно машина и наделенный разумом свободный агент, в зависимости от цели обсуждения – точно так же, как он одновременно может быть налогоплательщиком, страховым агентом, пациентом дантиста и пассажиром самолета, в зависимости от цели обсуждения. Механистический подход позволяет нам понять, как мы устроены и какое место мы занимаем в материальном мире. Когда все эти дискуссии на время утихают, мы вновь начинаем говорить друг о друге как о свободных и исполненных достоинства людях.
Смешение научной психологии с нравственными и политическими ориентирами – и вытекающее из него стремление верить, что мышление не имеет структуры, – раз за разом неумолимо проявляется в научных дискуссиях и интеллектуальном дискурсе. Многих из нас удивляет, что факультеты гуманитарных наук один за другим покорили доктрины постмодернизма, постструктурализма, деконструкционизма, в соответствии с которыми объективность невозможна, значение внутренне противоречиво, а реальность создается обществом. Стоящие за этим мотивы становятся более очевидны, если рассмотреть типичные утверждения наподобие следующих: «Люди сконструировали и использовали понятие гендера— люди могут деконструировать и перестать использовать понятие гендера»; «Бинарная оппозиция гетеросексуализм/гомосексуализм» не заложена в природе; она конструируется обществом, следовательно, она может быть деконструирована». Опровергается реальность категорий, знания и самого мира – все для того, чтобы опровергнуть реальность таких стереотипов, как гендер, раса и сексуальная ориентация. По сути, эта теория представляет собой хитроумный способ подвести к выводу о том, что угнетение женщин, гомосексуалистов и меньшинств – это плохо. А дихотомия между «природным» и «сконструированным обществом» свидетельствует о бедности воображения, поскольку не допускает третьей альтернативы: некоторые категории являются плодом сложного мышления, созданного для того, чтобы работать в согласовании с природным.
Ведущие критики от имени общественности тоже готовы поддержать любую нелепую мысль, если она вписывается в стандартную социологическую модель. Мальчиков с ранних лет поощряют к тому, чтобы они спорили и дрались. Дети приучаются ассоциировать конфеты с удовольствием, потому что родители используют конфеты в качестве поощрения за то, что ребенок съел невкусный шпинат. Подростки состязаются во внешности и одежде, потому что у них есть пример в виде состязаний по орфографии и церемоний награждения. Мужчины приучаются думать, что цель секса – это оргазм. Восьмидесятилетние женщины считаются физически менее привлекательными, чем двадцатилетние, потому что наша фаллическая культура превратила молодых девушек в культовый объект вожделения. И дело даже не в том, что у всех этих возмутительных утверждений нет никаких доказательств; сложно поверить даже в то, что сами их авторы искренне в них верят. Подобные заявления обычно делают, не задумываясь о том, истинны ли они; они являются частью светского катехизиса наших дней
60
Все социальные высказывания зиждутся на архаичных представлениях о мышлении. Жертвы дискриминации, не выдержавшие давления, мальчики, поставленные в условия, в которых у них не было выбора; женщины, которым внушают, что они должны делать; девочки, которых учат быть такими-то и такими-то. Откуда берутся все эти формулировки? Из гидравлической модели, предложенной Фрейдом в девятнадцатом веке, из бихевиоризма с его капающими слюной собаками и нажимающими на кнопки дикими зверями, из сюжетов плохих фильмов эпохи «холодной войны» про коварные планы установления контроля над разумом, из комедий положения, изображающих послушных и наивных детей из среднестатистической семьи.
Но стоит посмотреть вокруг, и становится понятно, что эти упрощенные теории звучат неубедительно. Наше мышление – это целый парламент с шумными дебатами противоборствующих фракций. Общаясь с другими людьми, мы исходим из положения о том, что их мышление так же сложно, как и наше, и пытаемся угадать, что они думают по поводу того, что мы думаем по поводу того, что думают они. Дети с самого момента рождения оказывают неповиновение родителям и в течение всей жизни не оправдывают связанные с ними ожидания: один, несмотря на самые ужасные обстоятельства, становится приличным человеком, а другой, получая все, что его душе угодно, вырастает «бунтарем без идеала». Стоит современному государству ослабить хватку, и люди с готовностью берут в свои руки возмездие, не доведенное до конца их дедами. Роботов среди нас нет.
Я считаю, что подход к психике как к совокупности вычислительных способностей, созданных естественным отбором, – это наша единственная надежда понять, как работает наш разум, отдав при этом должное его сложности. Но я не рассчитываю убедить вас в этом вводными замечаниями, изложенными в данной главе. Чтобы доказать это, нужно осветить целый ряд проблем – от того, как работают стереограммы, до того, что делает пейзаж красивым; от того, почему поедание червей нам кажется отвратительным, до того, почему мужчины убивают своих жен, живущих отдельно от них. Независимо от того, убедили ли вас уже приведенные мной аргументы, я надеюсь, что они, по крайней мере, заставили вас задуматься и с нетерпением ожидать дальнейших разъяснений.
2. Думающие машины
Как многие «бэби-бумеры» (дети, родившиеся в период демографического всплеска после Второй мировой войны. – Прим. пер.), я впервые столкнулся с философскими проблемами, оказавшись в другом измерении, причем не только в смысле зрительного восприятия и звука, но и в смысле сознания: предприняв путешествие в чудесную страну, где границами были границы воображения. Я говорю о сериале Рода Серлинга «Сумеречная зона», который был популярен в годы моего детства. Философы часто пытаются пояснить сложные понятия, используя мысленные эксперименты, необычные гипотетические ситуации, которые помогают нам лучше понять, что подразумевает та или иная идея. Можно сказать, что в эпизодах «Сумеречной зоны» как раз такие ситуации разыгрывались перед камерой.
Один из первых эпизодов назывался «Одинокий». Джеймс Корри отбывает пятидесятилетнее одиночное заключение на необитаемом астероиде на расстоянии девять миллионов миль от Земли. Алленби, капитан корабля, доставляющего на астероид провизию, сжалившись над ним, привозит ему ящик, в котором находится «Алисия»: робот, который выглядит и ведет себя как женщина. Поначалу она вызывает у Корри неприятие, но вскоре он, конечно, влюбляется. Через год Алленби возвращается с новостью, что Корри прощен и что он прилетел, чтобы его забрать. К сожалению, Корри может взять с собой только пятнадцать фунтов груза, а Алисия весит больше. Когда Корри отказывается лететь на Землю, Алленби неохотно достает пистолет и выстреливает Алисии в лицо, превратив его в месиво из дымящихся проводов. Он говорит Корри: «Все, что ты оставляешь здесь, – одиночество». Подавленный Корри бормочет: «Я должен помнить это. Я должен не забыть помнить это». Я до сих пор помню, какой ужас у меня вызвала кульминационная сцена; в кругу моих знакомых юных критиков этот эпизод спровоцировал бурю обсуждений. («Почему он не мог взять с собой хотя бы ее голову?» – спрашивал один из них.) Воодушевление, с которым мы обсуждали фильм, происходило от сочувствия к Корри, переживающему потерю, и от ощущения, что на наших глазах было убито разумное существо. Естественно, режиссеры фильма сыграли на чувствах аудитории, выбрав на роль Алисии красивую актрису, а не показав ее просто в виде кучи жестянок. Тем не менее, вызвав наше сочувствие, они подняли сразу два неприятных вопроса. Может ли механическое устройство обладать равным человеку интеллектом (решающим критерием при этом будет то, сможет ли устройство заставить человека влюбиться в него)? И если человекоподобную машину можно сконструировать, то будет ли она обладать сознанием в полном смысле слова – то есть будет ли акт выведения ее из строя убийством, каковым он нам показался на телеэкране?
61
Два самых серьезных вопроса, связанных с разумом, таковы: «Что делает возможным интеллект?» и «Что делает возможным сознание?». С началом эпохи когнитивистики интеллект стал доступным для понимания. Не будет большой ошибкой сказать, что на уровне абстракции проблема решена. Но вот сознание или способность ощущать – чувственное восприятие таких нюансов, как зубная боль, красный цвет, соленый вкус, «до» средней октавы – по-прежнему остается загадкой, завернутой в тайну и помещенной внутрь головоломки. На вопрос о том, что такое сознание, мы едва ли можем ответить лучше, чем ответил Луи Армстронг, когда одна из журналисток спросила его, что такое джаз: «Леди, если вы задаете такой вопрос, то вам этого никогда не понять»
62
В поисках признаков интеллектуальной жизни во вселенной
«В поисках признаков интеллектуальной жизни во Вселенной» – название постановки комедийной актрисы Лили Томлин, в которой предметом рассмотрения становятся человеческие слабости и глупости. Название пьесы – это игра слов, основанная на двух значениях слова «интеллект» (англ, intelligence): сообразительность (как в известной шутке: интеллект – это «то, что измеряют с помощью теста на ай-кью») и способность мыслить рационально, как человек. Именно о втором значении интеллекта я и повествую в этой книге.
Пусть дать определение интеллекту не так легко, но мы сразу узнаем интеллект, когда встречаем его. Возможно, прояснить значение этого слова поможет мысленный эксперимент. Представим, что перед нами инопланетное создание, которое по всем параметрам выглядит непохожим на нас. Что ему нужно сделать, чтобы мы поняли, что оно разумно? Конечно, авторы научной фантастики сталкиваются с этой проблемой на каждом шагу; кто лучше них сможет ответить на этот вопрос! Самую удачную характеристику интеллекта, которую мне когда-либо приходилось слышать, дал писатель Дэвид Александр Смит, когда в интервью его спросили: «Каким должен быть хороший пришелец?»
Во-первых, они [пришельцы] должны реагировать на ситуацию разумно, но непонятно – так, чтобы вы, увидев поведение пришельца, сказали: «Я не понимаю правила, которыми этот пришелец руководствуется при принятии решений, но он явно действует рационально, основываясь на некоей совокупности правил»… Второе требование – они должны быть небезразличны к чему-то или кому-то, должны желать чего-то и добиваться этого, не останавливаясь перед лицом трудностей
63
.Принимать решения «рационально», руководствуясь совокупностью правил, означает исходить в своих решениях из неких оснований истинности: из соответствия реальности или из логичности вывода. Пришелец, который врезается на пути в деревья, шагает вниз со скалы, делает такие движения, как будто рубит дерево, когда перед ним на самом деле камень или пустое место, едва ли покажется нам разумным. То же самое можно сказать и о пришельце, который, увидев, как в пещеру вошли три хищных зверя, а из пещеры вышли только два, войдет в эту пещеру, как будто она совершенно пуста.
То же можно сказать и о втором критерии: о желании чего-то и о стремлении его получить вопреки трудностям. Если мы не знаем, чего хочет существо, нас нисколько не впечатлит все, что это существо сделает для его достижения. Кто знает, может быть, оно хочет как раз врезаться в деревья или рубить камни, и ему блестяще удается то, чего оно хочет. Более того, без указания целей существа сама идея разумности будет лишена смысла. Тогда можно вручить премию за интеллект мухомору, который с такой прицельной точностью и несгибаемым упорством выполняет сложнейшую задачу: сидит всю жизнь ровно на одном и том же месте. И тогда ничто не мешает нам согласиться с утверждением когнитивиста Зенона Пылишина, что камень умнее кошки, потому что если ударить камень ногой, у него хватит ума укатиться прочь.
Наконец, разумное существо должно использовать рациональные правила для достижения целей разными способами, в зависимости от того, какие препятствия ему приходится преодолевать на пути. Как поясняет Уильям Джеймс:
Джульетта притягивает Ромео, как магнит притягивает металлические опилки; если ему не мешают обстоятельства, он движется к ней по такой же прямой линии, как они. Но Ромео и Джульетта, если между ними будет воздвигнута стена, не будут стоять, как идиоты, прижавшись лицами к противоположным сторонам стены, как это бывает в случае, если между магнитом и опилками поставить бумагу. Ромео вскоре найдет альтернативный путь – взобравшись на стену или как-то еще – беспрепятственно припасть к губам Джульетты. В случае с металлическими опилками, их траектория движения неизменна; любая случайность может определить, достигнут они цели или нет. В случае с влюбленным Ромео, неизменной остается только цель, а траектория движения может меняться как угодно
64
.Выходит, что интеллект – это способность достичь цели, невзирая на препятствия, принимая решения, основанные на рациональных (подчиняющихся критерию истинности) правилах. Компьютерщики Алан Ньюэлл и Герберт Саймон конкретизировали эту идею, отметив, что интеллект состоит в способности определить цель, оценить текущую ситуацию, чтобы увидеть, насколько она отличается от цели, и применить ряд действий, позволяющих уменьшить это различие. С облегчением отметим, что под это определение существа, обладающего интеллектом, подходят не только инопланетяне, но и мы, люди. У нас есть желания и мы добиваемся желаемого, опираясь на наши знания, которые при хорошем раскладе являются по меньшей мере приблизительно или вероятностно истинными