Не имеет значения, какое количество ответов на N вопросов содержит память программы (N — любое, сколь угодно большое натуральное число), так как всегда найдется (N+1) — й вопрос, на который в памяти машины отсутствует запрограммированный ответ, и ведущий перед экраном сможет отличить машину от человека, потому что человек за экраном сможет ответить на этот (N+1) — й вопрос.
Конечно, вполне возможно, что когда-нибудь люди научатся снабжать машины способностью к развитию иного рода — неопределенными способностями, которые сделают возможным нахождение ответов в результате обучения, формирования привычек, выработки условного рефлекса или свободного выбора.
Так же, как профессор Дрейфус, я полагаю, что это маловероятно. Единственный способ эмпирически удостовериться, что создание подлинного машинного разума находится на грани возможного, — это наблюдать, как специалисты по созданию искусственного интеллекта раз за разом пытаются (и каждый раз неудачно) создать машинный разум. Чем больше будет таких неудачных попыток, тем выше вероятность того, что эти попытки никогда не увенчаются успехом.
8. Если окажется, что машины не в состоянии мыслить так, чтобы их было невозможно отличить от людей, а я думаю, что так и будет, то мы получим эмпирическое обоснование вывода о том, что уникальные способности человека нельзя объяснить, рассматривая мозг как электрохимическую машину.
a. Если все же такое рассмотрение окажется возможным, то машины, которые будут обладать более мощным электрохимическим мозгом, нежели человек, определенно смогут его превзойти, причем мышление машины в этом случае окажется невозможно отличить от человеческого мышления.
b. Вывод, к которому мы пришли, подтверждает философские воззрения Аристотеля и Фомы Аквинского, говоривших, что мозг — это лишь необходимое, но недостаточное условие человеческого мышления. Мы не можем думать без мозга, но мыслим мы не с помощью мозга. Мы мыслим, пользуясь исключительно нематериальной силой — силой человеческого интеллекта.
c. Если я окажусь неправ — а только время сможет подтвердить или опровергнуть мою правоту, — то я готов признать, что машины смогут думать так же, как люди, и что физические процессы, будь то электрические или электрохимические, могут дать нам адекватное объяснение концептуального человеческого мышления, так же как и объяснение перцептуального мышления животных.
9. Прежде чем я продолжу, позвольте мне обратить ваше внимание на три обстоятельства, связанные с интерпретацией теста Тьюринга или вытекающие из нее.
a. Первое — это исторический факт, что философ XVII века Декарт предвосхитил тест Тьюринга, предложив подобный тест для того, чтобы показать, что машины (а также животные, которых он считал машинами, наделенными чувствами и мозгом, но лишенными интеллекта) не способны думать. Это был разговорный тест. Никогда не удастся построить такую машину, считал Декарт, которая будет способна поддерживать разговор так, как это делают двое беседующих людей, ведущих гибкий, непредсказуемый в поворотах сюжета диалог.
b. Сможет ли делать это машина Тьюринга, если, вопреки предсказаниям Декарта, ее когда-нибудь построят, мы не знаем, но зато можем с полной определенностью утверждать: ни шимпанзе, ни дельфин, пользующиеся языком жестов, никогда не смогут выдержать тест Тьюринга, и мы всегда сможем отличить их от человека, стоящего вместе с ними за экраном, с. Ваше мнение о том, является ли качественная разница между людьми и животными поверхностной или коренной, зависит от того, верите ли вы, что в один прекрасный день нейрофизиологи смогут объяснить, каким образом люди выдерживают тест Тьюринга.
Если да, то значит ли это, что успех обусловлен мощью человеческого мозга?
Или для объяснения потребуется иной фактор — нематериальный, каким полагал человеческий интеллект Декарт?
Разум и мозг
1. Мы уже рассмотрели два противоположных взгляда на взаимоотношение человеческого разума, или интеллекта, и человеческого мозга.
а. На одном полюсе находится материалист, отрицающий саму возможность существования нематериальных сущностей, сил или действий.
С точки зрения такого материалиста, операции и процессы, происходящие в головном мозге, являются необходимым и достаточным условием всех ментальных операций, человеческого концептуального мышления, а также и перцептуального мышления животных.
Этот взгляд принято называть гипотезой единства. Слово «единство» подчеркивает сущностную нераздельность разума и мозга. Слово «гипотеза» — уступка в том отношении, что это утверждение является недоказанным и, как мне представляется, недоказуемым.
Гипотезу единства формулируют в двух формах, одна из которых радикальнее другой.
а) Более радикальная формулировка, присущая течению, называемому «упрощенным материализмом», гласит: не существует даже аналитического различия между действием разума и действием мозга.
b) Менее радикальная формулировка (на мой взгляд, она в большей мере согласуется с неоспоримыми фактами) допускает, что любое описание мозговых процессов аналитически отличается от описания ментальных процессов. Это верно как в отношении перцептуального мышления животных, так и в отношении концептуального человеческого мышления. Согласно этой формулировке, аналитическое различие между мозговыми физическими процессами и процессами мышления признаётся, но подчеркивается, что разум и мозг неразделимы в сущностном плане. Поэтому процессами, происходящими в мозге, можно объяснить все операции разума — как концептуального, так и перецептуального.
4) Согласно этой гипотезе, вполне разумной в своей менее радикальной форме, нейрофизиология со временем будет способна объяснить все аспекты человеческого интеллекта, так же как и все аспекты мышления животных. Даже высочайшие достижения человеческого мышления можно будет объяснить с помощью нейрофизиологии. На другом полюсе находится идеалист, который отрицает, что можно будет когда-либо объяснить человеческое мышление, используя знания о физических процессах в мозге.
Согласно этому взгляду, мозговая активность не является ни необходимым, ни достаточным условием мышления.
Этот идеалистический взгляд в самой радикальной своей форме был высказан епископом Беркли, который вообще отрицал существование материи и, следовательно, считал человека таким же духовным существом, как и небесных ангелов.
Эта радикальная форма идеализма не выдерживает критики перед лицом неоспоримых фактов, так же как и радикальный материализм. Следовательно, мы должны, не колеблясь, отвергнуть обе крайности.
Менее радикальная форма идеализма представлена, как мы уже убедились, платоническим и картезианским взглядом на рациональную душу или человеческий интеллект как на заточенного каким-то образом в человеческое тело ангела, чисто духовную субстанцию, обитающую в теле, каковое ни в коем случае не нуждается в такой способности, как способность к рациональному мышлению.
5) Всего лишь один факт (а достаточно всего лишь одного негативного факта) порождает большие сомнения в истинности взглядов Платона и Декарта. Ангелы, как я уже упоминал, никогда не спят. Их интеллект всегда работает. Люди же, напротив, засыпают, спят и просыпаются. Их интеллект в какие-то периоды находится в бездействии. Иногда мы видим сны, но мыслим не всегда. Концепцией Платона и Декарта невозможно объяснить взаимоотношения человеческого интеллекта с телом и мозгом. 2. Между этими двумя крайними точками зрения, каждая из которых может быть сформулирована в нескольких разных вариантах, находится позиция, которая, как мне думается, в наибольшей степени согласуется с известными нам фактами. Она соответствует тому, что мы знаем о природе человеческого мышления и об ограниченности материи и ее физических свойств.
a. Эта промежуточная позиция основана на умеренном материализме в соединении с таким же умеренным идеализмом.
b. Умеренный материализм заключается в том, что он признаёт два постулата менее радикальной гипотезы единства.
Первый из этих постулатов гласит, что мозговые и ментальные процессы аналитически отличаются друг от друга. Описание мозговых процессов невозможно заменить описанием ментальных процессов, и наоборот.
Данная точка зрения также согласуется с тем, что мозговые процессы являются по меньшей мере необходимым условием возникновения процессов ментальных — а именно это отрицают радикальные идеалисты.
c. Промежуточная позиция, которую я здесь высказываю, является материалистической в том отношении, что допускает: любой аспект перцептуального мышления, как у людей, так и у других животных (то есть все акты чувственного восприятия, воображение, память, а также эмоции, страсти и влечения), можно уже сейчас или можно будет в будущем целиком и полностью объяснить в понятиях и терминах нейрофизиологии. Нет ничего нематериального или духовного в поведенческих или ментальных операциях, общих для людей и других животных.
d. Идеалистический — и очень скромный — аспект можно суммировать, сказав, что человеческое мышление (то есть мышление концептуальное) никогда не удастся ни объяснить, ни проанализировать, опираясь на знания о физико-химических процессах, происходящих в головном мозге. Никогда также не удастся объяснить свободу воли, свободу выбора как чисто человеческое качество, в терминах физической причинности или движения материальных частиц.
Другими словами, без актов восприятия, воображения и запоминания (все они осуществляются органами чувств и мозгом) невозможно никакое концептуальное мышление.
Ментальные расстройства и заболевания, афазии любого типа, старческое слабоумие и тому подобные расстройства отчетливо указывают на роль мозга в жизни разума. Но роль эта весьма ограниченна.
e. Точнее всего промежуточную позицию можно выразить следующим образом.
Мы видим глазами и зрительной корой головного мозга. Слышим мы ушами и слуховой корой головного мозга.
Но каким органом мы думаем? Где находится орган концептуального мышления? Наш ответ: он находится не в головном мозге. Мы концептуально мыслим не мозгом, несмотря на то что без него мы не способны к концептуальному мышлению.
Короче говоря, мозг является необходимым, но не достаточным условием концептуального мышления. В этом важнейшем пункте промежуточная позиция расходится с менее радикальной формой идеализма или гипотезой отсутствия единства — то есть со взглядами Платона и Декарта.
Это означает, что нематериальный фактор или нематериальная способность (человеческий интеллект и воля) взаимодействуют с телом, порождая концептуальное мышление и свободный выбор.
Если это верно (а я думаю, что это так), то качественная разница между людьми и другими животными, не говоря уже о машинах, является коренной, а не поверхностной.
Это также означает, что человечество занимает положение на границе между царством телесных существ и царством духовных существ, ангелов и Бога, рассматриваются ли они как гипотезы или как реально существующие субстанции.
Однако находящееся в этом положении человечество не перешагивает линию, отделяющую материальный мир от духовного. Согласно воззрениям Платона и Декарта, человек одной ногой стоит в царстве материальном, а другой — в царстве духовном. Человечество по большей части пребывает в царстве материальном, но силой своего нематериального интеллекта оно способно постичь и сферу духовного.
Заключительные рассуждения
1. Позвольте мне теперь высказать несколько заключительных рассуждений. Я хотя бы в какой-то степени твердо уверен только в двух вещах.
a. Первая заключается в том, что отказ признать важнейшую роль мозга в человеческом мышлении является идеалистической ересью, каковая должна быть решительно отвергнута.
b. Вторая — в том, что материалистическое отрицание возможного существования духовной субстанции и нематериальных способностей, например человеческого интеллекта, также должно быть решительно отвергнуто.
2. С несколько меньшей уверенностью могу сказать: все, что мне известно о функциях мозга, убеждает меня, что их недостаточно для объяснения концептуального мышления, потому что исключительный характер этого мышления зиждется на трансцендентности его в отношении материальных условий. Самым отчетливым указанием на это служит способность человеческого ума постигать мыслью неощутимые и непредставимые мыслимые предметы.
3. К чему это нас приводит? Мне представляется, что таких выводов два.
a. Все аспекты поведения животных, интеллекта животных и ментальности животных (все, что находится ниже уровня концептуального мышления) будут, возможно, когда-нибудь удовлетворительно объяснены на основе наших знаний о мозге и нервной системе.
b. Эти знания могут внести существенный вклад — а в будущем этот вклад станет еще больше — в объяснение деятельности человеческого ума, но нейрофизиология никогда не окажется в состоянии дать исчерпывающее удовлетворительное объяснение концептуального мышления и свободы выбора.
Примечание
Во время обсуждения лекции мне были заданы вопросы, которые заставили меня сформулировать суть обсуждаемого предмета в двух гипотетических высказываниях.
ЕСЛИ люди превосходят животных только благодаря тому, что обладают большим по весу и более сложно устроенным мозгом, ТО в один прекрасный день компьютеры превзойдут человека по своим способностям.
ЕСЛИ люди могут делать то, что недоступно животным, только благодаря нематериальности человеческого интеллекта, ТО никогда не будут созданы компьютеры, способные делать вещи, которые радикально отличают человека от других животных.
Существует метафизический аргумент в пользу истинности второго из этих гипотетических высказываний. Так как этот аргумент едва ли убедит материалистов, уверенных в истинности первого гипотетического высказывания, то второе можно подвергнуть следующему эмпирическому тесту.
Пусть специалисты по компьютерным технологиям попытаются создать компьютер, который в беседе был бы неотличим от живого человека. Они, специалисты, без устали пытаются это сделать, но с каждой неудачной попыткой повышается вероятность того, что метафизический аргумент может оказаться истинным. Если же попытки создания такого компьютера увенчаются успехом, то это будет означать несостоятельность метафизического аргумента. Будущее покажет, кто прав.
ПРИЛОЖЕНИЕ 2
Двенадцать дней аспенского семинара (Отчет о семинарах в Аспенском институте гуманитарных исследований в августе 1972 года)[47]
Конечная цель аспенского семинара — помочь его участникам лучше понять две вещи. Во-первых, что такое «демократия» и «капитализм», два определяющих признака общества, в котором мы живем. Во-вторых, что такое их противоположности — «тоталитаризм» и «коммунизм». Это необходимо, чтобы критически и разумно оценить разделившую современный мир поляризацию сил и идеологий.
Имея в виду эту цель, автор посвятил свой текст четырем фундаментальным идеям — равенства, свободы, справедливости и собственности, — без осознания которых мы не сможем понять демократию и капитализм, противоположные им явления и следствия, вытекающие из их противостояния.
Цель настоящего обсуждения — отчетливо истолковать четыре идеи в их взаимосвязи друг с другом и во влиянии на такие материи, как природа политического правления, отношение экономики к политической демократии, свободному предпринимательству, децентрализации и тому подобным предметам.
Для наиболее полного достижения поставленной цели текст организован следующим образом. Если не считать некоторых исключений, в описание каждого дня семинара включены противоположные точки зрения, с тем чтобы участников можно было попросить сформулировать идеи, высказанные авторами, и принять ту или иную точку зрения, высказав основания принятого решения. В течение двенадцати дней все публичные чтения были посвящены упомянутым четырем фундаментальным идеям, которые раз за разом рассматривались под все более широким углом зрения, что позволило участникам все глубже и глубже овладевать предметом (тематика каждого следующего дня строилась на основании достигнутого в предыдущий).
В данном отчете я, конечно, хочу достичь невозможного. Пользуясь записями, которые я вел на протяжении многих лет, я хочу сообщить вам подлинное содержание двенадцати последовательно проведенных друг за другом дискуссий. Каждый день я писал доклад, подытоживая прошедшее обсуждение. На каждый такой доклад у меня уходило около двадцати минут. Чтение всех двенадцати потребовало бы около трех с половиной часов. Боюсь, это слишком долго.
Я решил отказаться от такого способа и взамен попытаюсь сделать следующее: постараюсь проследить одну линию развития дискуссии, развернувшейся на протяжении двенадцати отдельных последовательных обсуждений. Поступая таким образом, я не смогу в деталях проанализировать каждую тему[48]. Надеюсь, вы поймете, что я хочу передать лишь дух и вкус аспенских семинаров и показать, чему можно научиться, слушая дискуссии.
Еще одно предварительное замечание, и я перейду к делу. Говоря о том, чему можно научиться, я должен прежде всего сказать о том, что сам многому научился на аспенских семинарах как читатель и как член группы. Думаю, что имею право сказать, не боясь показаться избыточно претенциозным, что и другие члены группы учились тому же, хотя и каждый своим оригинальным способом.
ДВЕНАДЦАТЬ ДНЕЙ АСПЕНСКОГО СЕМИНАРАПЕРВЫЙ ПОНЕДЕЛЬНИК
Народное соглашение, 1647