Меркнет свет - Бах Роуз 3 стр.

– Какой замечательный ответ.

– А ты что на это скажешь?.

– Я думаю, робот бы не смог так ответить, разве что если в него заранее не загрузили чьи-то формулировки понятия искусства.

– Потому что я не робот. Что ж, Роб, твоя очередь.

– Я даже не знаю, что тут можно добавить, потому что мое видение искусства до твоих слов представлялось чем-то иным, более простым. Искусство казалось для меня абстракцией бытия, попыткой взглянуть на вещи как-то иначе.

А что, если Роб – искусственный интеллект, который постоянно общается с такими, как я, а комнаты представляют собой уровни, и с каждым уровнем робот становится умнее и его сложнее обмануть? Если это так, то похоже, что я только что научил робота говорить про искусство. Я практически уверен в том, что говорю с роботом, почти готов нажать красную кнопку, но надо быть уверенным на все сто. Только если я правильно определю искусственный интеллект, мне заплатят втройне.

– Ладно, Роб. Если тебе нечего добавить на тему искусства, то, может, поговорим о Боге?

– Хорошо, давай поговорим.

– Ты веришь в существование Бога?

– Нет.

– Почему? Может, потому, что искусственный интеллект, созданный людьми, считал бы нас богами?

– Ха-ха, нет, Себастьян, я не искусственный интеллект и уж тем более людей за богов не считаю. Я обыкновенный атеист, таких полно среди людей.

– Но людям свойственно верить во что-то, так во что веришь ты?

– Пожалуй, я верю в себя, свое существование и в мир вокруг. А существование Бога никогда не было доказано и не будет.

– Отсутствие доказательств не является доказательством отсутствия.

– Некоторые трансцендентные вещи в метафизической реальности не подлежат поиску доказательств.

– И ты никогда не задумывался о том, как ты произошел на свет?

– Конечно, задумывался, но неужели ты думаешь, что нас создал Господь по своему образу и подобию?

– Почему нет?

– Смотри, перед тобой есть карандаш?

– Да.

– Возьми его в руки.

– Взял.

– Что ты чувствуешь? Опиши его по ощущениям.

– Он прохладный, гладкий, твердый.

– Ты его чувствуешь потому, что он есть. Он есть для тебя потому, что ты можешь его видеть и трогать. Твои ощущения передаются по нервным клеткам в твой мозг. После, твой мозг передает эту информацию в область, внутри которого заключено твоё «я». И вот к чему я веду: неужели ты думаешь, что Бог, создавший нас по своему образу и подобию, имел нервные клетки, какие имеем мы?

– Я не думаю, что Бог выглядит, как мы, Роб, это архаичное утверждение. Я думаю, что мы не способны осознать самого Бога, не то, что узреть его. Я думаю, что Бог – это все вокруг. Безусловно, существование у людей сознания является чудом и величайшей загадкой этого мира, в то время как весь остальной мир, включая животных, не имеет сознания, но имеет лишь сущность.

– Хорошо, Себастьян. Верующие часто говорят, что Бог – всемогущий. Так скажи мне, если он всемогущий, то способен ли он создать такой камень, который не сможет поднять?

– Это тупиковый метафизический вопрос, потому что, если Бог сможет создать такой камень, то он перестает быть всемогущим, а если не сможет создать его, то он и не был таковым. Опять же, я думаю, что у нас разное представление о Боге, Роб. Для меня это не всемогущий старик, для меня это всемогущая сила, образовавшая все вокруг.

– И все-таки постарайся на него ответить, пожалуйста.

– Ладно. Представим, что Бог – это всемогущий старик на небесах. Сможет ли он создать камень, который не сможет поднять? Я думаю, сможет.

– Почему ты так думаешь?

– Создав такой камень, он создаст нечто иное, например приспособление или какое-нибудь существо, которое будет поднимать камень за него. Так он останется всемогущим, потому как на определенное действие он автоматически создает противодействие. Я убедил тебя?

– Думаю, ты ответил на вопрос, но я по-прежнему останусь при своем. Все-таки за всю свою жизнь и за всю историю человечества не было зафиксировано ничего сверхъестественного, что бы доказывало существование высших сил.

– А как же наука?

– Наука – это детище человека, а не Бога. Все-таки первый огонь создал человек прямоходящий, Homo erectus, а не Бог, который светил Авелю своим солнечным лучом и разжег костер.

– Но наука – это то же самое, что и вера.

– Что за абсурд, Себастьян? Религия дает людям некоторые правила бытия, учит нас «правильно» жить в этом мире, а наука пытается объяснить мир.

– И тем не менее наука склонна менять свое «объяснение» с каждым десятилетием. Например, раньше полагали, что солнце имеет прямые лучи – это было наукой, это было фактом, это было постулатом. Однако сейчас наука знает, что солнечные лучи преломляются, падая на землю.

– Да, но наука – это факт, и ее объяснения тоже фактичные.

– Поэтому наука никогда не дает стопроцентный ответ? У науки всегда плавающие ответы, а если она в чем-то безусловно и полностью уверена, то, вероятнее всего, она будет уверена на 99.9 %, а не на 100 %. Соответственно наука сама признает факт, что может ошибаться.

– Безусловно, это даже не отрицалось. Однако есть вещи, на которые наука даст стопроцентный ответ.

– Например?

– 2×2 = 4. Это стопроцентный факт, не подлежащий сомнению, – добавил Роб.

– Не спорю, есть вещи, обладающие силой «факта», и они не подлежат обсуждению. Но во всем остальном, получается, что наука – это вера в то, что все, что мы знаем о мире на данный момент, не изменится в будущем?

– Понятие веры растяжимо, Себастьян. Если ты хочешь считать, что наука – это вера, то считай. Никто не запретит, в этом есть логика.

– Ты говоришь, как искусственный интеллект, который берет свои знания из энциклопедий.

Неужели инженеры из «Икара» настолько обленились, что просто загрузили в мозг обыкновенную информацию из энциклопедий? Им определенно стоит работать усерднее.

– Что ж, люди тоже берут свои знания из энциклопедий. Так уж устроен мир.

Так забавно наблюдать рассуждения робота о том, как устроен мир.

– Ну что, Роб, может, вынесем друг другу приговор?

– Позволь спросить, какую кнопку ты нажмешь?

– Красную.

– Это забавно, потому что выходит, что я, Роб Малек, являюсь искусственным интеллектом. В таком случае я нажму на зеленый и выиграю двести баксов, а ты, если ошибешься, пойдешь тратить время дальше в других комнатах.

Роб Малек? Знакомое имя.

– Зачем назвал полное имя?

– Потому что уже все равно.

Он пытается меня провести. Манипулирует, используя возможный проигрыш денег, как аргумент, чтобы я нажал на зеленую кнопку и ошибся. Это значит, он знает, что я сейчас нуждаюсь в деньгах, но откуда?

Недолгое молчание.

– Роб Малек?

– Да?

– Я где-то слышал это имя.

– Наверное, видел меня по ТВ?

– А кто ты?

– Я актер.

Снова молчание.

Актер? Вот, значит, почему его имя кажется мне знакомым. А что, если он все-таки не врет? Тогда я потеряю свои деньги. Хотя зачем голливудскому актеру участвовать в таких экспериментах? Это же полный бред, он пытается провести меня! Робот мог использовать информацию из интернета, чтобы обмануть.

– Может, все-таки назовешь мне свое имя, Себастьян?

Но надо быть уверенным.

– Как зовут твоих детей?

– Адам и Джей, шестнадцать и одиннадцать лет.

– А жену?

– Джессика Линдеман, тридцать шесть лет, актриса.

– Когда ты впервые снялся в кино?

– Мне было четырнадцать, фильм назывался «Затишье Ведьмы».

Он отвечает четко, быстро, без лишних слов, даже не задумывается ни на секунду. Я точно уверен, что разговариваю с искусственным интеллектом, тем более, в самом начале эксперимента после звукового сигнала женский голос произнес, что звук включен, и в этот момент Роб спросил, зачем его выключали. Это говорит о том, что он уже сидел здесь до меня и с кем-то разговаривал. Я практически наверняка уверен в своей правоте.

– Так ты не назовешь мне свое имя, Себастьян?

– Нет.

– Почему?

– Потому что уже все равно. Давай нажимать, – Себастьян протянул руку над красной кнопкой, помедлил, – ты слышал меня, Роб?

– Да, Себастьян, я готов.

– Тогда нажимаем.

Прозвучал однотонный сигнал, освещение в комнате медленно становилось ярче, заговорил женский голос: «Тест завершен. Пожалуйста, покиньте комнату». Себастьян вышел, глаза немного привыкли к свету, но снаружи было намного светлее. Он сощурился, мигрень мгновенно оказалась тут как тут и так же мгновенно исчезла. К комнате подошли инженеры в халатах вместе с Эндрю Бродли.

– Как самочувствие? – спросил Эндрю.

– Все отлично. Кажется, я сегодня уйду с тройной суммой.

Они посмеялись.

– Возможно, но сначала нам нужно пройти в конференц-зал.

– Без проблем, – они пошли налево по коридору, – это оказалось быстрее, чем я предполагал. Я уже готовился часами прыгать из комнаты в комнату в поисках вашего искусственного интеллекта.

– Я рад, что вы с этим быстро разобрались, господин Себастьян.

– Благодарю вас, что предоставили мне такую возможность. Это был очень интересный опыт, – они подошли к невысокой лестнице.

– Мне нужно покинуть вас на минуту, позже вас пригласят, – сказал Эндрю, поднялся по лестнице, открыл дверь и вышел. Себастьян весело подтягивался на носочках, осматривал коридор, глядел на людей в халатах – кто-то делал записи, кто-то был углублен на экраны планшетов, некоторые просто стояли и ждали, переглядываясь. Чем дольше они ждали, тем интереснее становилось Себастьяну. Через минуту дверь открылась, выглянул человек и позвал всех подняться. Доктора поскакали вверх по лестнице, Себастьян стоял и не знал, стоит ли ему тоже идти.

– Эй, друг, мне тоже идти с вами? – он окликнул одного из докторов.

– Да, конечно, без тебя никак.

Они поднялись. Дверь выходила в большое, очень яркое помещение, посреди которого стояли несколько людей, Эндрю Бродли и двое мужчин в костюмах, все аплодировали. Кому, черт возьми, они аплодируют? Справа в зале была куча людей, летели вспышки камер, шум диалогов.

– А вот и они! Наши герои, без которых ничего бы не вышло! – выкрикнул один из мужчин с микрофоном, указывая на Себастьяна и людей в халатах.

Себастьян подошел к Эндрю. Воцарилась тишина. Он очень застеснялся, поэтому немного наклонился к инженеру и шепотом спросил:

– Что, черт возьми, происходит, Энрдю?

Зал взорвался аплодисментами, свистами, в помещении стало настолько светло от вспышек, что мигрень снова ударила по вискам.

– Вы это слышали? – крикнул в микрофон мужчина в черном костюме, – он говорит, как настоящий человек! Как с чертовым приятелем!

Себастьян растерялся. Перед ним подняли зеркало, и он увидел себя. Увидел свои железные ноги, руки, покрытые чем-то, напоминающим силиконовую кожу, лицо. У него было лицо, но лишь часть его покрывала искусственная кожа, вместо рта было что-то напоминающее динамик, а задняя часть головы была открыта и полна механизмами. Мигрень усилилась, боль была невыносимой. Он упал на колени и быстро задышал. Хаос окутал его тело, смешиваясь с болью.

– Только что на наших глазах, – начал оратор, глядя в сторону десятков камер и вспышек, – по всей стране в прямом эфире нам продемонстрировали удачный, если это можно так назвать, эксперимент «Китайской комнаты». Эй, Роб, каково это – быть облапошенным? – выкрикнул оратор другому мужчине в синем костюме и передал ему микрофон.

– Да, уж, Брюс, это точно. Меня облапошили. Я действительно поверил в то, что говорю с настоящим человеком, хотя я неоднократно пытался выпытать его полное имя, и даже не получив его, я понимал, что человек, знающий свое имя, назвал бы его, но Себастьян не называл, просто ни в какую; оказалось, у него просто нету имени.

– И все равно ты поверил, что это человек?

– Да, причем без сомнений был убежден в этом. Это просто взрыв мозга! Это невероятно! Как вам такое удалось, Эндрю? – обратился Роб к инженеру, протягивая микрофон; тот взял.

– Как вы видите, система не идеальна. Нам удалось создать искусственный интеллект, способный самообучаться, удалось создать для него нервную систему – он способен осязать, испытывает боль. Вернее, он думает, что ее испытывает. Это мало чем отличается от нервной системы человека, однако объект, в отличие от человека, все еще не способен к самосознанию. Хаос, диссонанс – да, но нету страха. Отчасти поэтому психическое состояние нашего искусственного интеллекта столь шатко. Мы еще работаем над этим. Только взгляните на него – сейчас он поверить не может в то, что происходит.

– Вы что, не сказали ему, что он не человек?

– Конечно, нет, ведь тогда бы он не дал нам тех результатов, что мы имеем сейчас.

– А вам не кажется, что это неэтично? Ведь вы создали разумное существо, способное испытывать эмоции и боль! – выкрикнул голос из зала.

– Насчет того, этично это или нет, стоило рассуждать до того, как люди стали пытаться пробовать создать другое сознание.

– А что вы имели в виду, когда выражались, что система не идеальна?

– То, что мы еще далеки от создания настоящего прототипа, которого не отличить от человека. Посмотрите на него сейчас.

Себастьян стоял на четвереньках, хаотично издавая звуки, схожие с рыданием и воплями. В этот миг все стало таким очевидным: все упущенные моменты, подсказки, такие как комнаты, которые шли в неверном порядке только для него, и если отзеркалить их, то с другой стороны порядок был верен, это значит – проверяли его, а не он.

– Дело в том, – продолжал инженер, – что все наши попытки создать искусственный интеллект, имеющий собственное тело, порождали новые проблемы. Например психическое состояние объекта. Интеллект, способный самообучаться, ходить и говорить, вскоре, осознавая, что он машина, сходит с ума и становится бесполезным. Я поставлю в пример людей: природа породила самосознание, самосознание породило ужас и страх; чувствуя угрозу вокруг, именно благодаря этому люди развились такими, какими они являются сейчас. Но искусственный интеллект, обретя сознание, не обретает самосознания и чувствует лишь бессмысленность и когнитивные замыкания.

Зал зашептался.

– Уязвимость – вот условие нашего существования. Это как если бы люди сейчас научно могли доказать, что детерминизм – истина человеческого бытия. Что бы тогда случилось с нами? Половина человечества покончила бы с собой, а преступность бы выросла в разы.

Посмотрите на данный объект, – он снова указал на Себастьяна, – в его разуме гремит настоящая буря и шок, для него осознание реальности равносильно осознанию нами некоего божественного, что определенно свело бы нас с ума, практически как если бы детерминизм был доказанной истиной и мы бы это осознали. – Зал охнул, инженер продолжил. – Еще до эксперимента, во время когнитивных задач, объект испытывал нечто схожее с головной болью у людей. Это говорит о рождении в его сознании области, отвечающей за личностную структуру и психическое состояние, и это связалось с системой ощущений, а это значит, что в будущем нам придется или вручную программировать их интеллект, поставить рамки, ограничения, однако тогда это будет уже не искусственный интеллект, а всего лишь запрограммированный робот, или же создать новое разумное существо. Впрочем, равно как у людей, ведь психологи убеждены, что человек движется в определенных рамках мотиваций.

Посмотрите на объект сейчас: на ваших глазах вполне адекватное сознание сходит с ума, в его сознании меркнет свет, и это говорит о том, что мы близки, как никогда, к созданию живого разума, – он посмотрел на своих коллег, – отключите его.

Себастьян протянул ладони, стоя на коленях, и завопил:

– Нет!

Записки пустого дома