- Дядя Вася очень добросовестно относится к своим обязанностям, возразила девушка.
- Добросовестно, - согласился директор, уныло поглаживая бородку. - Даже слишком добросовестно. Вчера, в одиннадцать ночи, он позвонил мне и сказал, что эти двое... ну, "Эрг Hoop" и "Аристотель" - вдруг начали говорить. Вы понимаете, уважаемые коллеги? Они начали говорить. Начали спорить.
- О чем? - нетерпеливо спросил юноша в ковбойке.
- Ах, вас интересует о чем? - очень вежливо сказал директор. - Я предвидел это и потому вчера звонил вам. Вам и всем остальным. Но никого не оказалось дома. Да. И к дяде Васе я приехал один. Так вот, "Эрг Hoop" и "Аристотель" действительно спорили. Они орали во всю мощь своих железных глоток. В зале гремело так, словно работал паровой молот!
- Значит, опыт все-таки удался! - воскликнула девушка. - О чем же они спорили?
- О чем? - спокойно переспросил директор. - А вот о чем. "Аристотель" утверждал, что в чемпионате по футболу на первое место в группе "А" выйдет команда "Крылья Советов". А "Эрг Hoop" визгливым и вибрирующим голосом, который для него придумал один фантаст, упрямо повторял: "Чепуха, чепуха, чепуха... 97,6 процента, Сын Голубой Планеты за то, что победит команда "Динамо". Да! "Аристотель" сыпал фамилиями игроков, ссылался на спортивных обозревателей и... и попрошу не смеяться! - рявкнул директор. - Не вижу в этом ничего смешного.
- Мы не смеемся, - сказала девушка. - Мы стараемся не смеяться. Ничего не случилось. Просто эти машины плохо запрограммированы, вот и все.
- Вы так думаете? - обернулся к ней директор. - Так вот, я все выяснил. Дядя Вася, дежуря в хранилище, в течение трех лет читал вслух спортивные газеты и журналы. Он даже слушал передачи со стадионов. Больше того, кое-кто из вас любил заходить туда по утрам. Так сказать, для обсуждения спортивных новостей. Да. И никто не вспомнил, что рядом - машины, пусть старые и плохие, но машины. Никто не вспомнил, что автоматы имеют акустические приемники и, следовательно, могут...
Голос директора потонул в общем смехе.
- Не огорчайтесь, пожалуйста, - сказал юноша в ковбойке. - Автоматы не представляют ценности: они, в сущности, не нужны. Но если хотите, можно легко убрать эту лишнюю информацию о... футболе.
- Нет, нет, тут нужно разобраться, - возразила девушка. - Пусть автоматы считались неудачными, негодными. Но теперь... теперь они спорят о футболе. Разве это не свидетельствует, что машина может мыслить, как человек? То есть почти как человек.
Директор покачал головой.
- Мой юный друг, - ехидно сказал он. - Это работают блоки анализаторов вероятности. И только. Как можно утверждать, что автоматы мыслят, когда один из них твердит о команде "Крылья Советов", а другой - о "Динамо"?! Ребенку же ясно: первенство возьмет "Спартак". Вы когда-нибудь бываете на стадионах?.. Странный вопрос.
натолий Сергеевич Скляров, тридцатилетний профессор истории, удобно устроившись на диване, в сотый раз перечитывал "Трех мушкетеров". Кардинал Ришелье вызвал к себе д'Артаньяна, и это волновало Анатолия Сергеевича, хотя он знал, что все окончится благополучно. Кардинал уже вручил смелому гасконцу патент на звание лейтенанта, когда из-за стены послышался робкий стук. Анатолий Сергеевич взглянул на часы; было два часа ночи. Он отложил книгу и встал с дивана.
Вторую половину дачи снимал учитель математики - тихий, застенчивый старик. За две недели Скляров, поглощенный работой над статьей для исторического журнала, обменялся со своим соседом лишь несколькими незначащими фразами.
Анатолий Сергеевич закурил сигарету и подошел к окну. Стук повторился.
Скляров застегнул пижаму и вышел на веранду. Математик стоял в дверях своей комнаты.
- Извините, пожалуйста, - быстро сказал он, увидев Склярова. - Я решился потревожить вас...
Он кашлянул и умолк.
- Что случилось, Семен Павлович? - спросил профессор, внимательно глядя на соседа. Старик, как всегда, был одет в черный, тщательно отглаженный костюм. Но по галстуку - слишком яркому и наспех завязанному - Скляров понял, что произошло нечто чрезвычайное.
У Семена Павловича было очень доброе лицо, и сейчас оно показалось Склярову особенно милым и добрым. Профессор подумал, что такие лица бывают у старых детских докторов, для которых главное оружие - потемневший от времени деревянный стетоскоп и беспредельная человеческая доброта.
Математик сконфуженно погладил пышные, еще сохранившие лихость усы и неуверенно произнес:
- Машина... Она сейчас будет говорить. Я полгода ждал, и вот сейчас зажглась контрольная лампочка. Вы - профессор, доктор наук, и только потому я осмелился в столь поздний час... Для объективности...
Скляров хотел было сказать, что он почти ничего не понимает в машинах. Но старик был взволнован, и Анатолий Сергеевич не стал возражать.
Они прошли в комнату, которую снимал математик. "Да, не очень уютно", подумал Скляров, бегло оглядев комнату. Заваленный книгами стол, аккуратно прикрытая серым солдатским одеялом железная койка, пузатый шкаф с резными ножками - все было сдвинуто в один угол. С потолка свисала на черном шнуре лампа, прикрытая вместо абажура листом картонка. На стульях в беспорядке лежали подшивки потрепанных журналов, коробки с радиодеталями и инструментами. В комнате пахло ночной сыростью и цветами. Вдоль стены, на полу, выстроились стеклянные банки с распустившимися розами.
Семен Павлович показал на подоконник:
- Вот, пожалуйста, взгляните.
У открытого окна стоял очень старый радиоприемник "СИ-235". Скляров удивленно посмотрел на Семена Павловича.
- Это только футляр,- объяснил математик. Он говорил шепотом, словно боясь, что машина его услышит. - Футляр, знаете ли, не имеет значения. А машина внутри. Вы садитесь, пожалуйста ...
Он принес Склярову стул, а сам продолжал ходить по комнате. Рассказывая, он снимал и надевал очки. Они были тоже старые с круглыми стеклами и металлической оправой, оплетенной каким-то шелушащимся коричневым материалом.
- Я собрал ее полгода назад, - говорил математик. - Разумеется, вы знаете, что идет дискуссия о том, может ли машина мыслить. У меня, конечно, нет необходимой подготовки... Нет, нет, вы только не подумайте, что я собираюсь выступать со своим мнением. Я поставил маленький эксперимент... - Он смущенно улыбнулся: - Может быть, эксперименту слишком громкое слово. Это только простой опыт, не больше. Дело в том, что Эйнштейн однажды высказал такую мысль... Вот я вам процитирую на память: "Что бы ни делала машина, она будет в состоянии решить какие угодно проблемы, но никогда она не сумеет поставить хотя бы одну". Не правда ли, глубокая мысль?.. Вы можете подумать, что я имею дерзость спорить с Эйнштейном. - Он протестующе взмахнул руками: - Нет, я только поставил опыт. Это первая машина, которая специально предназначена для того, чтобы ставить проблемы.
Скляров уже не слушал математика. Он смотрел на Семена Павловича, машинально кивал головой и думал о том, что старик даже не подозревает, насколько грандиозен его эксперимент. Анатолий Сергеевич почему-то вспомнил другого учителя - Циолковского и почтительно спросил:
- Ваша машина... она может пригодиться для астронавтики?
Математик поверх очков удивленно посмотрел на Склярова.
- Не знаю, я об этом не думал, - произнес он извиняющимся тоном. Конечно, в какой-то степени... Скажем, для разведки неисследованных планет.
Скляров нетерпеливо перебил:
- И вы никому еще не показывали эту машину?
- Нет...
Семен Павлович окончательно смутился. Он стоял перед профессором, высокий, худощавый, по-стариковски нескладный и взволнованно потирал руки. Анатолий Сергеевич вдруг насторожился. Как всякий человек, далекий от техники, он был уверен, что открытия рождаются лишь в лабораториях, оборудованных по последнему слову техники. В чем оно состояло, это последнее слово техники, он представлял себе довольно смутно и потому вкладывал в это понятие особо торжественный смысл.
- Вы сами ее собрали? - осторожно спросил он.
- Сам, - ответил математик. Голос его звучал виновато. - Трудно было только найти идею, принцип конструкции.
- Ага, - неопределенно произнес Скляров.
Он почему-то вспомнил д'Артаньяна. После книги Дюма легче верилось в необыкновенное. "А вдруг эта штука и в самом деле будет работать? - подумал он. - В сущности, все первое имело неказистый вид: пар-вый паровоз, первый пароход... Даже первый циклотрон".
- Какой же вопрос задаст эта... гм... машина? - спросил он. - Что-нибудь математическое?
- Не знаю, - ответил математик. - Право, не знаю. Она может выбрать любую проблему - ив математике, и, простите, в истории, и в биологии... Даже, так сказать, из сферы практической жизни. Она, образно выражаясь, начинена всевозможной информацией. Я, конечно, не смог бы сам заполнить всю ее память, но удалось использовать готовые элементы. Мой бывший ученик работает в академии, он мне и помог достать готовые элементы. Разумеется, они предназначались для других целей, но в этой машине они собраны иначе. Там, знаете ли, очень много записано. Десяток энциклопедий, разные справочники, учебники, журналы, газеты... Скляров вытер платком вспотевший лоб.
- И сейчас мы услышим... ее голос?
Семен Павлович быстро ответил:
- Нет, то есть да... Мы услышим азбуку Морзе.
Анатолий Сергеевич подошел к машине. Тихо поскрипывали створки открытого окна. Где-то очень близко прокричал петух. Протяжно загудел электровоз и внезапно осекся, словно испугавшись, что нарушил ночную тишину.
- Скажите, Семен Павлович, - спросил профессор, - какого все-таки рода может быть проблема? Я понимаю, вы не можете дать определенный ответ, но хоть примерно.
- Поверьте, я об этом не думал, - ответил математик. - Первый опыт... Тут важно только одно: чтобы вопрос, поставленный машиной, не был бессмысленным.
Скляров услышал смех и вздрогнул: настолько странным показался ему сейчас простой человеческий смех. По дощатому тротуару вдоль ограждавшего сад забора шли двое. Они не спешили, и по приглушенным молодым голосам нетрудно было догадаться, что это юноша и девушка. Внезапно шаги затихли. Послышался быстрый неясный шепот. Настороженно прогудел поезд. Он быстро приближался, и торопливый стук колес поглотил все ночные звуки.
- Московский, два сорок, - сказал Семен Павлович. - Начнем, если вы не возражаете?
Профессор вернулся к стулу. Он с трудом сдерживал волнение. Анатолий Сергеевич до самозабвения любил историю. Может быть, поэтому ему казалось, что первая проблема, поставленная машиной, обязательно будет связана с историей.
- Начнем, Семен Павлович, -взволновано сказал он и оглядел комнату. Теперь все в этой комнате показалось ему иным - значительным, даже ироничным. Начнем, - повторил он.
Математик поправил сбившийся набок галстук и, шумно вздохнув, передвинул рычажок, выступавший из прорези на передней панели машины. Что-то щелкнуло. Послышалось негромкое шипение.
Скляров напряженно всматривался в футляр старого радиоприемника. Динамик долго шипел, и Анатолию Сергеевичу начало казаться, что опыт не удался. Он вопросительно посмотрел на математика и в этот момент услышал прерывистую дробь азбуки Морзе. Семен Павлович бросился записывать. Скляров не знал азбуки Морзе и нетерпеливо поглядывал то на машину, то на математика.
Сигналы оборвались так же внезапно, как и начались.
Анатолий Сергеевич вскочил со стула и подбежал к математику. Тот протянул ему оторванную от газеты неровную полоску бумаги.
- Она задала вопрос! Значит... Как вы думаете это не бессмысленный вопрос?
Скляров прочитал написанное. В первый момент у него мелькнула мысль: "Ну-ну. Как бы то ни было, а чувство юмора у этого ящика есть". Потом он подумал: "Странный вопрос. Очень странный вопрос. А вдруг она... серьезно?" и подозрительно покосился на машину.
- Ну, как вы думаете, профессор? - с тревогой в голосе спросил Семен Павлович. - Вопрос... не бессмысленный?
- Мне трудно судить, - сказал Скляров. - Пожалуй, в какой-то степени вопрос закономерный. Машина впервые получила возможность по своей... гм... по своей инициативе спросить о чем-то человека, и вот... Да, да, - уже увереннее произнес он, - вполне логично, что она начала именно с этого вопроса. Почему-то принято считать, что машина должна думать как-то... гм... по-машинному. А она если будет думать, то как человек. Вы понимаете мою мысль? Вот Луна - она светит отраженным светом Солнца. Так и машина.
Подумав, Скляров добавил:
- Завтра же покажите эту машину специалистам. Вы слышите, Семен Павлович? Обязательно покажите ее кибернетикам. Пусть они и решают. И еще... сохраните эту бумажку.
Он передал математику полоску газетной бумаги, на которой под точками и тире была выведена аккуратным почерком одна фраза: "Может ли человек мыслить?" "Машина смеялась..."
(Из дневника)
...Сегодня ей исполнился год.
Я хорошо помню, как год назад мы сидели здесь, в этой комнате, и молча смотрели на серый корпус машины. В одиннадцать часов семнадцать минут я нажал пусковую клавишу, и машина начала работать.
Работать? Нет, это не то слово. Машина предназначалась для моделирования человеческих эмоций. Это не первый такой опыт с самоорганизующимися и саморазвивающимися машинами. Но мы основывались на новейших физиологических открытиях и очень тщательно внесли все коррективы, рекомендованные психологами.
Год назад я спросил своих ассистентов, как, по их мнению, окончится эксперимент.
- Она влюбится, - ответил Корнеев.
- Раз-зумеется, - медленно произнес Антрощенко. - Она влюбится в тебя. Как м-многие в институте. Потом он добавил:
- Очень грубая модель. Она будет похожа на к-крайне ограниченного человека. Скучного ч-человека.
- Ну, а вы? - спросил я Белова.
Он пожал плечами:
- В таких экспериментах не бывает неудач. Если машина сумеет хорошо имитировать человеческие эмоции, мы дадим биологам интересный материал. Если же она... ну, если она не сработает, биологам придется кое в чем пересмотреть свои взгляды. Это тоже полезно.
Две недели машина работала превосходно, и мы получили ценнейшие данные. А затем произошла первая неожиданность: у машины вдруг появилось увлечение. Она увлеклась: вулканами.
Это продолжалось десять дней. Машина изводила нас классификацией вулканов. Она упрямо печатала на ленте: Везувий, Кракатау, Килауэа, Сакурадзима... Ей нравились старинные описания извержений, особенно рассказ геолога Леопольда фон Буха об извержении Везувия в 1794 году. Она бесконечно повторяла этот рассказ: "В ночь на 12 июня произошло страшное землетрясение, повторившееся еще 15 июня в 11 часов ночи, с сильнейшим подземным ударом. Все небо вдруг озарилось красным пламенем..."
Потом она забыла об этом. Абсолютно забыла. Она отключила блоки памяти, в которых хранились сведения о вулканах. Такую вещь человек не способен сделать.
Эксперимент вступил в фазу непредвиденного. Я сказал об этом ассистентам, и Белов ответил:
- Тем лучше. Новые факты ценнее новых гипотез. Гипотезы приходят и уходят, а факты остаются,
- Чушь! - сказал Антрощенко. - факты сами по себе ничего не дают. Они как далекие з-звезды...
- Прошу не трогать звезды! - воскликнул Корнеев.
Я слушал их спор, а думал совсем о другом. В этот момент я уже знал, что будет дальше.
Очень скоро мое предвидение начало сбываться. Вдруг выяснилось, что машина ненавидит созвездие Ориона и все звезды, входящие в каталог Лакайля с № 784 по № 1265. Почему созвездие Ориона? Почему именно эти звезды? Мы могли бы разобрать машину и найти объяснение. Но это значило прервать эксперимент. И мы предоставили машине полную свободу. Мы лишь подключали к блокам памяти новые элементы и наблюдали за поведением машины.
А оно было очень странным, это поведение. Машина, например, включила желтый свет, означавший плач, когда впервые узнала структурную формулу бензола. Машина никак не реагировала на формулу динатрисалициловой кислоты. Но упоминание о натриевой соли этой кислоты неожиданно привело ее в бешенство: желтый сигнал стал оранжевым, а потом лампа перегорела...
Музыка, вообще любая информация, связанная с искусством, оставляла машину бесстрастной. Но ее веселило, когда в тексте информации встречались существительные среднего рода из четырех букв. Мгновенно зажигался зеленый сигнал и начинал уныло дребезжать звонок: машина смеялась...
Она работала двадцать четыре часа в сутки. Вечером мы уходили из института, а электронный мозг машины продолжал перерабатывать информацию, менять настройку блоков логического управления. По утрам нас ожидали сюрпризы. Однажды машина начала сочинять стихи. Странные стихи: о драке "горизонтальных кошек" с "симметричным меридианом"...
Как-то я приехал в институт ночью. Машина стояла в темной комнате. На приборном щите светилась только небольшая фиолетовая лампа: это означало, что у машины хорошее настроение.
Я долго стоял в темноте. Было очень тихо. И вдруг машина рассмеялась. Да, она рассмеялась! Вспыхнул зеленый сигнал и тоскливо задребезжал звонок...
...Сейчас, когда я пишу эти строки, машина снова смеется. Я сижу в другой комнате, но дверь приоткрыта, и я слышу взвизгивание звонка. Машина смеется над квадратными уравнениями. Она ворошит свою огромную память, отыскивает тексты с квадратными уравнениями - и смеется.
Когда-то Клод Бернар сказал: "Не бойтесь противоречивых фактов - каждый из них зародыш открытия". Но у нас слишком много противоречивых фактов. Иногда мне кажется, что мы просто-напросто создали несовершенную машину...
Или - все правильно?
Вот моя мысль:
Нельзя сравнивать машину с человеком. В нашем представлении роботы - это почти люди, наделенные либо машинной злостью, либо машинным сверхумом. Чепуха! Наивен вопрос, может ли машина мыслить. Надо одновременно ответить "нет" и "да". Нет - ибо мышление человека формируется жизнь" в обществе. Да - ибо машина все-таки может мыслить и чувствовать. На как человек, а как некое другое существо. Как машина. И это не лучше и не хуже, чем мышление человека, а просто - иначе.