Обе теории предсказания - линейного и нелинейного - предполагают определенные критерии качества предсказания. Простейший, хотя отнюдь и не единственный пригодный, - это критерий наименьшей среднеквадратической ошибки. Он применяется здесь в частном виде с функционалами броунова движения, использованными мною для синтеза нелинейных устройств, поскольку различные члены моего разложения имеют некоторые свойства ортогональности. Эти свойства гарантируют, что частичная сумма конечного числа членов дает наилучшую имитацию рассматриваемого устройства, какая только может быть получена с этими членами при указанном критерии. Метод Габора также основан на среднеквадратическом критерии ошибки, но в более общем виде, пригодном для временных рядов, полученных из опыта.
Понятие обучающихся машин можно распространить на гораздо более широкую область, нежели предсказывающие устройства, фильтры и тому подобные приборы. Особенно важно оно для изучения и конструирования машин, играющих в игры со встречными интересами, как, например, в шашки. Здесь интересную работу выполнили Сэмьюэл и Ватанабе в лабораториях фирмы "Интернешнел Бизнес Машине". Как и в случае фильтров и предсказывающих устройств, здесь подбираются какие-то функции временных рядов, на которые можно разложить функции гораздо более широкого класса. Выбранные функции могут включать численные оценки существенных величин, от которых зависит успех игры. Например, они включают число фигур с обеих сторон, господство над пространством, подвижность и т. д. В начале работы машины этим факторам даются пробные [c.37] веса, и машина выбирает допустимый ход, имеющий наибольший общий вес. Эти действия машина проводит по жесткой программе, без какого-либо оборудования.
Но время от времени машина переходит к другой задаче. Она пробует разложить функцию, равную 1 при выигрыше, 0 при проигрыше и, положим, 1/2 при ничьей, по различным функциям, выражающим факторы, которые машина способна учитывать. Тем самым она заново определяет вес этих факторов, чтобы вести затем более сложную игру. Некоторые свойства таких машин будут рассмотрены в гл. IX, здесь же я должен сказать, что применение подобных оценок позволяет машине обыграть своего программиста после 10-20 часов обучения и тренировки. Я также упомяну в этой главе о некоторых аналогичных машинах, предназначенных для доказательства геометрических теорем и для имитации - в ограниченной степени - логики индукции.
Вся эта работа составляет часть теории и практики двойного программирования, которые усиленно изучались в лаборатории электронных систем Массачусетсского технологического института. Там было установлено, что, если не применять какое-либо обучающееся устройство такого типа, программирование машины с жесткой схемой представляет собой очень трудную задачу и что существует настоятельная необходимость в устройствах для программирования этого программирования.
Но понятие обучающихся машин применимо не только к тем машинам, которые мы создаем сами, но и к тем живым машинам, которые мы называем "животными", и это бросает новый свет на биологическую кибернетику. Здесь я хочу выделить среди многих современных исследований книгу супругов Стэнли-Джонсов о кибернетике (отметим орфографию) живых систем. [c.38] В этой книге авторы много места отводят обратным связям, поддерживающим рабочий уровень нервной системы, а также другим обратным связям, отвечающим на частные раздражения. Поскольку соединение уровня системы с частными реакциями является в значительной степени мультипликативным, оно также нелинейно и подчиняется соображениям, подобным изложенным выше.
Эта область исследований сейчас усиленно развивается и, я надеюсь, в ближайшем будущем должна развиваться гораздо больше.
Машины с памятью и самовоспроизводящиеся машины, которые я до сих пор описывал, основаны в большой мере, хотя и не полностью, на устройствах с весьма высокой специализацией, которые можно назвать копировальными устройствами. Физиологические варианты того же процесса должны больше соответствовать особым методам, свойственным живым организмам, где копирование заменяется менее специализированным процессом самоорганизации системы. Гл. Х настоящей книги посвящена одному примеру процесса самоорганизации, а именно процессу, посредством которого образуются узкие, весьма специфические частоты в мозговых волнах. Она оказывается, таким образом, в значительной мере физиологическим двойником предыдущей главы, в которой аналогичные процессы рассматриваются на более близкой к копированию основе.
Обнаружение таких резких частот в мозговых волнах и теории, предложенные мною для объяснения того, как они возникают, что они могут сделать и как их можно использовать в медицине, представляют, по моему мнению, новое существенное направление в физиологии. Подобные же идеи можно применить для объяснения многих других физиологических явлений, и они могут внести значительный вклад в изучение основ явлений жизни. В этом направлении я даю скорее программу, чем законченное исследование, но программу, на которую я возлагаю большие надежды.
В мои намерения ни в первом издании книги, ни в настоящем не входило дать конспект всего, что было сделано в кибернетике. Это не соответствует ни моим интересам, ни моим возможностям. Цель моя - изложить и дополнить свои мысли по этому предмету и [c.39] представить некоторые идеи и философские соображения, которые побудили меня начать работу в данной области и продолжали интересовать меня при ее дальнейшем развитии. Таким образом, это книга весьма личного характера, уделяющая много места исследованиям, которыми я сам интересовался, и относительно мало - исследованиям, в которых я сам не участвовал.
При пересмотре книги я получил ценную помощь от многих. В частности, я должен выразить признательность за сотрудничество мисс Констанции Д. Бойд из издательства Массачусетсского технологического института, д-ру Сикао Икехара из Токийского технологического института, д-ру Ю.В. Ли с электротехнического факультета Массачусетсского технологического института и д-ру Гордону Рейсбеку из Белловских телефонных лабораторий. Кроме того, при написании новых глав, и в частности в расчетах для гл. X, в которой рассматриваются самоорганизующиеся системы, обнаруживаемые при изучении энцефалограмм, я должен отметить помощь со стороны моих учеников Джона Котелли и Чарльза Э. Робинсона и особенно со стороны д-ра Джона С. Барлоу из Главной Массачусетсской больницы. Указатель составил Джеймс У. Дэйвис.
Без постоянной заботы и преданности всех этих лиц у меня не хватило бы мужества и прилежания, чтобы выпустить новое исправленное издание.
Норберт Винер
Кембридж, Массачусетс,
март 1961 г.[c.40]
Часть I.
Первоначальное издание
1948 г.
Введение
Эта книга представляет итог более чем десятилетних исследований, предпринятых совместно с д-ром Артуро Розенблютом, работавшим тогда в Гарвардской медицинской школе, а ныне перешедшим в Национальный институт кардиологии в Мексике. В то время д-р Розенблют, коллега и сотрудник покойного д-ра Уолтера Б. Кеннона, ежемесячно устраивал дискуссии о научном методе. В этих дискуссиях участвовали главным образом молодые ученые Гарвардской медицинской школы. Мы собирались на обед за круглым столом в Вандербилт-Холле. Беседа была живой и непринужденной. Здесь было неподходящее место для игры в амбицию, да это и не поощрялось. После обеда кто-нибудь из нашей группы или из гостей делал доклады на какую-либо научную тему, причем обычно в этих докладах вопросы методологии ставились на первое или хотя бы на почетное место. На докладчика обрушивалась резкая критика, благожелательная, но беспощадная. Она была великолепным лекарством от незрелых мыслей, недостаточной самокритичности, излишней самоуверенности и напыщенности. Кто не мог выдержать испытание, не возвращался в нашу среду, но многие из нас, бывших завсегдатаев этих встреч, чувствуют, что эти встречи были постоянным существенным вкладом в наше научное развитие.
На этих собраниях присутствовали не только врачи и ученые-медики. К постоянным и активным участникам наших споров принадлежал д-р Мануэль Сандоваль Вальярта, профессор физики Массачусетсского технологического института, один из самых первых моих [c.43] студентов в те годы, когда я пришел в МТИ после I мировой воины. Как и д-р Розенблют, д-р Вальярта был мексиканец. Он имел обыкновение приводить на эти встречи своих коллег по институту. На одну из встреч он привел и меня; так я встретился впервые с д-ром Розенблютом. Я давно интересовался методологией науки и в 1911-1913 гг. принимал участие в семинаре по этим вопросам, который вел Джосайя Ройс в Гарвардском университете. Чувствовалось, что на подобных собраниях необходимо присутствие человека, способного критически рассматривать математические вопросы. Поэтому я был активным членом группы до того момента, пока д-р Розенблют не был вызван в Мексику в 1944 г. и пока общий беспорядок, связанный с войной, не положил конец этим собраниям.
В течение многих лет д-р Розенблют разделял со мной убеждение, что самыми плодотворными для развития наук являются области, оставленные в пренебрежении по той причине, что они были "ничьей территорией" между различными сложившимися науками. После Лейбница, быть может, уже не было человека, который бы полностью обнимал всю интеллектуальную жизнь своего времени. С той поры наука становится все более делом специалистов, области компетенции которых обнаруживают тенденцию ко все большему сужению. Сто лет тому назад хотя и не было таких ученых, как Лейбниц, но были такие, как Гаусс, Фарадей, Дарвин.
В настоящее же время лишь немногие ученые могут назвать себя или математиками, или физиками, или биологами, не прибавляя к этому дальнейшего ограничения. Ученый становится теперь топологом, или акустиком, или специалистом по жесткокрылым. Он набит жаргоном своей специальной дисциплины и знает всю литературу по ней и все ее подразделы. Но всякий вопрос, сколько-нибудь выходящий за эти узкие пределы, такой ученый чаще всего будет рассматривать как нечто, относящееся к коллеге, который работает через три комнаты дальше по коридору. Более того, всякий интерес со своей стороны к подобному вопросу он будет считать совершенно непозволительным нарушением чужой тайны.
Специализация дисциплин все время возрастает и [c.44] захватывает все новые области. В результате создается ситуация, похожая на ту, которая возникла, когда в Орегоне одновременно находились и поселенцы из Соединенных Штатов, и англичане, и мексиканцы, и русские, - сложный и запутанный клубок открытий, названий и законов. Ниже мы увидим, что существуют области научной работы, исследуемые с разных сторон чистой математикой, статистикой, электротехникой и нейрофизиологией. В этих областях каждое понятие получает особое название у каждой группы специалистов, и многие важные исследования проделываются трижды или четырежды. В то же время другие важные исследования задерживаются из-за того, что в одной области не известны результаты, уже давно ставшие классическими в смежной области.
Именно такие пограничные области науки открывают перед надлежаще подготовленным исследователем богатейшие возможности. Но изучение таких областей представляет и наибольшие трудности для обычного метода массового наступления с разделением труда.
Если трудность физиологической проблемы по существу математическая, то десять несведущих в математике физиологов сделают не больше, чем один несведущий в математике физиолог. Очевидно также, что если физиолог, не знающий математики, работает вместе с математиком, не знающим физиологии, то физиолог не в состоянии изложить проблему в выражениях, понятных математику; математик, в свою очередь, не сможет дать совет в понятной для физиолога форме.
Д-р Розенблют всегда настойчиво утверждал, что действенное изучение этих белых пятен на карте науки может быть предпринято только коллективом ученых, каждый из которых, будучи специалистом в своей области, должен быть, однако, основательно знаком с областями науки своих коллег. При этом необходимо, чтобы все привыкли работать совместно, зная склад ума другого, оценивая значение новых идей коллеги, прежде чем эти идеи будут точно сформулированы. От математика не требуется умения провести физиологический эксперимент, но он должен уметь понимать такой эксперимент, уметь подвергнуть его критике и уметь предложить новый эксперимент. От физиолога не требуется умения доказать определенную математическую [c.45] теорему, но физиолог должен быть в состоянии понять ее значение для физиологии и указать математику направление поисков. В течение многих лет мы мечтали об обществе независимых ученых, работающих вместе в одной из этих неисследованных областей науки, и не под началом какого-нибудь высокопоставленного администратора, а объединенных желанием, даже духовной необходимостью, понимать науку как нечто целое и передавать друг другу силу такого понимания.
Мы пришли к согласию по этим вопросам задолго до того, как выбрали область наших совместных исследований и наметили, какое каждый примет в них участие. На наш выбор существенно повлияла война. Я давно знал, что в случае войны мое участие в ней определялось бы в значительной степени двумя обстоятельствами: моим тесным контактом с программой создания вычислительных машин, проводимой д-ром Ванневаром Бушем, и моей совместной работой с д-ром Юк Винг Ли по синтезу электрических схем. Действительно, оба обстоятельства сыграли значительную роль. Летом 1940 г. я стал уделять много внимания разработке вычислительных машин для решения дифференциальных уравнений в частных производных. Я давно интересовался этим, и у меня сложилось убеждение, что здесь, в отличие от обыкновенных дифференциальных уравнений, так хорошо решавшихся на дифференциальном анализаторе д-ра Буша, главной является проблема представления функций многих переменных. Я был убежден также, что процесс развертки, применяемый в телевидении, дает ответ на этот вопрос и что в действительности телевидение принесет технике больше пользы именно созданием таких новых процессов, чем само по себе, как особая отрасль.
Было ясно, что всякий процесс развертки должен значительно увеличить количество используемых данных по сравнению с тем, которое встречается в задачах, сводимых к обыкновенным дифференциальным уравнениям. Поэтому для получения приемлемых результатов в приемлемое время необходимо довести до максимума скорость элементарных процессов и добиться, чтобы течение этих процессов не прерывалось существенно более медленными шагами. Необходимо также повысить точность выполнения элементарных процессов [c.46] настолько, чтобы их частое повторение не приводило к накоплению слишком большой ошибки. В результате были сформулированы следующие требования:
1) Центральные суммирующие и множительные устройства должны быть цифровыми, как в обычном арифмометре, а не основываться на измерении, как в дифференциальном анализаторе Буша.
2) Эти устройства, являющиеся по существу переключателями, должны состоять из электронных ламп, а не из зубчатых передач или электромеханических реле. Это необходимо, чтобы обеспечить достаточное быстродействие.
3) В соответствии с принципами, принятыми для ряда существующих машин Белловских телефонных лабораторий, должна использоваться более экономичная двоичная, а не десятичная система счисления.
4) Последовательность действия должна планироваться самой машиной так, чтобы человек не вмешивался в процесс решения задачи с момента введения исходных данных до снятия окончательных результатов. Все логические операции, необходимые для этого, должна выполнять сама машина.
5) Машина должна содержать устройство для запасания данных. Это устройство должно быстро их записывать, надежно хранить до стирания, быстро считывать, быстро стирать их и немедленно подготавливаться к запасанию нового материала.
Эти рекомендации вместе с предложениями по их реализации были направлены д-ру Ванневару Бушу для возможного применения их в случае войны. На той стадии подготовки к войне казалось, что они не столь важны, чтобы приступить к немедленной работе над ними. Тем не менее все эти рекомендации представляют собой идеи, положенные в основу современной сверхбыстрой вычислительной машины. Эти мысли почти носились тогда в воздухе, и я не хочу в данный момент заявлять какие-либо претензии на исключительный приоритет в их формулировке. Все же указанные рекомендации оказались полезными, и я надеюсь, что они имели некоторое влияние на популяризацию этого круга идей среди инженеров. Во всяком случае, как мы увидим в основной части книги, такие идеи интересны в связи с изучением нервной системы. [c.47]
Итак, эта работа была отложена. Хотя она и принесла некоторую пользу, но непосредственно она не привела д-ра Розенблюта и меня к каким-либо проектам. Наше действительное сотрудничество возникло в связи с другой задачей, также имевшей непосредственное отношение к последней войне. В начале войны господство Германии в воздухе и оборонительная позиция Англии сосредоточили внимание многих ученых на задаче усовершенствования зенитной артиллерии. Уже до войны стало ясно, что возрастающая скорость самолетов опрокинула классические методы управления огнем и что необходимо встроить в прибор управления огнем все вычислительные устройства, обеспечивающие расчеты для выстрела. Эти вычислительные устройства оказались очень сложными вследствие того обстоятельства, что, в отличие от других целей, самолет имеет скорость, сравнимую со скоростью зенитного снаряда. Поэтому необходимо стрелять не прямо в цель, а в некоторую точку, в которой, согласно расчетам, должны по прошествии некоторого времени встретиться самолет и снаряд. Следовательно, мы должны найти какой-нибудь метод предсказания будущего положения самолета.