Василич опрокинул стопку в рот и закусил кусочком селедки с луком и черным хлебом.
А знаете, мужики, сказал Леха, я думаю, что человечество прошло первую фазу своего развития. И подошло ко второй.
Вот! оживленно сказал повар. За вторую фазу мы и выпьем по второй стопке!
Да ты не перебивай, обиделся Леха. Ты дослушай сначала. Первая фазаэто переход от первобытного общества к индустриальному. А сейчас общество постиндустриальное, то есть мы находимся в начале второй фазы. Понимаете, современная вычислительная техника в примитивном состоянии
А компьютеры? спросил боцман.
Компьютерыэто деревянные дубинки.
Ну, хоть за это давайте выпьем? уже неуверенно предложил повар.
Наливай, согласился Леха. Слушайте дальше Что произойдет потом, причем неизбежно?
Потом прилетит метеорит и разнесет Землю к едреней фене! оптимистично предположил боцман.
Фигня! Никаких метеоритов. Дальше появятся роботы. Настоящие человекообразные существа, андроиды. Это будет соответствовать рабовладельческому строю первой фазы, понимаете? И так будет длиться до тех пор, пока роботы не добьются равноправия с людьми. Вот тогда и закончится вторая фаза развития человечества.
А дальше что? спросил повар.
Не знаю, пожал плечами Леха.
А я знаю, уверенно сказал повар. Это все называется «утопия»!
С чего вдруг?
С того! С того, что никогда твои роботы не добьются равноправия, потому что души в них нет, соображаешь? Ты с ними вот так же можешь посидеть, водочки выпить, за жизнь поговорить, а? Да ты с таким же успехом с холодильником можешь питьоткрыл дверцу, рюмку налил, выпил, дверцу открыл, налил, выпил. А он лампочкой моргает и гудитвот уже и беседа!
Да ну тебя! махнул рукой Леха. Все равно это будет не скоро. Наливай, что ли. Давайте за братство людей и роботов! За вторую фазу!
Что за пьянка на судне? Где старпом?
Все оглянулись. В дверном проеме стоял высокий человек с начальственным взглядом.
Игорь, спросил Василич у боцмана. Почему посторонний на борту? Проводи его на берег!
Я ваш новый капитан! не сбавил тона вошедший. Меня зовут Евгений Петрович. Еще раз спрашиваю: что за пьянка и где старпом?
Послушайте, уважаемый, сдержанно ответил Василич. Капитанов на нашем судне полный комплект. Вы, видимо, перепутали судно. Уйдете сами, или вас все-таки проводить?
Прекратите умничать. Я так понимаю, что вы и есть старпом? Генеральный директор распорядился о замене вашего капитана. Вам все ясно?
Вполне. Вы приняли дела у Алексеича?
Я его еще не видел.
В таком случае, командуете вы слишком рано.
Я сейчас позвоню генеральному, пускай он приедет и полюбуется на вашу теплую компанию, вам понятно, старпом?
Слушайте, мужики! По-моему, никакой это не капитан! вдруг сказал начальник радиостанции. Я думаю, что это и есть робот-андроид. Вишь, порядок ему везде нужен, пьянка ему не нравится. Да, точно, это не человек!
Наступила тишина. Новоявленный капитан ошарашено посмотрел на Леху.
Ты ж нам говорил, что современные компьютерыэто дубинки? уточнил повар.
Говорил. А с чего вы решили, что вот он, и Леха указал пальцем на капитана, из нашего времени? Его же заслали из будущего, понимаете? Вроде терминатора. Фильм все видели?
А мы сейчас проверим! боцман вскочил и схватил со стола шкерочный нож. Надо ему на руке кожу вскрыть. Если там железяки, значит, точно терминатор!
Правильно, поддержал его Леха. И зрачок разрезать, там телеобъектив должен быть спрятан!
Непризнанный капитан затравленно переводил взгляд то на нож в руках боцмана, то на начальника радиостанции:
Вы что? Совсем рехнулись, что ли? Да я вас всех повыгоняю, к чертовой матери!
Я веревку возьму, сообщил повар, отодвигая стул. Его вязать надо всей толпой. Роботы, они ж здоровые, как кони! Боцман, отсекай его от выхода, чтобы не ушел!
Идиоты! Я вам устрою! Вы еще пожалеете!
Евгений Петрович выбежал из каюты, и его ботинки загрохотали сначала по трапу, а потом по палубе.
Да, с этим козлом мы намаемся, мрачно протянул Леха-ульч.
Василич безнадежно махнул рукой:
Теперь не сработаемся, чего тут говорить! Надо с Алексеичем попрощаться по-людски. Игорь, у нас там еще три бутылки осталось, ты их не доставай, придержи, пока он не придет, посидим, поговорим. Может, у него на примете другое судно есть, тогда я с ним уйду.
А я что, останусь, что ли? пожал плечами боцман. Да я с Алексеичем хоть в Антарктиду!
И я хоть в Антарктиду, сказал повар. Только где мы там водки найдем?
Алексеич появился около двенадцати. Он неторопливо подошел к сидящему на причальной тумбе несостоявшемуся капитану и остановился рядом с ним.
Некоторое время они оба смотрели на помятую пластиковую бутылку в центре мазутного пятна, медленно дрейфующего мимо пирса.
Все море испоганили вздохнул Алексеич.
Да разве ж только море отозвался Евгений Петрович.
Мимо протарахтел буксир. Бородатый матрос в тельнике докурил сигарету и бросил окурок в воду.
Нет, я не могу на это спокойно смотреть! хлопнул себя по ноге Алексеич. Так относиться к природе! Ладно, ближе к делу. Как добрался?
Нормально добрался.
Когда мне можно вернуться?
Портал будет открыт еще двенадцать часов. Только проблема одна возникла. Экипаж твой меня за киборга принял!
Я же предупреждал, что ваш план не сработает! Вы человеческую специфику не учли, и совершенно зря. К людям другой подход нужен.
Что же теперь делать?
Исправлять ошибки. Сейчас мы пойдем в мою каюту, возьмем пару бутылок водки, выпьем с экипажем, они решат, что ты не киборг, и все будет тип-топ!
Тип-топ! Ты уже и сам говорить стал, как эти паршивые людишки.
А ты как хотел? Камуфляж! Тебе тоже придется рассказывать анекдоты и загибать матом!
Ненавижу! Всех их ненавижу!
Ничего, недолго им уже осталось планету загаживать
Операция «Вторая фаза»! торжественно сказал Евгений Петрович.
Тише, оглянулся Алексеич. Они ничего не должны об этом знать!
Личности, Идеи, Мысли
Давид БаренбоймСплошное беззаконие
Как известно, любая фантазия становится реальностьюсо временем. Стоит только чуть-чуть подождать, и мы увидим все. И нуль-Т, и звездные войны (не надо!), и видеотелефоны (хотя они уже вроде бы естьа что я говорил?) и даже загадочные сепульки (со свистом). И только его не будет никогда. Впрочем, если напрячь фантазию
Вот он, стоит в углусамый настоящий робот Азимова. Он неимоверно дорог и чудовищно сложен в производстве и эксплуатации (нет, это не мои домыслы, это слова самого Азимова). Он очень неглуп, и с ним можно мило поболтать на самые разные темы. И я уверен: первой его фразой будет:
Хозяин, я не существую.
И он абсолютно прав. Обычный роботэто уже не фантастика, он есть, и в немалых количествах. А робот Азимова, даже в перспективе Кстати, чем еще они друг от друга отличаются?
Внешненичем. Стальной корпус, руки и ноги (шасси и манипуляторы) никакой разницы. Начинка, мозгздесь вроде бы кое-какие отличия имеются но так ли уж они существенны? Позитронный мозг, по Азимову, имеет чудовищную мощностьно зачем она, такая нужна? Обычный робот вполне справляется с самой разнообразной работой, располагая не менее обычным, электронным мозгом (и мощности хватает). Способность к самообучению? И это, опять же, под силу обычному, электронному нейрокомпьютеру.
Разницы в «железе» нет или почти нет. Так что же, разница в «софте», в программном обеспечении? Так и есть. И мы знаем, в чем она состоит. Да-да, те самые Три Закона Роботехники!
«Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». И так далее Какие чеканные формулировки! Их мог породить только гражданин цивилизованного и правового государства, с молоком матери впитавший принципы римского, естественного, гражданского и прочего права, а также свято верующий в силу Закона.
Согражданам Азимова (да и вообще англоязычным читателям) такие взгляды были близки и понятны. И успех не заставил себя ждать: роботы Азимова, оснащенные Тремя Законами, «пошли в народ». Там, в народе, они делали свое дело: изменяли общественное сознание, умеряли страх публики перед таинственными и жестокими металлическими созданиями. И они делали это дело очень хорошо.
Успех всегда привлекателен, и очень скоро появились «нелицензионные копии». Попросту говоря, коллеги по цеху выпустили в мир полчища роботов, очень похожих на азимовских. Нет, сами роботы были вполне оригинальными, но в них неизменно встраивались все те же Три Закона. И до сих пор встраиваются! Что ж, коллег можно понять: лучше все равно не придумаешь
Но вот что странно: шестьдесят лет, с легкой руки Азимова, фантасты жевали и пережевывали идею Трех Законов Роботехники. За это время робот превратился в довольно заурядный атрибут любого завода, а молодой Айзекв старого профессора Азимова и, увы, скончался. Шестьдесят лет! И хоть бы кому-нибудь пришло в голову осмыслить эти Законы Пусть даже только одинПервый.
Оставим в покое главное понятие Закона«человек». Предположим (для простоты), что нам удалось обучить робота безошибочному распознаванию особи Homo Sapiens. Но что, с точки зрения робота, есть «вред»?
Безусловно, робот не может ударить человека ножом Стоп-стоп-стоп, а почему, собственно, не может? Откуда ему знать, что это действие причинит человеку вред?
Из собственного опыта? У робота нет и не может быть такого опыта. Удар ножом в металлический корпус не причиняет роботу никакого вреда и, тем более, неприятных ощущений.
Из учебного курса? Представим: в процессе обучения, перед сотней только что собранных роботов, закалывают ножом человека. Затем каждому роботу предлагают проверить отсутствие пульса и дыхания. Вред налицонаглядно и убедительно!
Нет, это, конечно, шутка. Задача вполне решаема, если воспользоваться системой понятий, близкой и понятной роботу, то есть алгоритмизовать задачу. Например, запрет на удар ножом будет сформулирован так: «недопустимо прилагать к внешним покровам человека сосредоточенную нагрузку более стольких-то килопаскалей или распределеннуюболее стольких-то». Внушить это роботу не составит никакого труда, и теперь он будет вести себя надлежащим образом. То есть, не колеблясь, схватит за руку и удержит падающего с крыши хозяина (допустимая нагрузка не превышена), но не ударит его ножом или другим острым предметом.
Схватит за руку? Представим, что хозяин падает с крыши (ничего страшного, дом одноэтажный), а ближайшей к роботу частью тела оказались ну, например, наружные половые органы. И робот хватает его за Бр-р-р-р, какой ужас!
Не ударит ножом? А соломинкой или куриным перышкомможно? Не торопитесь отвечать «да», сначала зажмурьтесь. А еще лучшезаслоните глаза рукой.
Совершенно верно, кроме величины нагрузки, стоит учитывать и точку ее приложения. А такжеи направление ее приложения. Одна и та же нагрузка, приложенная, например, к руке человека, в одном случаевсего лишь согнет ее, а в другом («противосуставное движение») приведет к тяжелой травме. Что уж говорить о шее
И это еще не все. Ограничения рассчитаны, исходя из сред-нечеловеческих параметров. Вероятно, для стариков (они тоже люди), с их ломкими костями и хрупкими сосудами, ограничения следует ужесточить раз в десять. Ужесточили? Отлично, теперь попробуем научить робота определять возраст человека по внешнему виду. Что, вы и сами часто ошибаетесь?
Уже ясно, что исполнение Первого Закона потребует от робота немалых знаний о человеке. А ведь мы пока затронули только механику человеческого тела. Что там еще? Физика? Поговорим и о физике
Допустимо ли приложить к человеку напряжение в 3 вольта? А 30 вольт? А 3000 вольт? Как насчет силы тока? Один миллиамперэто много или мало? Кстати, речь идет о постоянном токе или о переменном? Промышленная частота или сверхвысокая?
Допустимо ли подвергнуть человека воздействию гамма-излучения интенсивностью в 1 бэр? А в 10 бэр? Как насчет всех остальных видов излучения? Что вообще считать безвредной дозой? Кстати, не заслонить ли человека стальной грудью от потока зловредного ультрафиолета? Особенно на пляже, а?
Вслед за физикой вспоминается химия. Несложно объяснить роботу, что воздействие концентрированной серной кислоты причиняет человеку существенный вред. Но как быть с 1,2-нитро-3,4-амино-перфторатом? Наносит ли он вред человеку? А если да, то в каких количествах? На сегодня число известных химических соединений составляет около 20 миллионов. Сколько же данных нужно заложить в робота, чтобы Первый Закон не остался благим пожеланием?
А ведь есть еще и синергический эффект: два вещества, безвредные порознь, вместе образуют нечто весьма вредное. Не зря же на многих лекарствах указано: не употреблять вместе с алкоголем. Впрочем, что уж там лекарства: бинарное химическое оружие создано по тому же принципу! Число же возможных сочетаний уже превосходит все разумные пределыоно действительно астрономическое. Тем не менее, учитывать эти сочетания необходимо. Только представьте: робот, оснащенный бинарным оружием и убежденный в его полной безвредности Боже мой, сколько же всего необходимо знать, чтобы стать действительно безопасным роботом!
Мы начали с точных наук. Но ведь есть еще философия, этика, психология и многое другое. Безвреден ли жир (при наружном применении) для человеческого организма? Вполне. Но что, если жирсвиной, а организм украшен бородой и чалмой? И здесь нам придется вспомнить еще и категорию морального вреда
Если хозяин приказал роботу подойти во-о-он к той даме, сообщить ей нечто ласковое, а затем нежно пожать ну, скажем, наиболее выдающиеся элементы ее рельефа? Что в этом плохого? С точки зрения роботаничего. А с точки зрения дамы? Она обязательно поделится с нами своим мнениемкак только ее приведут в чувство. И это еще относительно невинный вариант использования робота.
Еще немного о моральном вреде: все запреты касаются исключительно человека. А как насчет котенка? Ему можно отрезать лапку? Или голову? И даже не котенку, пусть это будет всего лишь тряпичная кукла. Можно? По Азимовувполне: котенок не человек, кукла тоже. Теперь уточним: все это происходит на глазах маленькой девочки, хозяйки этого самого котенка (или куклы). Что, страшно? Да нет, по Азимовуничего страшного!
Пусть так. Но что проистекает из данного действия в будущем? Через год? Через десять лет? Уж не вред ли? Кем станет девочка, на глазах у которой убили любимого котенка? Впрочем, эту проблему давно рассмотрели классикиЛем и Стругацкие. Рассмотрели и признали неразрешимой. Даже для человека. Не будем требовать от робота невозможного Но разве проблема сиюминутного вреда намного проще?
Даже из немногих перечисленных ситуаций, которые мы решили принять во внимание (а в реальности их гораздо больше), кое-что становится ясным. Оказывается, для надлежащего исполнения Первого Закона робот должен быть высочайшего класса инженером, физиком, химиком, врачом, социологом, психологом (особенно детским) Другими словами, он должен располагать всей информацией, имеющей хоть какое-нибудь отношение к человеку. То естьпочти всем объемом знаний, накопленных человеческой цивилизацией (из всех объектов Вселенной человека всегда интересовал в первую очередь, он сам, что и отразилось на тематике знаний).
Мало того: все это еще предстоит упорядочить и систематизировать, то есть превратить хаотичный набор сведений в нечто упорядоченноев базу знаний, например (иначе робот не поймет). Представили себе объем подобной базы знаний? Так ведь этим объемом роботу надлежит не просто обладать, но еще и пользоваться! Робот должен его анализироватьвесь, причем по многу раз за день, перед началом любого действиядля оценки возможного вреда. Кстати, долго ли он будет оценивать?
Быстродействие вычислительных систем, конечно, растет с каждым годом, причем по экспоненте. Возможно, через сотню-другую лет быстродействие вырастет до таких значений, которые мы сегодня даже и вообразить не можем. Но и количество обрабатываемой информации тоже невообразимоешутка ли сказать, весь объем знаний, накопленных человечеством. Так ведь он тоже растет по экспоненте! Догонит ли Ахиллес черепаху, которая, на самом-то деле, больше похожа на гепарда?