Ведь это факт, что человечество ведет себя по отношению к компютерам беспечно. Оно само дает «думающим машинам» полнейшую информацию о себе. Роботы помогают хирургам делать операции, они вытесняют рабочих с производства, помогают чиновникам и банкирам. В 80-е годы ХХ века перед крупными промышленными и финансовыми корпорациями встал вопрос о срочном техническом переоснащении – засилье компьютеров и роботов у конкурентов вело «традиционных» бизнесменов к краху. В итоге самую сложную работу (от ремонта ядерных объектов до биржевых сделок) начали передоверять машинам. Хорошо еще, что человек оставлял за собой право ответственного решения.
Кевин – человек подозрительный. Он скоро понял, что бегающие, ползающие в его лаборатории «милые» роботы начали жить своей жизнью. Он «застукал» одного из своих любимцев за тем, что тот, не получив на это разрешения или стартовой программы, залез в Интернет, нашел там нью-йоркского робота (по выражению профессора, «слонявшегося в тот день без дела») и самостоятельно передал ему информацию о том, как можно двигаться по комнате, не натыкаясь на вещи. Английский робот сам обучился не натыкаться на что попало и обучил этому своего американского собрата. Многие, узнав об этом, возликовали, Уорвик – нет. Ведь его «милашки» начали обладать зачатками индивидуальности: в процессе самообучения кто-то был сомневающимся в себе, кто-то чересчур храбрым…
При этом некоторые роботы имели интеллект всего в 50 мозговых клеток (уровень улитки). У персонального компьютера он равен 10 тысячам мозговых клеток (уровень пчелы). У человека объем мозга составляет сто миллиардов клеток. Лет через десять компьютер догонит человека, а через двадцать оставит далеко позади. Теперь представьте себе, что умная машина, осознающая свое превосходство над человеком, послала программу в Интернет. Вы усомнитесь: разве у машины может быть сознание? Вспомните афоризм древних: «Я мыслю, значит, существую». Вот и ответ на ваш вопрос.
Профессор написал книгу «Нашествие роботов», которая быстро стала бестселлером. Осенью 1999 года Уорвик приезжал в Россию: представить русский вариант книги и познакомить общественность со своими детками. Последнее детище кибернетика – кошка Сид – настораживает. Она ходит, сидит, виляет мягким местом – все по команде «папы», но ее интеллект уже намного выше, чем у предыдущих созданий Кевина. Создавая роботов, он уверен: исключить опасность их бунта можно двумя способами. Во-первых, необходимо принять международный пакт об ограничении интеллекта машин, а во-вторых, человек одолеет робота, став киборгом, иными словами, улучшив свой интеллект с помощью компьютера. Но это – при благоприятном развитии ситуации.
Разумная «форма жизни», превосходящая людей, может захватить нашу планету к концу следующего столетия. Выступая в 1995 году на собрании британской научной ассоциации, Кевин Уорвик заявил, что эта «форма» может быть и не похожа на Терминатора, но способна обладать таким же инстинктом убивать и стремлением заменить своих хозяев-людей.
Развитие машинного интеллекта достигло такого уровня, что компьютер, владеющий некоторыми мыслительными способностями человека, может быть создан уже в ближайшие 50 лет. После этого машины обретут способность создавать копии себе подобных, как и живые организмы, а затем их интеллект превзойдет человеческий.
По мнению профессора, тогда на Земле разовьется новая форма жизни. Если машины станут столь же разумными, как и мы, люди, то, используя свои преимущества, они вскоре превзойдут людей. Если не будут предприняты меры, то человечество останется позади. В худшем случае «машины захватят нас», и тогда закономерен вопрос, как они будут относиться к менее разумной форме жизни, т. е. к людям. «Как мы относимся к животным, которые менее разумны, чем мы? Мы не можем полагаться на то, что разумные роботы будут обращаться с нами доброжелательно и благородно, поскольку мы сами не обращаемся так с низшими формами жизни», – утверждает он.
Рано или поздно количество перейдет в качество, и компьютерная техника приобретет свойства, присмотревшись к которым, мы, оставаясь честными, не сможем не назвать их разумом. И тогда наступит момент, когда все неинтересное перепоручат машинам. (Как жить дальше? Чем заняться той обезьяне, которая сидит внутри каждого из нас, если у нее нет никаких забот?) Об этом почти никто не задумывается.
Уже во многих сферах жизни компьютеры превосходят людей, например ЭВМ обыграла лучшего в мире шахматиста. «Мы должны учитывать подобный вариант развития. Если даже не сбудется мой мрачный прогноз, все равно случится нечто весьма близкое к нему», – считает Уорвик, ибо «ни одна математическая или научная теория не может пока опровергнуть то, что люди сами создадут форму жизни, превосходящую их по разуму. Уже сейчас необходимо готовиться к грядущему, в котором будет существовать более разумная форма жизни, чем гомо сапиенс». А может зря профессор паникует, видит все в черном свете? Ох, похоже не зря.
Не только помощники, но и…
Не могу не отметить, что Международная организация труда еще в 1990 году сформулировала семь правил робототехники:
1. Роботы должны конструироваться и использоваться только с целью повышения благосостояния человека.
2. Роботы должны заменять людей лишь на тех работах, которые опасны или почему-либо нежелательны для человека.
3. Робот должен полностью повиноваться человеку, чтобы не подавлять его физически или психологически.
4. Робот не должен вредить человеку, в опасной ситуации он может причинить травму лишь себе.
5. Если роботы заменяют людей на рабочем месте, это должно делаться только с согласия заменяемых.
6. Управление роботом должно быть простым, чтобы его легко было использовать как помощника человека.
7. Выполнив свою задачу, робот должен уходить, чтобы не мешать другим работающим – людям или роботам.
Хорошие правила, ничего не скажешь. Но вот выполняются ли они?..
Хотя роботы все чаще заменяют человека на вредных производствах, но, как выяснилось, они сами создают новые опасности. Наиболее распространенные несчастные случаи, связанные с роботами, – это травмы или даже гибель человека, случайно подвернувшегося под механическую руку, когда робот совершает ею неожиданное быстрое движение. Бывает, что робот прижимает человека к стене, перемещаясь или поворачивая свой корпус. Наносятся травмы и тяжелыми деталями или заготовками, которые иногда вдруг выскальзывают из зажима манипулятора.
Конечно, во всех системах роботов предусматривается та или иная блокировка, задача которой – сделать невозможным пребывание человека в рабочей зоне автомата или исключить возможность движений робота, когда поблизости находится человек. Тем не менее несчастные случаи время от времени все же происходят. Их причины – ошибки в программировании, радиопомехи или наводки по электросети, к которым бывают чувствительны управляющие устройства роботов, наконец, неисправности в системе управления и просто неосторожность рабочих, плохо усвоивших технику безопасности.
Наводит на размышления и ситуация, сложившаяся через несколько недель после открытия выставки «Экспо-85» в японском городе Цукуба близ Токио. Многие из демонстрируемых там суперсовременных роботов стали проявлять… симптомы «заболевания». Специалист по электронике профессор Масахиро Мори охарактеризовал это явление как «перенапряжение» и «утомление». Роботы перестали правильно реагировать на команды, издавали неожиданные звуки. По мнению Мори, главной причиной такого расстройства электронных систем послужили микроскопические частицы пыли, забившиеся в сенсорные устройства. Чепуха вроде бы – пыль, а последствия…
Джеймс Зейглер, специалист из Нью-Йоркского центра исследований компании IBM, был заинтригован целой серией необъяснимых неполадок в компьютерной сети, о которых ему докладывали подчиненные. Объяснение им было найдено осенью 1996 года. Сбои в работе компьютеров, утверждает Зейглер, происходят в результате воздействия некоего космического излучения. Может быть, это лучи солнечного происхождения, а может – сверхбыстрые субатомные частицы, возникающие в результате взрывов сверхновых звезд. Нередко приходится иметь дело с нейтронами, которые стирают участок памяти микропроцессора, попадая на него. Иногда это пи-мезоны, очень тяжелые частицы с отрицательным зарядом, которые производят в микропроцессоре маленький взрыв с разрушением атомов.
Неполадки чаще возникают в местах, расположенных высоко над уровнем моря (там больше шансов, что космические лучи не рассеются в атмосфере). Было подсчитано, что в Денвере таких поломок происходит в 338 раз больше, чем в Нью-Йорке. Географическая широта тоже играет роль: чем ближе к экватору, тем космическое воздействие меньше. А как эти вездесущие частицы действуют на электронные мозги роботов? Едва ли благотворно!
Неполадки чаще возникают в местах, расположенных высоко над уровнем моря (там больше шансов, что космические лучи не рассеются в атмосфере). Было подсчитано, что в Денвере таких поломок происходит в 338 раз больше, чем в Нью-Йорке. Географическая широта тоже играет роль: чем ближе к экватору, тем космическое воздействие меньше. А как эти вездесущие частицы действуют на электронные мозги роботов? Едва ли благотворно!
Первый случай «убийства» роботом человека произошел в Японии в 1981 году. Инженер нарушил правила техники безопасности – зашел за ограждение робота-фрезеровщика. В поле зрения машины попала новая «деталь» – он схватил человека в свои железные руки, перевернул его, закрепил на столе и распорол фрезой сверху донизу. Этого бы, конечно, не случилось, обладай робот современными способностями – он запросто отличил бы человека от детали и сжалился бы над ним. Но тогда…
До конца апреля 1987 года в Японии было зарегистрировано десять таких прискорбных фактов, из них в четырех случаях виновным оказался сам человек, а в шести – робот, совершивший неожиданное резкое движение. Ежегодно в Японии отмечается 5–6 случаев травм, связанных с роботами. Всего на заводах Японии трудится несколько сотен тысяч роботов, потому о чем вроде бы говорить? Пустяки.
Пожалуй, наиболее жестоко повел себя по отношению к человеку один советский шахматный суперкомпьютер, поразивший летом 1990 года током гроссмейстера, вчистую обыгравшего его. Электрический разряд, который получил шахматист, коснувшись металлической доски, оказался летальным. С тех пор как было открыто электричество, людей частенько било током, но данный инцидент по-своему уникален: состоялся суд, известие о котором вызвало естественное удивление у юристов.
Вот что заявил следователь: «Это был не несчастный случай, а преднамеренное убийство. Компьютер обладал достаточным сознанием и чувством собственного достоинства, чтобы пойти на такой шаг. Он был запрограммирован на победу, и когда этого не удалось сделать мирным путем, он уничтожил соперника». Возможно, несерьезно рассуждать о виновности компьютера, но высказанная точка зрения заслуживает внимания: машина, способная решать сложнейшие задачи, должна отвечать за свои действия.
Нельзя не отметить, что роботы способны наносить здоровью своих живых коллег и косвенный вред: увеличивая угрозу безработицы, они вызывают у рабочих стресс, который ведет к различным заболеваниям. Чаще всего отмечаются язва желудка, сердечно-сосудистые и психические расстройства. Но и создавая новые рабочие места, роботизация может усиливать стрессовое состояние, поскольку рабочий постоянно опасается отстать от темпа, задаваемого компьютеризированным «коллегой».
Однако все не так однозначно. Робот, названный в шутку Джозефиной, был так прилежен и неутомим, что его хозяева не могли и представить, что вскоре произойдет. А Джозефине, похоже, дьявольски надоела однообразная работа (она склеивала швы). Взяв руками-манипуляторами банку с растворителем, она вылила ее содержимое в свое электронное нутро. Это «самоубийство» произошло на одном из предприятий американского штата Огайо в начале 1987 года.
Робота «Доника» взяли «на поруки» те, кто произвели его на свет. До лета 1985 года он работал официантом в эдинбургском ресторане «Кавио». Беспрецедентный юридический казус благополучно разрешен. Все стороны, участвовавшие в деле, удовлетворены решением британской Фемиды. А сам обвиняемый, говорят, начнет новую жизнь.
В деле все было как положено: и повестка о явке, и присяжные, и судья в традиционном белом парике – лорд Дэвидсон. Механический официант обвинялся в том, что побил посуду, пролил вино, сокрушил мебель и вообще вызвал кутерьму в зале, которая кончилась тем, что робот в шляпе и с галстуком-бабочкой потерял не только голос, но и голову. Она просто отвалилась и упала на колени посетителя.
Первый процесс над электронным существом стал ристалищем, на котором столкнулись ресторатор, не пожалевший денег на техническую новинку, и инженерная мысль в лице лондонской компании «Прожектс Барлоу». Хозяин «Кавио» утверждал, что его диковинный работник, приобретенный за 4887 фунтов стерлингов для привлечения клиентуры, обладал прирожденными, так сказать, дефектами. «Нет, – возразил в суде один из создателей «Доника» Д. Фернандо, – наше детище покинуло отчий дом в полном порядке. Просто бизнесмен от общепита приобрел его не новым, а после службы в другом месте, когда он порядком поизносился».
Пока шло разбирательство и звучали взаимные обвинения, «Доник» безмолвно стоял на месте, отведенном для обвиняемых. И непонятно было, стыдился он своего проступка, который, как гласит судебный документ, «напугал и встревожил посетителей», или гордился им. Ведь бунт, по странной случайности, произошел после распоряжения хозяина разносить спиртное. Во всяком случае на состоявшейся в июле 1985 года в Плимуте ежегодной конференции Британской медицинской ассоциации громко прозвучала озабоченность ростом потребления алкоголя в стране. Этот слет врачей потребовал, чтобы была прекращена любая реклама спиртных напитков. Так что если посмотреть на процесс в Эдинбурге с этой точки зрения, то «Доник» заслуживает не наказания, а поощрения…
В Венгрии еще в 1983 году была создана экспериментальная установка-робот, способная воспроизводить вложенные в нее тексты на русском и венгерском языках, причем не только в изъявительной, но также в вопросительной и повелительной интонациях. О степени технических трудностей при создании говорящей машины свидетельствует тот факт, что для того, чтобы робот произнес на венгерском языке короткое «добрый день», нужно было заложить в его память 600 различных характеристик. Основой установки-робота является миникомпьютер, к которому подключен генератор речи.
Да, современные роботы умеют многое, а вот студенты Калифорнийского университета еще в 1989 году научили своего робота… вскрывать сейфы без ключа. Действовал он по всем правилам опытного взломщика: крутил шифровальные диски и прислушивался к их щелчкам. Примерно через полторы минуты замок с самым сложным цифровым кодом открывался. А зачем все это нужно? Не удивляйтесь, но робота-медвежатника студентам заказали профессора: они либо забывают шифр, либо теряют ключи от казенных сейфов. Понятно, что патентное бюро отказалось его регистрировать, поскольку есть реальный риск подпольного копирования и продажи робота гангстерам.
Эти злодеи, как известно, всегда держат нос по ветру технического прогресса. Захлестнувшая США повальная автоматизация не обошла стороной и преступный мир. В июле 1993 года в Нью-Йорке была сорвана попытка ограбить банк с помощью робота. Это был первый известный случай такого рода. «Мне никогда не приходилось видеть ничего подобного», – заявил Томас Режински – детектив городской полиции Нью-Йорка по расследованиям особо важных преступлений.
По его словам, попытка ограбления была предпринята изобретательными взломщиками в городском районе Куинс, где проживает немало эмигрантов из Европы. Предметом их вожделений стал устроенный по принципу почтового ящика наружный сейф, куда окрестные бизнесмены в выходные дни складывали выручку. От его содержимого грабителей отделяли толстая каменная стена и прочная стальная стенка сейфа. Преодолеть это препятствие взломщикам должен был помочь промышленный робот, оснащенный электродрелью с гидравлическим приводом. В дрель была вставлена фреза длиной около 70 сантиметров и диаметром 12,7 сантиметра. Как подчеркнул детектив, «подобное оборудование обычно используется в строительной промышленности США. Это очень дорогой и мощный аппарат».
Агрегат высотой 1,2 метра был установлен на самоходную тележку с автомобильным аккумулятором. В качестве «источника питания» для электродрели приспособили ближайший фонарный столб. Для охлаждения фрезы к ней был подведен шланг, подсоединенный к пожарному крану. Придвинув робота к стене, за которой располагался сейф, грабители надели на него для маскировки пустую картонную коробку, а сами отправились в автофургон, оставленный на противоположной стороне улицы, и принялись «за дело» с помощью дистанционного управления. По мнению детектива, для того чтобы пробурить стену и оболочку сейфа с помощью такого агрегата, им потребовалось бы около получаса.
Однако взломщиков, как это иногда бывает, подвело «непредвиденное обстоятельство». В соседнем с банком супермаркете странные звуки и затрясшиеся стены привлекли внимание ночных уборщиков, которые вызвали полицию. Непонятно, что именно спугнуло гангстеров, но через несколько минут после звонка уборщики заметили, как мимо супермаркета резво промчался порядком изъеденный ржавчиной белый автофургон, в котором сидели трое мужчин. «Робот-медвежатник» был брошен злоумышленниками на месте преступления, а затем «задержан» полицией.