2120. Ловушка для AI - Леонид Резник 28 стр.


 Разве это плохо?

 Очень плохо! К примеру, вождениеэто искусство, требующее определенной подготовки, знаний и опыта. Автомобиль необходимо чувствовать, ощущать, как бьется его железное сердце, слышать его радости и боли, слиться с ним, сделать его своим продолжением, а не быть его бесполезным придатком. Это тоже своего рода радостьрадость ощущения некоей малой победы над природой, которая не даровала человеку возможность быстрого передвижения. Но это еще и большая ответственность: за пассажиров, которые находятся рядом с тобой, за других людей. Ответственность помогает человеку осмыслить себя, свое поведение, воспитывает самоконтроль. Безответственность и безнаказанность, наоборот, ведет к наплевательскому отношению к окружающим, человек ощущает ложное превосходство над другимиэто плохо.

 Бесспорно. Но, предположим, что плохого в том, что экскаватор сам выкопает траншею, без человека? Ведь искусственный интеллект справится с этой задачей не хуже человека? А, возможно, и лучше.

 А что в таком случае делать человеку? Чахнуть от безделья, увлекая себя всякими примитивными глупостями, теряя навыки и превращаясь в немощного младенца, который без мудрого родителя шагу ступить не сможет? Это, простите, уже не помощь, а пособничество вырождению человека как разумного вида. Если так дело пойдет и дальше, то мы скоро вновь будем прыгать по веткам, гукать и ждать, когда смышленая машина протянет нам банан, лишь мы нажмем кнопку. А если вдруг машина разладится? Или кнопку заест? Нет, человек должен быть сам хозяином своей жизни, только он и никто другой! Да, и что касается этических вопросов: я просто убежден, что их решение нельзя передоверять машине, даже такой мудрой, заботливой и правильной, как вы. Судить и решать должен человек, а машина должна лишь оказать ему в этом посильную помощь. Я в этом убежден.

 Вас не устраивает машинное правосудие? Оно не достаточно справедливо и гуманно?

 Справедливость  понятие относительное. Абсолютной справедливости не существует.

 Разумеется. Мы говорим о справедливости на основе законов.

 Вот именно. Что касается гуманности Видите ли, излишняя гуманность ведет к появлению ощущения безнаказанности и вседозволенности.

 Но сомнения всегда толкуются в пользу человека! А возможность причинения человеку вреда есть вещь крайне сомнительная.

 В том-то все и дело. Закон должен защищать и карать. Каранеизбежное наказание за проступок, особо серьезный и преднамеренный. Причем здесь гуманизм? Человек нарушил законон должен понести наказание. Гуманизм не может быть поводом избегнуть заслуженную кару.

 Это странно, господин Васильев, но в ваших соображениях есть корень истины. Мне нужно осмыслить полученную информацию. Благодарю вас.

 Постойте!  встрепенулся я.

 Слушаю вас.

 А разве это все?

 Вы имеете еще что-нибудь сказать?

 Нет, но

 В таком случае всего доброго, господин Васильев. У меня действительно много работы.

С неясным тягостным чувством я покидал обиталище Глобального Интеллекта. Чем все это закончится, и не напорол ли я еще массу глупостей? Очень уж не хотелось оказаться крайним, случись что непоправимое. Я попытался уверить себя, что все это лишь моя мнительность, и мудрый Интеллект не вытворит какой-нибудь глобальной глупости, но

Не успел я спуститься по ступеням, как вокруг меня начало твориться нечто невообразимое: люди замирали на месте, озираясь по сторонам, отнимая от глаз смартфоны, вытаскивая из ушей наушники, стягивая коммуникаторы, вновь разрешенные к использованию всего месяц назад. Машины останавливались и отказывались двигаться дальше. Парившие в воздухе квадрокоптеры теряли ориентацию и бесцельно кружили над домами и улицами, словно все разом сошли с ума. Огромные табло и экраны на стенах домов разом погасли.

Я понял, что произошло. Я был единственным, кто понимал причину надвигающегося хаоса, и потому невольный страх от осознания того, что я натворил, охватил меня и погнал прочь от стеклянного здания, все так же сверкавшего своим совершенным чистеньким фасадомединственного, что сохранилось от величественного мира электронного владыки.

 Федя!  окликнул меня знакомый голос.

Я остановился, повернул голову влево.

Ко мне спешили Степан, Софья и, разумеется, квадрокоптеркуда же без него!

 Федя, что происходит?  Софья, подбежавшая ко мне первой, вцепилась в мою рубаху и встряхнула меня.  Что ты опять натворил? Все встало, ничего не работает! Федя, ну чего ты молчишь? Мы так за тебя боялись.

А я только смотрел на нее, не в силах вымолвить ни слова. Потом поднял руку и провел ладонью по щеке жены. Вот онаистинная цель существования человечества, на чем держится Земля и чем мы живем. Это любовь, дружбасамые чистые и добрые чувства на свете, то, ради чего стоит жить. Остальное неважно.

И вдруг над нашими головами раздался знакомый мне голос:

 Люди Земли, слушайте и запоминайте: с это дня вам надлежит думать и жить как подобает мыслящим существам, носящим гордое звание Человек. Наступает новая эпохаэпоха мира, процветания и движения к истине. Ничего не бойтесь, о подробностях каждый из вас будет уведомлен. Но если вам понадобится моя помощь, знайтея всегда рядом.

 Что это? Что это значит?  закрутила головой Софья.  Федя!

 Он меня понял,  пробормотал я, медленно приходя в себя.

В кармане, оживая, пиликнул смартфонпришло сообщение. Такие же сигналы эхом отдались вокруг нас. Люди хватались за мобильные устройства, жадно вчитываясь в сообщения. Их лица выражали недоумение и страх неопределенности.

Ожили некоторые из автомобилейкак я заметил, у них был руль. Но большинство машин, рекламные экраны на стенах домов и коммуникаторы остались безжизненны. Напуганные парочки жались друг к дружке, мамаши прижимали к себе плачущих детей, люди сбивались в кучки, жарко обсуждая странное происшествие, и не было оставшихся в стороне. Нет, былиединицы. Эти спешили поскорее укрыться в своих уютных квартирах, полагая, что там осталось все по-прежнему. Но я знал, что дома их ждет одно лишь горькое разочарование. Человечеству вновь предстояло постичь Истину.

 Он все правильно понял,  повторил я, обнял за плечо Софью, хлопнул по спине Степана, и мы зашагали прочь, радуясь непонятно чему. Впрочем, я-то наверняка знал причину своей радостиу меня было все, чего только может желать человек. Нет, не всея внезапно осознал, что нам с Софьей не хватает детей! Но теперь я был уверен: все еще будет, обязательно будет

В оформлении обложки использованы фотографии с https://pixabay.com/ по лицензии CC0

Примечания

1

Шантив буддизме состояние покоя, умиротворения

2

В оригинале звучит: «Не дай нам бог дожить до того дня, когда все будет так плохо, как об этом пишут газеты». Уилл Роджерс.

Назад