Впрочем, и после этого прогресс в сознании искусственного разума продвигался не так быстро, как многие фантазировали. Сингулярности точки, когда разумность компьютеров превзойдет интеллектуальную мощь всего, вместе взятого человечества, не произошло ни в 2030 году, как это прогнозировали многие футурологи, ни много позже. Количество вычислений в секунду быстро росло. Когда транзисторы уменьшились до размера в несколько молекул, достигнув естественного предела компактности, вычислительные платы, в прошлом двумерные, приобрели объем, что дало толчок к очередному витку роста их производительности. После 2030 года все шире стали использоваться квантовые эффекты, хотя полноценный, надежный универсальный квантовый компьютер, появление которого предсказывали как скорую неизбежность, до сих пор не был создан. Возможно, этому препятствовали какие-то базовые, еще не познанные законы природы.
Универсальный компьютерный сверхинтеллект оставался недостижимым, но локальный искусственный интеллект, то есть способность компьютерных алгоритмов, не претендующих на сравнение с работой всего человеческого мозга, решать конкретные важные и сложные задачи, проникал во все области деятельности человека с каждым годом все глубже, обычно меняя при этом окружающий мир к лучшему. Технологии делали все менее нужным участие людей в производственных процессах. Теперь даже само понятие безработицы, которое в прошлом всегда несло в себе негативный смысл, окрашивалось в совершенно новые тона, означая в первую очередь освобождение личного времени человека от физически тяжелых или скучно-рутинных обязанностей. В новом счастливом мире многогранное творчество во всех его проявлениях стало главным призванием всех талантливых и мыслящих людей по крайней мере, в развитых странах планеты. Люди, генетически не способные к высокому творчеству, все равно имели гарантированный доход, позволявший им качественно удовлетворять все их потребности, хотя социальный статус таких граждан был ниже, чем у «элиты». Но это приводило лишь к уменьшению их возможностей иметь детей от наиболее «качественных» представителей противоположного пола. В некотором смысле, общество из «лучших побуждений» в конце XXI века оказалось разделено на «новые» касты (грейды), но при этом государства большинства стран старались, чтобы обладатели низких грейдов не чувствовали себя обделенными или тем более несчастными. После 2030 года локальный интеллект поднял на новую, еще недавно недосягаемую высоту урожайность сельского хозяйства, причем еды во всем мире оказалось не только больше, но она становилась дешевле и здоровее. Не менее существенный прогресс наблюдался в энергетике, медицине, индустрии развлечений. Многие человеческие профессии навсегда ушли в прошлое. К 2060 году не осталось буквально ни одной сферы человеческой деятельности, которая была бы эффективной, конкурентоспособной, да и попросту возможной без использования локального ИИ.
Но лишь сейчас, в 2084 году, момент, о котором мечтали поколения ученых и которого так страшились философы-фантасты, наступил. Исследователи, соединившие мощности четырех крупнейших суперкомпьютеров мира, работавшие над этим проектом более пятнадцати лет, построили систему, идеально моделирующую процесс создания, развития и обновления нейронов человеческого мозга, включая все многообразие связей между ними, но при этом работающую несравнимо быстрее. Первые тесты показали, что система SHANE, даже включенная в строго контролируемом режиме всего на одну миллионную своей мощности, без малейших затруднений прошла серию усложненных тестов Тьюринга[10] (то есть заставляла ничего не подозревающих людей верить в то, что они в течение часа общаются с живым человеком, а не с программой). Специализированные алгоритмы для прохождения этого теста давно успешно справлялись с ним. Удивительное заключалось в том, что универсальный интеллект прохождению теста Тьюринга никто специально не обучал. Ему просто объяснили задание, и он сразу сам щелкнул его, как мягкий миндальный орешек.
Роберт сел в эргономичное кресло, положив очки виртуальной реальности рядом с собой. Еще один робот, пока до начала мероприятия оставались минуты, подкатился к нему, торопливо рассказывая что-то о новой системе автоматической обработки научных текстов на разных языках с мгновенным поиском нужных ссылок и подборкой цитат. Роберт не отреагировал, и тогда робот подкатился совсем близко к нему, буквально тыкая монитором в лицо. Ему внезапно захотелось треснуть эту назойливую машинку так, чтобы она прямо здесь развалилась на запчасти до мелких винтиков. Дома он пару раз так делал в юности, но теперь, в таком солидном месте, он сдержался и лишь настойчиво отодвинул механизм от себя рукой. Робот, словно обидевшись, демонстративно постоял какое-то время к нему спиной и затем, не торопясь, укатился восвояси.
Роб, и ты здесь? И почему я не удивлен тем, что мы здесь встретились?
Сияющая белозубая улыбка принадлежала Тэйлору Дэвису, темнокожему философу, ставшему уже прижизненным классиком, с которым Роберт пересекался в аспирантуре Гарварда. Тэйлор был старше лет на десять, но при своем почти двухметровом росте выглядел молодо, максимум на тридцать. Тэйлор являлся одним из видных апологетов нового философского течения, утверждавшего, что истинная цель любого прогресса, в том числе научного, состоит в обретении человеком наибольшего и как можно более продолжительного счастья. Так как все в мире, включая науку, развивается по спирали, основатели этой доктрины считали, что ее корни произрастают из идей греческого философа Эпикура. Как и древние эпикурейцы, они считали источником высшей радости человека позитивное общение с окружающими, большое количество друзей, всестороннее развитие интеллекта и благотворительность во всех ее формах. Но, естественно, все эти радости теперь еще и сочетались с современным уровнем технологий.
Привет! Рад тебя видеть. Я только приехал. Ты был на заседаниях в предыдущие дни?
Да. Кажется, дело решенное. На одно выступление против приходится несколько докладов за. Почти все считают, что сомневаться в полезности универсального ИИ глупость, ретроградство, попытка лечь на рельсы перед поездом прогресса, который нельзя остановить. Молодые ученые, включая твоих коллег-физиков, захлебываются от восторга и открывающихся перспектив. Я уже не говорю о компьютерщиках, ведь они теперь будут чувствовать себя самыми важными людьми на свете. Против только убеленные сединами гуманитарии. Пытаются, как они говорят, пока не поздно, зажечь красный свет перед падением поезда прогресса с рельсов прямо в бездонную пропасть. Молодые лишь улыбаются. Впрочем, ты знаешь, что лично я скорее на стороне скептиков.
Я тоже. Будем держаться друг друга. И за это надо выпить сегодня вечером.
Несомненно. Я остановился в шале, в живописной долине недалеко от границы с Германией, в пятидесяти километрах севернее. Двадцать минут на флайере, если лететь осторожно. Заходи ко мне сегодня, пропустим по стаканчику глинтвейна, хотя еще не зима.
Спасибо, приду. Мой доклад запланирован на одиннадцать утра. Буду седьмым спикером в этой части панели. Вчера посмотрел материалы у меня ощущение, что здесь все сознательно кем-то ведется к полному одобрению этой идеи. Но у меня и многих моих коллег из Гарварда другое мнение. Я готов его высказать. Если надо, мы подадим апелляцию в «Объединенное Человечество».
Привет! Рад тебя видеть. Я только приехал. Ты был на заседаниях в предыдущие дни?
Да. Кажется, дело решенное. На одно выступление против приходится несколько докладов за. Почти все считают, что сомневаться в полезности универсального ИИ глупость, ретроградство, попытка лечь на рельсы перед поездом прогресса, который нельзя остановить. Молодые ученые, включая твоих коллег-физиков, захлебываются от восторга и открывающихся перспектив. Я уже не говорю о компьютерщиках, ведь они теперь будут чувствовать себя самыми важными людьми на свете. Против только убеленные сединами гуманитарии. Пытаются, как они говорят, пока не поздно, зажечь красный свет перед падением поезда прогресса с рельсов прямо в бездонную пропасть. Молодые лишь улыбаются. Впрочем, ты знаешь, что лично я скорее на стороне скептиков.
Я тоже. Будем держаться друг друга. И за это надо выпить сегодня вечером.
Несомненно. Я остановился в шале, в живописной долине недалеко от границы с Германией, в пятидесяти километрах севернее. Двадцать минут на флайере, если лететь осторожно. Заходи ко мне сегодня, пропустим по стаканчику глинтвейна, хотя еще не зима.
Спасибо, приду. Мой доклад запланирован на одиннадцать утра. Буду седьмым спикером в этой части панели. Вчера посмотрел материалы у меня ощущение, что здесь все сознательно кем-то ведется к полному одобрению этой идеи. Но у меня и многих моих коллег из Гарварда другое мнение. Я готов его высказать. Если надо, мы подадим апелляцию в «Объединенное Человечество».
Хорошо, поговорим вечером. Там будет, кстати, неплохая компания: в том числе несколько незамужних девушек-аспирантов. Ты ведь тоже по-прежнему не женат? Как на это смотришь?
В этот момент прозвучала просьба поприветствовать первого выступающего. Им был известный русский ученый Андрей Белов, лауреат Нобелевской премии по компьютерной биологии, получивший ее еще в середине нынешнего века. Он был самым возрастным участником конгресса, в этом году ему исполнилось восемьдесят. Почти двухметрового роста, в юности он был красавцем и даже с успехом снимался в телевизионных шоу параллельно с научной карьерой. Он был первым, кто смоделировал белок, стимулирующий человеческий иммунитет настолько, что тот естественным образом убивал раковые клетки в тех случаях, когда другие средства лечения были противопоказаны или неэффективны. Говорили, что его открытие спасло с тех пор миллионы человеческих жизней. В свои почтенные годы профессор Московского университета все еще сохранял отличную выправку и, кажется, был намерен работать на благо науки еще многие годы.
Выступление академика зал слушал, затаив дыхание. Какую бы позицию в этой дискуссии он ни занял, относиться снисходительно к мнению столь заслуженного ученого никто бы, конечно, не стал. Белов в своем длинном, почти на час, вступлении вспомнил то, какую огромную роль играли самые совершенные компьютерные алгоритмы в научных открытиях в биологии, в том числе в его собственных исследованиях, и насколько сильно они улучшили жизнь большинства людей на планете. Тем не менее к легализации универсальных систем сверхинтеллекта он призвал отнестись с большой осторожностью.
Когда я еще был студентом, в незапамятные времена, мы шутки ради математически моделировали появление на Земле фантастической серой слизи, которая размножалась бы в геометрической прогрессии, не встречая никаких преград. Одна молекула такой слизи, поглощая любые органические и неорганические материалы, делилась и удваивалась бы один раз в минуту и уже через несколько часов своего размножения образовала бы бесформенный комок величиной с дом, а к вечеру того же дня поглотила бы всю Землю. Универсальному ИИ вполне по силам в реальности запустить такой процесс например, ради эксперимента или с какой-нибудь другой понятной только ему целью. И он ни с кем не будет советоваться, ни у кого не станет спрашивать на это разрешения. Скорее всего, когда катастрофа станет заметной, предотвратить ее уже будет нельзя никаким способом. Да, я знаю, что все это сейчас кажется фантазиями и страхами уже немолодого человека, к тому же выросшего на апокалиптической научной фантастике прошлого века как известно, в основном не сбывшейся. И все же лично я буду настоятельно рекомендовать ОЧ ввести всемирный пятилетний мораторий на введение в действие универсального ИИ. Для того чтобы можно было заранее как можно более всесторонне проверить его возможности и угрозы. Спасибо за внимание. Буду рад пообщаться в кулуарах со всеми, кто желает.