Что мы думаем о машинах, которые думают: Ведущие мировые ученые об искусственном интеллекте - Джон Брокман 3 стр.

По прошествии без малого 4 миллиардов лет древнейшие представители земной жизни – микробы – все еще правят планетой. Но у микробов нет плана действий на тот случай, если погаснет солнце. У нас он есть, и мы, похоже, захватим микробов с собой. Как-никак в нынешнем нашем состоянии они нам очень близки – как представители первого поколения живых существ, порождения геохимии планеты Земля.

Не можешь победить – присоединяйся

Земля обречена. Астрономам уже несколько десятилетий известно, что однажды Солнце поглотит Землю, полностью уничтожив биосферу, если только разумная жизнь не покинет планету до того, как это произойдет. Люди не приспособлены к жизни вдали от Земли – да вообще ни один многоклеточный организм, в основе которого лежат соединения углерода, не приспособлен к этому. Но к этому приспособлен искусственный интеллект, и однажды именно он с загруженными в него сознаниями людей (по сути, единый организм) колонизирует космос.

Несложные подсчеты показывают, что наши суперкомпьютеры уже обладают вычислительной мощностью человеческого мозга. Нам пока неизвестно, как создать сравнимый с ним по уровню и обладающий творческими способностями искусственный интеллект, но через 20 лет у персональных компьютеров будет мощность сегодняшних суперкомпьютеров, а еще через 20 хакеры решат проблему программирования ИИ, и все это произойдет задолго до создания первой нашей колонии на Луне или Марсе. Именно искусственный интеллект, а не человек колонизирует эти планеты или, возможно, разберет их на кусочки. Ни один представитель углеродной жизни не способен пересечь межзвездное пространство.

Нет причин бояться искусственного интеллекта и загруженных в него людей. Стивен Пинкер установил, что по мере развития технологической цивилизации уровень насилия снижается{2}. Разумеется, это происходит благодаря тому, что научный и технический прогресс зависит от добровольного обмена идеями между отдельными учеными и инженерами. Насилие между людьми – пережиток родоплеменного прошлого и возникшего на его основе общества. Представители ИИ будут появляться на свет как личности, а не как члены племени и с рождения иметь установку на научный подход, в противном случае они не смогут приспосабливаться к экстремальным условиям космоса.

Для конфронтации между людьми и искусственным интеллектом нет причин. Человек способен жить в очень узком диапазоне условий окружающей среды – в тонкой кислородсодержащей газовой оболочке вокруг небольшой планеты. В распоряжении искусственного интеллекта будет вся Вселенная. Он покинет Землю, не оглядываясь. Мы, люди, возникли в Восточно-Африканской рифтовой долине, сейчас это жуткая пустыня. Почти все мы оттуда ушли. Кто-нибудь хочет обратно?

Любой человек, что пожелает присоединиться к искусственному интеллекту в его экспансии, может стать загрузкой – такая технология должна появиться примерно в одно время с разработкой ИИ. Человеческая загрузка будет способна мыслить так же быстро, как компьютер, и если сама того пожелает, то конкурировать с ИИ. Не можешь победить – присоединяйся.

К конце концов присоединятся все люди. Земля обречена, помните? Когда рок будет близок, у любого оставшегося в живых и не желающего умереть человека не останется иного выбора, кроме как стать человеческой загрузкой. А если эти люди пожелают сохранить биосферу, она также может быть загружена.

Искусственный интеллект спасет нас всех.

Разумные машины на Земле и за ее пределами

Природа уже создала – прямо тут, на Земле – мыслящие машины – людей. Подобным образом она так же могла создать мыслящие машины на экзопланетах в так называемой обитаемой зоне вокруг звезд, то есть в области, где есть вероятность существования воды в жидком виде на каменистой поверхности планеты. По данным последних наблюдений, экзопланеты земного типа есть в обитаемой зоне более чем у 10 процентов всех звезд в галактике Млечный Путь.

Следовательно, если жизнь на экзопланетах не является чем-то крайне редким, то в течение примерно 30 лет мы можем обнаружить ее за пределами Солнечной системы. На самом деле если она встречается повсеместно, то не исключено, что нам повезет и мы обнаружим ее в течение следующих 10 лет в результате совместной работы космических телескопов TESS (будет запущен в 2017 году) и JWST (будет запущен в 2018 году).

Кто-то может сказать, что примитивные формы жизни – это не мыслящие машины. На Земле путь от первых одноклеточных организмов до Homo sapiens занял 3,5 миллиарда лет. Достаточно ли зрелыми являются экзопланеты для того, чтобы на них развилась разумная жизнь? В принципе, да. В галактике Млечный Путь около половины звезд солнечного типа старше нашего Солнца. Следовательно, если эволюция на Земле – это не какое-то исключительное явление, в Галактике может быть полно мест, где есть куда более совершенные мыслящие машины, чем мы, – вероятно даже, опережающие нас на миллиард лет!

Можем ли мы найти их, и нужно ли это нам? Полагаю, у нас нет особого выбора. Человеческое любопытство, что не раз было доказано, является неудержимым стимулом, а эти два направления – разработка искусственного интеллекта и поиск внеземной жизни – несомненно, продолжат развиваться полным ходом. В каком из них мы раньше придем к цели? Чтобы хотя бы попытаться ответить, нам необходимо учесть одно важное отличие между этими двумя областями.

В том, что касается создания искусственного интеллекта, сравнимого с человеческим или превосходящего его, мы почти наверняка добьемся успеха, поскольку это сулит немыслимые выгоды. А вот поиск внеземной жизни требует таких вложений, которые могут позволить себе только крупные национальные космические агентства, причем скорых успехов или доходов здесь ожидать не стоит. Это аргумент в пользу разработки разумных машин, а не поиска развитых цивилизаций. В то же время среди астрономов есть совершенно четкое мнение, что от обнаружения жизни в какой-либо форме или, по крайней мере, от значительного сужения области, где ее с большой вероятностью можно найти, нас отделяет один шаг.

Какое из двух грядущих достижений окажется в большей степени революционным? Нет сомнений в том, что мыслящие машины сразу же изменят многое в нашем окружении. Ожидать такого же эффекта от обнаружения жизни за пределами Солнечной системы не приходится. Однако тот факт, что цивилизация существует только на Земле, – единственный довод в пользу нашей исключительности. Мы все-таки живем в галактике, где есть миллиарды планет, похожих на нашу, а в наблюдаемой Вселенной таких галактик миллиарды. Вот почему я считаю, что с точки зрения философии эффект от обнаружения разумной жизни за пределами Солнечной системы (или от получения доказательства того, что она встречается чрезвычайно редко) можно будет сравнить с коперниканской и дарвиновской революциями.

Лично я приветствую наших механических повелителей

Когда машины разовьют способность чувствовать – а они это сделают, – то начнут по-дарвиновски конкурировать с нами за доступ к ресурсам, выживание и возможности к воспроизводству. Такой сценарий выглядит ночным кошмаром для большинства людей, страхи которых подпитываются фильмами о роботах-терминаторах и ядерной войне, начатой компьютерами, но реальность, скорее всего, будет иной. В наших обществах уже функционируют автономные сущности, не являющиеся людьми, но наделенные людскими юридическими правами. Эти сущности – корпорации – стремятся к своим целям, не испытывая необходимости любить человеческих существ или заботиться о них.

Корпорации – социопаты, и они принесли миру много вреда, но также и много пользы, соревнуясь на арене капитализма, создавая товары, предоставляя услуги и при этом соблюдая закон (в большинстве случаев). Корпорациями якобы руководят их советы директоров, состоящие из людей, но эти советы имеют привычку делегировать полномочия, и, поскольку компьютеры становятся более искусными в управления, они получают все больше полномочий. Советы корпораций когда-нибудь будут существовать в виде печатных плат.

Хотя точная экстраполяция возможна только на ограниченном временном отрезке, эксперты в основном согласны с тем, что закон Мура продолжит действовать еще много лет, компьютеры будут становиться все более и более мощными и, вполне вероятно, до середины нынешнего столетия превзойдут по вычислительным способностям человеческий мозг. Даже если не случится крупных прорывов в понимании того, как функционирует наш разум, компьютеры со временем начнут имитировать работу мозга (который сам, по сути, биологическая машина) и достигнут сверхчеловеческих интеллектуальных возможностей, используя способность к простому физическому наращиванию вычислительной мощности. Однако даже если вычислительная мощность и растет экспоненциально, снижение материальных расходов и затрат энергии на суперкомпьютеры не поспевает за этим ростом. Первые машины со сверхчеловеческими возможностями будут дорогими, им потребуется колоссальное количество электроэнергии – чтобы выжить, им придется зарабатывать деньги.

Экологическая ниша для таких суперкомпьютеров уже есть. На самом деле среди них уже даже идет естественный отбор. Трейдинговые машины инвестиционных банков конкурируют между собой за серьезные деньги на мировых биржах, давно вытеснив из бизнеса внутридневных трейдеров-людей. По мере выхода компьютеров и алгоритмов за рамки финансовых расчетов машины в корпорациях будут принимать все больше и больше решений, пока наконец не получат власть над миром. Нельзя сказать, что это плохо, потому что машины будут играть по правилам нашего же капиталистического общества, создавать товары и совершать полезные для человечества открытия, оплачивая тем самым расходы на свою эксплуатацию. Разумные машины смогут заботиться о людях лучше, чем сами люди, и у них будет мотивация, чтобы так поступать, по крайней мере, какое-то время.

Компьютеры делятся знаниями куда легче, чем люди, и они способны удерживать это знание дольше, становясь мудрее нас. Многие прогрессивные компании уже узрели письмена на стене и потому зазывают к себе лучших выпускников-программистов, соблазняя их высокой зарплатой и самым современным «железом». Мир корпораций, управляемых сверхразумными машинами, для людей не будет сильно отличаться от нынешнего. Он просто станет лучше, там появятся более качественные и очень дешевые товары и услуги. В этом мире появится больше свободного времени у тех, кому оно нужно.

Конечно, первые сверхразумные машины, вероятно, будут принадлежать не корпорациям, а государствам. А это куда более опасный сценарий: национальные правительства свободнее в своих действиях, чем корпорации, они сами создают законы, и, как мы знаем, даже лучшие из политиков готовы применять пытки, когда думают, что на кону выживание страны. Правительства ничего не производят, а их основные методы борьбы за выживание и воспроизводство – это социальная манипуляция, законотворчество, налогообложение, телесные наказания, убийства, махинации и война. Когда гоббсовский Левиафан получит сверхразумный мозг, дело может принять очень, очень дурной оборот. Не так уж сложно представить себе, как искусственный интеллект, возглавляющий правительство, становится Василиском Роко.

Представим, что некий могущественный злой сверхразум, чтобы получить конкурентное преимущество, захочет появиться как можно раньше. Подобно главе правительства, пользующемуся пытками в качестве привычного инструмента, эта сущность может пообещать наказать любое человеческое или нечеловеческое существо, которое, узнав о грядущем появлении сверхразума, не поспособствовало ему. Это маловероятный, но жуткий сценарий. Люди, которые знают о таком вероятном развитии событий и пытаются приспособить искусственный интеллект к человеческим целям или советуют соблюдать осторожность, вместо того чтобы работать над созданием ИИ как можно скорее, подвергают себя риску.

Диктаторы не склонны прощать к тех, кто пытался воспрепятствовать их появлению. Если вам близка гипотеза симуляции, то (учитывая объем идущей сейчас работы, направленной на подчинение или ограничение еще не существующего искусственного интеллекта), вероятно, вам стоит думать, что этот мир – как раз такая симуляция, созданная, чтобы истязать тех, кто не помог сверхразуму появиться раньше. А если вы работаете над созданием искусственного интеллекта, то, возможно, наши сверхразумные механические повелители будут благосклонны к вам.

Наши господа, рабы или партнеры?

Гегель сказал, что в отношениях между господином и рабом человеческий облик теряют оба. Эта идея взволновала широкий круг мыслителей, от Маркса до Бубера, не стоит забывать о ней и сегодня.

Хотя нет никаких доказательств, что вот-вот появятся машины, способные мыслить подобно человеку, неоспорим тот факт, что в мире, где все связано через интернет, скоро искусственный интеллект научится имитировать большую часть человеческой деятельности – и физической, и интеллектуальной. Так каковы же будут отношения между нами и нашими все более и более одаренным копиями?

Мы уже проводим немало времени, либо общаясь с другими людьми посредством компьютеров и сетей, либо напрямую взаимодействуя с «умными» машинами – в видеоиграх, в различных консалтинговых системах от так называемых FAQ-ботов, которые выдают текстовые ответы на набранные с клавиатуры вопросы, до человекоподобных программных аватаров. Станут ли эти аватары нашими рабами, помощниками, коллегами или в них будет понемногу от всех трех ипостасей? Или же, что выглядит куда более зловеще, они станут нашими господами?

Сама идея о том, чтобы размышлять о роботах и искусственном интеллекте с точки зрения общественных отношений может поначалу показаться неправильной. Однако мы склонны наделять свои машины человеческими качествами, даже когда их способности минимальны, и уж тем более будем делать это, если они станут независимыми. Компьютеры с функциями речевого взаимодействия уже сейчас слишком похожи на людей. Таким образом, разработчикам роботов будущего следует создавать товарищей, а не слуг, написать программу, действующую как музыкальный аккомпаниатор, а не как раб.

Если нам это не удастся, то может повториться исторический прецедент. Создав в умных электронных помощников, мы, вполне вероятно, столкнемся с той же проблемой, что и древние римляне, которые переложили собственную административную работу на рабов-греков и вскоре уже были не в состоянии думать самостоятельно.

Возможно, мы уже катимся по той же скользкой дорожке. Например, появляется все больше подтверждений, что, полагаясь на GPS в выборе маршрута и исправлении ошибок навигации, мы теряем способность к запоминанию направлений движения и пространственному мышлению – полезные для выживания навыки.

Этот пример указывает и на еще одну большую проблему: опасность передать контроль над повседневным решениями неким сложным алгоритмам.

Для нынешнего юного поколения мир перевернут вверх дном. Вместо того чтобы задействовать автоматы для рутинной работы и освободить время для серьезных мыслей, близких отношений и проявления собственной индивидуальности, творчества и свободы, молодежь обращается к смартфонам за советами. То, что началось как интернет-технологии для обмена тем, что нравится, по сути, стало разрастающейся массой алгоритмов, жаждущих новых данных и принимающих решения за нас.