Как и в экономике, в информатике есть предпочтительные модели и неявные предположения об устройстве мира. Когда программистов обучают алгоритмическому мышлению, их учат ценить эффективность превыше всего. Это полностью понятно: алгоритм с большим количеством шагов затормозит машину, а подобная машина бесполезна. Тем не менее эффективность тоже имеет цену. Ускоряя алгоритм, мы обязательно срезаем углы, обобщаем задачу.
Алгоритмы могут быть великолепным продуктом логического мышления, не говоря уже о том, что они делают нашу жизнь удобнее и способны удовлетворять наше любопытство. Они находят копию давно забытой книги XIX века за несколько миллисекунд, связывают нас с давно забытыми друзьями по начальной школе, дают магазинам возможность доставлять покупки к нашему порогу в мгновение ока. Скоро они поведут беспилотные автомобили и смогут находить раковые опухоли внутри нас. Однако, чтобы делать все это, алгоритмы безостановочно вытесняют нас. Они принимают решения о нас и за нас. Проблема в том, что, перепоручая мышление машинам, мы на деле перепоручаем его компаниям, которым принадлежат машины.
Марк Цукерберг притворно представляется критиком алгоритмов, хоть и из их собственного лагеря. Таким образом он отделяет себя от соперников из Google. Там, в цехах Ларри Пейджа, алгоритм король, холодный и бессердечный владыка. Там нет ни следа жизни и практически нет понимания человека, набирающего поисковый запрос. Facebook создает льстящий своему собственному самолюбию автопортрет, на котором он предстает оазисом в этом автоматизированном и все более атомизированном мире: «Какой бы продукт вы ни использовали, всегда лучше делать это с друзьями».
Говорит он при этом о ленте новостей Facebook. Вот краткое объяснение для той небольшой части человечества, которая, по-видимому, еще сопротивляется: лента новостей содержит в обратном хронологическом порядке все обновления статусов, статьи и фотографии, опубликованные вашими друзьями в Facebook. Лента новостей должна нравиться, но при этом решать одну из фундаментальных проблем современности: нашу неспособность справиться с постоянно растущим, вечно стоящим перед нашими глазами массивом информации. Кто, говорит теория, лучше посоветует нам, что читать и смотреть, чем наши друзья? Цукерберг хвастался, что лента новостей превратила Facebook в «газету, настроенную на вкусы конкретного читателя».
К сожалению, наши друзья полезны нам в качестве информационных фильтров только до определенной степени. Оказывается, они публикуют многое. Если бы мы просто читали все их рассуждения и проходили бы по ссылкам на рекомендуемые статьи, мы были бы перегружены информацией почти так же, как раньше. Поэтому Facebook решает за нас, что нам следует читать. Алгоритмы компании фильтруют тысячи записей, потенциально доступных нам. Затем решают, что мы могли бы захотеть прочесть в первую очередь из отобранных ими нескольких десятков источников.
Алгоритмы невидимы по определению. Но как правило, мы можем почувствовать их присутствие ощутить, что где-то на глубине мы все-таки взаимодействуем с машиной. Именно это сообщает алгоритму Facebook его силу. Многие пользователи 60 % согласно лучшим исследованиям ни в какой мере не подозревают о его существовании. Но даже если они и догадываются, это не имеет значения. Он непрозрачен до предела. Когда компания признает его существование перед журналистами, она умудряется непрозрачными описаниями затуманить предмет еще больше. Например, мы знаем, что когда-то алгоритм назывался EdgeRank, но Facebook этот термин больше не использует. Быть безымянным для этого алгоритма нормально. Он разросся до состояния практически непроницаемых джунглей. Чтобы определить, что увидят пользователи, он интерпретирует свыше ста тысяч так называемых «сигналов». Некоторые сигналы относятся ко всем пользователям Facebook, некоторые определяют привычки конкретного пользователя и его друзей. Может быть, Facebook сам уже не до конца понимает работу своих алгоритмов: код, все шестьдесят миллионов строк, представляет собой палимпсест, на который инженеры записывают новые команды слой за слоем. (Это не является чем-то присущим исключительно Facebook. Джон Кляйнберг, специалист по информатике из Корнеллского университета, был соавтором статьи, где говорилось: «Мы, вероятно впервые в истории, создали машины, работу которых не понимаем сами На глубинном уровне мы не понимаем, каким образом они производят наблюдаемое нами поведение. Именно в этом состоит суть их непонятности». Более всего поразительно, что «мы» в этой цитате относится к авторам кода).
В качестве аналога этого алгоритма полезно представить себе один из первых компьютеров с нервно мигающими лампочками и длинными рядами рукояток на передней панели. Чтобы регулировать работу алгоритма, инженеры постоянно вносят небольшие изменения, поворачивая рукоятку то здесь, то там на один-два щелчка. Малейшим сдвигом воображаемого колесика Facebook меняет то, что пользователи читают и видят. Он может заполнить всю ленту фотографиями, сделанными друзьями, может понизить посты с саморекламой, исключить то, что считает фальшивкой, может отдать предпочтение текстам или видео или же обратить внимание на статьи из New York Times, BuzzFeed и тому подобных изданий. Взяв мелодраматический тон, можно было бы сказать, что Facebook постоянно определяет нашу картину мира: регулирует качество новостей и мнений, пропускаемых через фильтр, меняет качество предлагаемых нам материалов из области политики и культуры, чтобы удержать наше внимание еще немного.
Но каким же образом инженеры определяют, какое именно колесико повернуть и на сколько? Существует целая дисциплина, «наука о данных»[40], цель которой указать пути написания и совершенствования алгоритмов. В Facebook есть целое подразделение, куда людей переманивали из академических кругов, и его задача ставить эксперименты на пользователях. Это предел мечтаний статистика: одни из самых крупных за всю историю человечества наборы данных, возможность экспериментировать на математически значимых выборках. Когда Кэмерон Марлоу, бывший глава этого подразделения, описывал открывшиеся ему возможности, он просто светился от удовольствия. «Впервые, говорил он, у нас есть микроскоп, не только позволяющий исследовать социальное поведение с очень высокой избирательностью, но и экспериментировать на миллионах пользователей».
Facebook предпочитает хвалиться своими экспериментами в принципе, а не сообщать их подробности. Но примеры, утекшие за пределы лабораторий, существуют. Так Facebook решила выяснить, заразны ли эмоции. В рамках этого эксперимента компания пыталась манипулировать эмоциональным состоянием пользователей: для этого она удаляла из ленты одной группы пользователей слова с позитивной окраской, а из ленты другой с негативной. Опыт показал, что обе группы писали посты, отражавшие настроение соответствующей ленты. Этот эксперимент был единодушно осужден как бесчеловечный, но он не выбивался из череды остальных. Один из членов группы, занимающейся наукой о данных, признавался: «Эксперимент мог поставить любой наш сотрудник. Они все время пытаются изменить человеческое поведение».
Facebook предпочитает хвалиться своими экспериментами в принципе, а не сообщать их подробности. Но примеры, утекшие за пределы лабораторий, существуют. Так Facebook решила выяснить, заразны ли эмоции. В рамках этого эксперимента компания пыталась манипулировать эмоциональным состоянием пользователей: для этого она удаляла из ленты одной группы пользователей слова с позитивной окраской, а из ленты другой с негативной. Опыт показал, что обе группы писали посты, отражавшие настроение соответствующей ленты. Этот эксперимент был единодушно осужден как бесчеловечный, но он не выбивался из череды остальных. Один из членов группы, занимающейся наукой о данных, признавался: «Эксперимент мог поставить любой наш сотрудник. Они все время пытаются изменить человеческое поведение».
Нет никаких сомнений в том, что Facebook сосредоточила в своих руках огромную эмоциональную и психологическую власть. По крайней мере у самой компании сомнений в этом нет. Facebook хвасталась, как увеличила в одном случае явку на выборы, а в другом донорство органов, чуть усилив воздействие, вызывающее «добродетельное» поведение. Она даже публиковала свои результаты в рецензируемых журналах: «Возможно, что увеличение явки избирателей на 0,6 % между 2006 и 2010 гг. было вызвано одним сообщением на Facebook». Ни одна другая компания не хвалилась так открыто своим влиянием на механизмы демократии, и по понятным причинам. Это слишком большая власть, чтобы доверить ее корпорации.
Результаты всех этих экспериментов Facebook складываются друг с другом. Компания считает, что овладела социальной психологией и знает о своих пользователях больше, чем они знают о себе самих. Для любого из них Facebook может предсказать расу, сексуальную ориентацию, семейное положение и отношение к наркотикам по одним только лайкам. Мечта Цукерберга проанализировать эти данные таким образом, чтобы сделать главное открытие: «фундаментальный математический закон, определяющий социальные отношения между людьми и устанавливающий, кто и в какой мере кому небезразличен». Это, конечно, задача на далекую перспективу. В ближайшее же время Facebook будет ставить опыты, постоянно выясняя, к чему мы стремимся всей душой и что предпочитаем не замечать, безостановочно совершенствуя свою способность показывать нам то, что мы хотим, и даже то, что мы еще сами не знаем, что хотим. Компанию, похоже, мало заботит, достоверная это информация или нет, сообщение из авторитетного источника или текст очередного сторонника теории заговора. Толпа получает то, чего хочет и чего заслуживает.
Автоматизация мышления: конечно, сейчас эта революция только начинается. Но можно предвидеть, к чему она приведет. Алгоритмы заменили людей во многих бюрократических, конторских задачах и скоро начнут вытеснять их из более творческих областей. В Netflix они определяют, фильмы каких жанров лицензировать для проката. Некоторые службы новостей используют алгоритмы для написания заметок о преступлениях, бейсбольных матчах и землетрясениях то есть для решения наиболее механических репортерских задач. Алгоритмы создавали произведения изобразительного искусства, сочиняли симфоническую музыку во всяком случае, создавали нечто приближенное.
Это в высшей степени пугающее развитие событий, во всяком случае для тех, кто работает в перечисленных областях. Если алгоритм способен воспроизвести акт творческого мышления, нет необходимости ценить его в человеке. Зачем терять время и силы на мучительный и неэффективный процесс написания картины или стихотворения, если компьютер может создать произведение, выглядящее на первый взгляд не хуже, но при этом без усилий и за долю секунды? К чему рынок высокого искусства с его вздутыми ценами, если оно может быть дешево и доступно? Ни одна сфера деятельности человека не устояла перед автоматизацией, так почему же дела в искусстве должны обстоять иначе?