Многие до сих пор считают, что интернет не оставит от авторитаризма мокрого места, нанося ему тысячи смертельных информационных ударов. Авторитарные правительства жить не могут без информационных технологий, но даже допустив их, они все равно падут, потому что граждане, жаждущие бигмаков, MTV и Диснейлендов, выйдут на улицы и потребуют честных выборов. Уязвимость этой гипотезы в том, что, когда речь заходит об эмпирических доказательствах, трудно найти пример государства, которое не смогло справиться с “дилеммой диктатора”. Все авторитарные государства, кроме КНДР, приняли интернет (в Китае, например, число пользователей Сети превышает все население США). Политологи и политические деятели недооценили изощренность и гибкость аппарата сетевой цензуры. “Дилемма диктатора” предполагает одно важное допущение: невозможно создать механизмы цензуры настолько чуткие, чтобы они могли пресекать откровенно политическую деятельность в интернете, в то же время допуская или даже поощряя в Сети такую деятельность, которая способствует экономическому росту. Это предположение оказалось неверным. Правительства овладели искусством фильтрования по ключевому слову и, следовательно, получили возможность блокировать сайты, исходя из URL-адресов и даже текста на веб-страницах. Следующим шагом правительства станет, вероятно, нахождение способов перекрыть доступ к контенту, исходя из демографических данных и поведения пользователя. Оно узнает, кто и зачем пытается получить доступ к определенному контенту, чем этот пользователь занимался в Сети в предыдущие две недели, и так далее, а после решит, давать ему доступ к определенной веб-странице или нет.
Это не такое уж далекое будущее. Вероятно, финансистке, которая читает исключительно ленту агентства “Рейтер” и “Файнэншл таймс” и друзья которой – исключительно финансисты, будет позволено делать что угодно, даже искать и находить в “Википедии” статьи о нарушениях прав человека.
А женщине, чей род занятий неизвестен, иногда просматривающей “Файнэншл таймс”, связанной в “Фейсбуке” с пятью хорошо известными политическими активистами и оставляющей в блогах комментарии, содержащие слова вроде “демократия” и “свобода”, позволят посещать только правительственные сайты. Если же она представляет интерес для спецслужб, ей могут разрешить ходить на другие сайты, – но под присмотром.
Когда цензор понимает вас лучше собственной матери
Возможна ли такая индивидуализация цензуры? Будут ли цензоры знать о нас столько, что смогут принимать решения автоматически не просто в отношении каждого пользователя, но и с учетом его (или ее) поведения в определенной ситуации?
Если судить по сетевой рекламе, ждать появления “тонкой настройки” такого рода не так уж долго. “Гугл” уже сейчас решает, какие рекламные объявления нам показать, исходя из записей журнала посещений интернет-поисковика и текстов наших электронных писем. “Фейсбук” стремится сделать свою рекламу еще изощреннее: система учитывает, какой контент других сайтов мы одобрили, поставив “лайк”, а также – что понравилось нашим френдам и что они покупали в Сети. Представьте себе цензурные системы, которые подогнаны к запросам пользователей так же тщательно, как поведенческая реклама, с которой мы ежедневно сталкиваемся. Единственное различие между двумя системами заключается в том, что первая собирает данные о нас затем, чтобы показать подходящую рекламу, а вторая – чтобы запретить нам посещение некоторых веб-страниц. Диктаторы не сразу поняли, что механизмы индивидуализации, лежащие в основании “веб 2.0”, можно использовать в собственных целях. Однако они быстро учатся.
Уделяя столько внимания общепринятому и легкому способу контролировать интернет – блокированию доступа к определенным URL-адресам, – мы, возможно, упустили фундаментальные сдвиги в этой сфере. Цензура в интернете стремится к распространению вглубь (все пристальнее изучая, чем мы занимаемся в Сети и даже в офлайне) и вширь (учитывая все больше информационных параметров перед тем, как принять решение о цензурировании чего-либо).
Летом 2009 года китайское правительство объявило, что на любом проданном в стране компьютере должна быть установлена программа “Гриндэм” (GreenDam). Большинство СМИ обратили внимание на грандиозность плана, а также на то, насколько неудачно власти провели демонстрацию “Гриндэм”. Под давлением жесткой критики внутри страны и за ее пределами власти КНР от этого плана отказались, однако в миллионах компьютеров в китайских школах и интернет-кафе это программное обеспечение до сих пор работает.
Оставим в стороне внутреннюю политику. Чем действительно интересен “Гриндэм”, так это инновационным подходом к предварительной цензуре. Эта система предвещает появление в ближайшем будущем индивидуализированной цензуры. “Гриндэм”идет гораздо дальше механического блокирования доступа к сайтам из своего списка. Он анализирует поведение пользователя и решает, соответствует ли оно закону. Это точно не самое сообразительное в интернете ПО: некоторые пользователи сообщили, что “Гриндэм” заблокировал доступ ко всем сайтам, адрес которых начинался с буквы “f”.
Стоит, однако, обратить внимание не на результат, а на принцип работы “Гриндэм”. Программа очень агрессивна. Она изучает поведение пользователей (начиная с выбора сайтов и печатания текстов и кончая просмотром картинок) и пытается пресечь деятельность, которая ей не нравится (чаще всего система просто закрывает соответствующие приложения, например браузер или текстовый редактор).
Скажем, розовый цвет для “Гриндэм” – это первый признак порнографии. Если система замечает на просмотренных пользователем фотографиях избыток розового, она закрывает программу для просмотра изображений. Любопытно, что снимки обнаженных людей с темным цветом кожи программа не распознает.
Тревожнее всего то, что “Гриндэм” снабжен “черным ходом”, который позволяет программе связываться со своим “штабом” в Сети и делиться наблюдениями о характере пользователя, вверенного попечению программы. Это позволяет обучать другие компьютерам в сети новым способам идентификации нежелательного контента. “Гриндэм” – самообучающаяся и обладающая колоссальным потенциалом сетевая система цензуры: как только программа поймет, что некто набирает в поисковике слово “димакратия” вместо “демократия”, чтобы обмануть цензоров, остальные пользователи воспользоваться этой лазейкой больше не смогут.
Вообразите глобальный мозг, который ежесекундно собирает подсказки от миллионов пользователей, пытающихся обвести систему вокруг пальца, и почти сразу же использует их, чтобы закрыть имеющиеся лазейки. “Гриндэм” – это неудачное воплощение в высшей степени плодотворной и опасной идеи.
Время расстаться
Правительствам, однако, нет необходимости ждать появления революционных разработок в сфере искусственного интеллекта, чтобы принимать более обоснованные решения о том, что цензурировать, а что нет. Отличие интернета от других медиа в том, что информация в Сети связана гиперссылками. По большому счету, все эти ссылки служат положительными аттестациями. Когда пользователь посещает определенную веб-страницу, он “голосует” за нее, и она приобретает некоторый авторитет. “Гугл” сумел свести воедино все эти нано-аттестации (сделав число входящих ссылок прогностическим параметром релевантности поискового результата) и извлекает из этого большую выгоду.
Кроме того, гиперссылки позволяют обобщать контекст, в котором появляются определенные фрагменты информации, причем понимать смысл этой информации совершенно не обязательно. Если в десятке антиправительственных блогов появится ссылка на документ PDF, размещенный в блоге, который прежде не попадал в поле зрения киберполицейских, они могут решить, даже не заглядывая в него, что документ заслуживает блокирования. Ссылки (подтверждения релевантности от блогеров-оппозиционеров) говорят сами за себя, и файл. плох уже поэтому. Благодаря “Твиттеру”, “Фейсбуку” и другим социальным медиа тайной полиции гораздо проще выявлять такие связи.
Если авторитарные правительства овладеют искусством сбора популярных ссылок, которыми оппозиционеры делятся в “Твиттере”, “Фейсбуке” и других социальных медиа, они найдут изящное и, главное, надежное решение всех проблем цензора. Хотя абсолютный объем информации (в нашем случае – количество ссылок) будет расти, это не повлечет за собой ослабление цензуры. Она просто будет более тонко настроена. Цензуры, которая стрижет всех под одну гребенку, станет меньше, но это едва ли повод для радости.
Убежденность в том, что интернет цензурой не объять, наивна и очень опасна. Сеть становится более открытой для общения, и правительствам (как и любым другим заинтересованным игрокам) ничто не мешает конструировать цензурные аппараты, работающие по принципу рекомендаций, как это делают “Амазон” и “Нетфликс” (Netflix). Единственная разница – вместо того чтобы рекомендовать пользователю страницы, система будет блокировать доступ к ним. Таким образом, мы все можем оказаться в плену концепции “социального графа” – схемы, учитывающей всех, с кем мы связаны через веб-сайты, начиная с “Фейсбука” и “Твиттера” и заканчивая “Ю-Тьюбом”, которая сейчас в чести у киберэлиты (digerati).
Если авторитарные правительства овладеют искусством сбора популярных ссылок, которыми оппозиционеры делятся в “Твиттере”, “Фейсбуке” и других социальных медиа, они найдут изящное и, главное, надежное решение всех проблем цензора. Хотя абсолютный объем информации (в нашем случае – количество ссылок) будет расти, это не повлечет за собой ослабление цензуры. Она просто будет более тонко настроена. Цензуры, которая стрижет всех под одну гребенку, станет меньше, но это едва ли повод для радости.
Убежденность в том, что интернет цензурой не объять, наивна и очень опасна. Сеть становится более открытой для общения, и правительствам (как и любым другим заинтересованным игрокам) ничто не мешает конструировать цензурные аппараты, работающие по принципу рекомендаций, как это делают “Амазон” и “Нетфликс” (Netflix). Единственная разница – вместо того чтобы рекомендовать пользователю страницы, система будет блокировать доступ к ним. Таким образом, мы все можем оказаться в плену концепции “социального графа” – схемы, учитывающей всех, с кем мы связаны через веб-сайты, начиная с “Фейсбука” и “Твиттера” и заканчивая “Ю-Тьюбом”, которая сейчас в чести у киберэлиты (digerati).
Главная причина, по которой цензоры не пользуются принципом рекомендаций, в том, что навигация в интернете в основном анонимна. Когда мы посещаем сайты, их администраторам трудно узнать, кто мы. Однако нет гарантии, что так будет и через пять лет. Две могущественные силы могут уничтожить сетевую анонимность. Во-первых, это коммерция. Мы наблюдаем стремительную интеграцию социальных сетей и различных сайтов (теперь много где есть кнопка “Мне нравится”, ведущая на “Фейсбук”), что побуждает нас выдавать себя. Многие охотно жертвуют анонимностью ради скидок в Apple Store. Во-вторых, растет озабоченность правительств по поводу детской порнографии, нарушений авторского права, киберпреступности и кибервойн. Поэтому, вероятно, нам все чаще придется доказывать в Сети, что мы – это именно мы.
Таким образом, будущее контроля над интернетом зависит от многочисленных и довольно сложных деловых и общественных групп. К сожалению, многие из них происходят из свободных демократических обществ. Западные правительства и фонды не могут решить проблему цензуры лишь путем создания инструментов для того, чтобы ее обойти. Им следует выявить все эти многочисленные силы, начать публичную дискуссию и, если необходимо, предпринять законодательные шаги для защиты от каждой из этих сил. Запад изобретает новые действенные способы для преодоления файерволов, выстраиваемых авторитарными правительствами, но одновременно позволяет многим своим корпорациям пренебрегать личной информацией пользователей, а это нередко приводит к катастрофическим последствиям для граждан несвободных обществ. Следуя модному императиву свободы интернета, западные политики мало задумываются о решении проблем, к возникновению которых сами же причастны.
Это не цензура. Это – аутсорсинг
Еще одна причина, по которой цензура в интернете малозаметна, заключается в том, что осуществляют ее вовсе не правительства. Хотя в большинстве случаев достаточно заблокировать доступ к определенной записи в блоге, содержащей критику, проще удалить эту запись. У правительств таких полномочий нет, зато компании, владеющие блог-платформой, могут сделать это во мгновение ока. Заставить компании контролировать Сеть в соответствии с широким набором рекомендаций – мечта любого правительства. Компании несут все расходы, делают всю грязную работу и выслушивают проклятия пользователей. Они же успешнее выловят нежелательный контент, поскольку знают свои онлайновые сообщества лучше цензоров. Наконец, ни один пользователь не может приказать компаниям, как им вести дела, поэтому апелляции к свободе слова в таких случаях обычно бессмысленны.
Неудивительно, что китайские цензоры пошли именно этим путем. Согласно исследованию, проведенному Ребеккой Маккиннон, бывшим шефом пекинского бюро Си-эн-эн, изучающей в фонде “Новая Америка” китайский сектор интернета, цензура контента, создаваемого китайскими пользователями, “в высшей степени децентрализована”: ее “осуществление предоставлено самим интернет-компаниям”. Чтобы доказать это, Маккиннон в середине 2008 года открыла анонимные аккаунты на десятке китайских блог-платформ и оставила в каждом блоге более ста записей, касавшихся различных спорных вопросов – от коррупции и СПИДа до независимости Тибета. Целью эксперимента была проверка, будут ли удалены эти записи, и если да, то как скоро. Результаты различались в зависимости от компании. Самые бдительные удалили около половины записей Маккиннон. Одна компания подвергла цензуре лишь одну запись. Китайские интернет-компании выступили несогласованно – именно так и происходит, когда правительство приказывает прибегать к цензуре, но не уточняет, что именно следует запрещать, и оставляет это на усмотрение запуганных менеджеров. Чем большая свобода действий предоставлена компаниям в интерпретации правил, тем меньше вероятность угадать, будет ли удалена “крамольная” запись в блоге. Подобная кафкианская неопределенность может причинить больше вреда, чем сама цензура: активистам трудно планировать кампанию, если нет уверенности, что их сетевой контент уцелеет.
Это значит, кроме прочего, что насколько бы плохими ни казались “Гугл” и “Фейсбук”, они все же лучше большинства компаний, работающих в странах с авторитарными правительствами. Транснациональные компании обычно с неохотой играют роль цензоров, поскольку это может дорого им обойтись, к тому же в этом случае они столкнутся с валом обвинений на родине. Местным же компаниям на это наплевать: азербайджанские социальные сети скорее всего не собираются вести дел с США или Западной Европой и не боятся, что их осудят на слушаниях Конгресса.
На этом поле Запад определенно проигрывает. Пользователи обычно предпочитают местные сети глобальным – они обычно быстрее, проще в обращении и соответствуют местным культурным нормам. Если вы оцените рынок интернет-услуг в большинстве стран с авторитарным режимом, то, вероятно, увидите по меньшей мере пять местных альтернатив любому заметному стартапу из Кремниевой долины. Если учесть, что общее количество китайских интернет-пользователей составляет более 300 миллионов, 14 тысяч китайских клиентов “Фейсбука” (данные 2009 года) – это капля в море, точнее – 0,00046 % пользователей.
Интернет-компании, однако, не единственные медиаторы, которых можно принудить к удалению контента. Рунет, например, полагается на коммьюнити, сходные с группами в “Фейсбуке”, которые ведут модераторы. Сетевая социальная активность в России базируется на “Живом журнале”. Когда в 2008 году сообщество автолюбителей в ЖЖ превратилось в место обмена информацией о волне протестов водителей во Владивостоке, недовольных политикой властей, ФСБ немедленно потребовала у его модераторов удалить соответствующие записи. Модераторы подчинились, однако сообщили о произошедшем в последней своей записи на странице сообщества (через несколько часов исчезла и она). Формально, однако, никто ничего не блокировал – это и есть скрытая цензура, бороться с которой труднее всего.
Чем больше посредников появляется при опубликовании и распространении информации, тем больше возникает контрольных пунктов, в которых эту информацию можно незаметно убрать или исказить. Сторонники “дилеммы диктатора” сильно недооценили роль сетевых медиаторов: ведь кому-то приходится обеспечивать доступ в интернет, размещать блог или сайт, модерировать сетевое сообщество или делать так, чтобы это сообщество заметили поисковые программы. До тех пор, пока эти организации-медиаторы будут зависеть от государства, найдутся способы заставить их содействовать цензуре, которая никак не скажется на экономическом росте.
“Умная” толпа? Совсем не обязательно
Очень жесткие законы об оскорблении величества, существующие в Таиланде, карают любые высказывания (в том числе в блогах и в “Твиттере”), оскорбительные для королевской семьи. Но контроль над быстро растущей таиландской блогосферой оказался непростой задачей для полиции. В начале 2009 года один из членов Национальной ассамблеи Таиланда, лояльный королю, предложил новый вариант решения трудной задачи. Власти открыли сайт “Защитим короля” (ProtectTheKing.net), чтобы подданные могли сообщить о сайтах, якобы содержащих оскорбительную для монарха информацию. После этого, по данным Би-би-си, всего за сутки правительство Таиланда заблокировало доступ к пяти тысячам крамольных ссылок. Неудивительно, что создатели сайта “забыли” предусмотреть возможность разблокирования сайтов, закрытых по ошибке.
Сходным образом власти Саудовской Аравии позволяют гражданам докладывать о гиперссылках, которые те сочтут оскорбительными, и в результате каждый день в Комиссию по коммуникациям и информационным технологиям поступают сообщения о 1200 ссылках. Это позволяет правительству сравнительно эффективно осуществлять цензуру. По данным журнала “Бизнес уик”, в 2008 году в цензурном подразделении комиссии было всего двадцать пять сотрудников, правда, многие из них окончили ведущие западные университеты, такие как Гарвард и Карнеги-Меллон.