«Зоной дилеммы» инженеры называют ситуацию, когда автомобиль находится слишком близко к перекрестку, чтобы остановиться на желтый сигнал светофора, но при этом достаточно далеко, чтобы проехать до того, как загорится красный. И это действительно дилемма. Если судить по статистике аварий, то водители чаще всего бьют по тормозам и получают удар от машины сзади. Однако в случае выезда на перекресток удар сбоку обычно оказывается значительно сильнее и опаснее. Что бы вы выбрали — легкую аварию, вероятность которой высока, или серьезную, но менее вероятную? Инженеры могут настроить светофоры так, чтобы желтый свет горел дольше, но это снижает пропускную способность перекрестка. Кроме того, как только об этом станет известно, все больше водителей захотят рискнуть и проехать перекресток.
Кое-кто даже предлагал внедрить знаки, предупреждающие о том, что свет скоро переключится на желтый, — своего рода «предупреждение о предупреждении»{6}. Это, однако, могло привести к увеличению «зоны нерешительности». Однако проведенное на перекрестках в Австрии исследование, при котором зеленый свет несколько раз мигал, прежде чем переключиться на желтый, продемонстрировало неоднозначные результаты: на красный свет начали проезжать значительно меньше водителей, чем раньше, но и гораздо больше водителей стали останавливаться раньше, чем необходимо{7}. Опасность таких действий была продемонстрирована при изучении перекрестков в Израиле, где была внедрена система «мигающего зеленого». Там отмечалось больше ударов сзади, чем на перекрестках без мигающего зеленого{8}. Чем длиннее «зона нерешительности», чем больше машин в ней находится, тем больше ситуаций, когда необходимо решить: ехать или внезапно остановиться, — и тем выше вероятность аварии{9}.
Подобные зоны дилеммы возникают на дороге постоянно. На гонке Grand Challenge отсутствуют пешеходы (и слава богу, считает Монтемерло): они стали бы огромной проблемой для Джуниора. «Я много думал о том, чтó могло бы произойти, если бы Джуниор оказался в реальном мире», — рассказал Монтемерло. Движение в Стэнфорде умеренное, но что если пешеход стоит на бордюре, совсем рядом с проезжей частью? Поскольку он не на дороге, робот не воспринимает его как препятствие. Но собирается ли он переходить дорогу или просто стоит? Чтобы понять это наверняка, робот должен уметь проанализировать «язык тела» пешехода или выражения лиц людей. Даже если робот-водитель остановился, пешеходам нужны дополнительные сигналы. «Пешеходы иногда боятся переходить дорогу даже перед остановившейся машиной, — говорит Монтемерло. — Часто они ждут, когда водитель помашет им, разрешив перейти дорогу. Будет ли вам так же комфортно, если машиной будет управлять не похожий на человека робот?»
С другой стороны, кое в чем городская среда проще, чем песчаная трасса в пустыне. «Движение в условиях города имеет множество ограничений. В сущности, вы можете сделать не так уж и много, — утверждает Монтемерло (которому, как мне кажется, просто никогда не доводилось ездить по развязкам около аэропорта имени Кеннеди в Нью-Йорке). — Благодаря этому мы ощущаем себя на дороге достаточно комфортно. Правила и линии разметки подсказывают нам, чтó может произойти в будущем».
На дороге часто приходится строить предположения. Мы на полной скорости проскакиваем на зеленый сигнал светофора, предполагая, что водители, стоящие на других въездах на перекресток, будут стоять. Мы не ожидаем столкновения, когда по встречной полосе едет другая машина. Мы спокойно въезжаем на холм, не думая, что где-то впереди может оказаться внезапно остановившийся на дороге бензовоз. «Мы ездим быстрее только из-за того, что делаем определенные предположения», — полагает Монтемерло. В сущности, стэнфордская команда превращает эти предположения в сотни тысяч строк программного кода (мозга Джуниора), однако программа достаточно гибка для того, чтобы робот не «завис» в какой-то особенно странной для него ситуации.
А странных ситуаций на дороге хватает с лихвой. Возьмем, например, сломанный светофор. Как-то раз Дэвид Леттерман пошутил, что светофоры в Нью-Йорке — «лишь примерные указания к действию». Однако представьте себе, что вы подъехали к перекрестку, где для всех горит красный свет. После некоторых колебаний вы, возможно, решите крайне осторожно все же проехать перекресток. Или представьте, что вы оказались за машиной с заглохшим двигателем. Чтобы ее объехать, вам нужно будет пересечь двойную сплошную линию, что в обычных ситуациях запрещено. Однако вы это делаете — в правилах дорожного движения учтено, что порой вам приходится действовать в исключительных обстоятельствах. А что делать на перекрестке равнозначных дорог? Иногда возникает неясность относительно того, кто появился первым, и образуется затор. Теперь представьте себе четырех роботов-водителей, подъезжающих к перекрестку в один и тот же момент. Если они запрограммированы на то, чтобы пропускать первого подъехавшего, возможны два варианта: они все поедут вперед и столкнутся либо же все застынут на месте (как компьютер, давший сбой). Поэтому команда из Стэнфорда использует довольно сложные алгоритмы, чтобы хоть как-то приблизить бинарную логику Джуниора к человеческой. «Джуниор пытается определить самое правильное время для начала движения и дожидается своей очереди, — рассказывает Монтемерло. — Но если другая машина не поворачивает вовремя и проходит достаточно много времени, робот начнет собирать за собой хвост»{10}.
Команда из Стэнфорда поняла, что лучший способ освоить навыки вождения для Стэнли и Джуниора — наблюдать за тем, как водят машину люди. Но способны ли роботы научить нас чему-то? В ходе первого Grand Challenge Тран, по словам Монтемерло, «постоянно жаловался на то, что робот слишком сильно замедляется при прохождении поворотов». Однако когда студент-старшекурсник проанализировал результаты гонки, то пришел к заключению, что робот «проходил повороты, как Ferrari» и смог за счет этого сэкономить лишь несколько минут из 7-часовой гонки (при этом значительно повысив риск аварии). Дело в том, что трасса по большей части была ровной. Поддержание самой высокой средней скорости движения на этих участках было важнее, чем прохождение сравнительно небольшого количества поворотов (наиболее опасной части дороги) с максимально возможной скоростью.
Монтемерло называет это «толковым вождением». Он много думал об этом во время Urban Challenge: «Поначалу мы полагаем, что можем взять все, что уже умеет Джуниор, и просто ускорить процессы — например, разгон с места после знака “Стоп” или сокращение срока ожидания у этого знака. Но опыт показывает, что все это не особо помогает. Мимо вас проезжает с нарушением скоростного режима какой-то парень, а затем вы наблюдаете его вновь перед собой на очередном светофоре. Случайный характер трафика сводит на нет все наши попытки ехать максимально быстро. В то же время некоторые направления оптимизации (например, выезд из-под знака “Стоп” после пары секунд остановки) приводят к проблемам для всех. Такие действия замедляют движение»{11}.
Группе ведущих мировых экспертов в области робототехники понадобились годы работы, чтобы создать автономное транспортное средство, которое, обладая своеобразным интеллектом и способностью к адаптации) быстро бы двигалось в условиях реального трафика. С одной стороны, это доказывает поразительные способности человека, а с другой — заставляет нас вспомнить о том, что они не врожденные. Когда-нибудь роботы получат фору за счет того, что их программы и узлы будут работать дольше, чем человеческий организм. Мы, люди, вынуждены пользоваться тем, с чем родились. Человеческий когнитивный механизм достаточно силен, что показало обучение Стэнли и Джуниора. Но, как мы вскоре увидим, здесь есть свои проблемы, которые вряд ли можно решить с помощью выпуска новой, усовершенствованной версии робота.
«Ну, и как вам мое вождение?» — «А я почем знаю?» Почему отсутствие обратной связи мешает нам на дороге
Яркая телевизионная реклама онлайнового аукциона eBay сопровождается простым слоганом: «Люди — хорошие». Интересно, что в ней несколько раз показывается трафик: в одном кадре люди собираются, чтобы вытолкнуть машину, застрявшую в снегу; в другом водитель замедляет движение и пропускает другого, который приветственно машет ему рукой. Рассказывая о подобных случаях взаимного альтруизма, eBay надеялся еще раз подчеркнуть правильность своей основной идеи: вы можете купить что-то у совершенно незнакомого человека из дальнего уголка земного шара, но при этом быть уверенным в том, что вовремя получите свою вещь. Подобное «повседневное доверие», выражаясь словами пресс-секретаря eBay, «присутствует в отношениях миллионов не знакомых друг с другом людей, заключающих сделки, и позволяет им без заминки получать искомое»{12}. Примерно такими же словами можно описать и происходящее на дорогах.
Тем не менее люди не всегда хорошие. Каждый месяц на eBay обнаруживаются новые формы мошенничества, и каждый случай подвергается тщательной проверке со стороны компании. Сложные программы внимательно следят за подозрительным поведением при выставлении ставок. Однако сайт продолжает успешно работать не благодаря бдительности служб, препятствующих деятельности мошенников (которые в любом случае имеют возможность отслеживать лишь незначительную часть аукционов, которых насчитываются миллионы), а благодаря более простому механизму — обратной связи. Возможность получить положительный отклик и избежать негативных комментариев крайне важна, и об этом знает любой, кто когда-либо продавал или покупал товары на аукционе. Это связано не только с желанием хорошо выглядеть в глазах других, но и с тем, что, как показало одно исследование, продавцы с неподмоченной репутацией могут успешно выставлять свои лоты с наценкой до 8%{13}. Как бы то ни было, обратная связь (при условии, что она правдива{14}) — социальный клей, не позволяющий eBay распасться на части.
Но что если бы аналогичная система использовалась и в дорожном движении? Эта идея была детально рассмотрена в достаточно провокационной работе Лиора Страхилевича, преподавателя права в Чикагском университете. «Современное, урбанистическое шоссе чем-то напоминает eBay, хотя и без оценки репутации участников, — писал он. — Большинство водителей на шоссе обладают нужными навыками и готовы к сотрудничеству с другими, однако при этом существует достаточно заметное меньшинство, наносящее вред всему сообществу: устраивающее аварии, провоцирующее задержки движения, создающее стрессовые ситуации. Все это приводит к росту страховых взносов»{15}.
На многих транспортных средствах, принадлежащих компаниям, размещены специальные наклейки с номерами телефонов. Если другие водители видят, что данное транспортное средство нарушает правила движения или каким-то иным образом мешает другим, они могут позвонить в колл-центр, изложить свою жалобу и сообщить идентификационный номер. Но можно и похвалить законопослушного водителя корпоративного транспортного средства. По всем звонкам ведется детальный учет, и в конце каждого месяца водители получают список позитивных и негативных комментариев о своем поведении на дороге. Если бы такую систему можно было применить в отношении всех участников дорожного движения, то водители, допускающие слишком много нарушений, могли бы понести наказание. Например, для них могла бы быть повышена ставка страховки. Они могли бы даже лишиться прав. Страхилевич считает, что эта система может быть более эффективной, чем нерегулярное применение законодательных санкций, которые охватывают лишь небольшую часть нарушений на дорогах. Полиция зачастую вынуждена выписывать штрафы лишь в случае наиболее вопиющих нарушений (например, превышения скорости). Обычно полиция не может ничего сделать в случае не столь очевидных, но довольно опасных моментов, с которыми сталкивается каждый из нас. Как часто вы отчаянно желали, чтобы полицейская машина появилась из ниоткуда и поймала нарушителя, занимающегося по-настоящему опасными делами, например висящего у вас на хвосте или строчащего эсэмэски за рулем? Это могло бы помочь страховым компаниям более эффективно определять ставки, не говоря уже о том, что раздраженные водители могли бы получить более безопасный и полезный вариант выражения своего несогласия. Это было бы справедливо.
Но что же делать, если отклики неискренни? Что если ваш сосед, раздраженный лаем вашей собаки, напишет, что вы грубо нарушили правила проезда перекрестка? Страхилевич указывает, что в данном случае нам могла бы помочь схема, применяемая на eBay: специальные программы могли бы «вынюхивать» подозрительную деятельность — например, такие отклонения, как один негативный комментарий в ряду множества позитивных или повторяющиеся негативные комментарии от одного и того же человека. Стоит ли в данном случае беспокоиться о защите частной жизни? Это важный вопрос — фактически получается, что люди могут терроризировать остальных участников дорожного движения только потому, что скрываются под маской. Дорога — не частная территория, а превышение скорости — не частное дело каждого. Страхилевич утверждает: «Мы должны защищать тайну частной жизни лишь тогда, когда это на пользу всему обществу».
На самом деле некоторые менее амбициозные и не вполне официальные версии этой идеи уже были опробованы на практике{16}. Сайт Platewire.com, который, по словам его создателя, был призван «заставить людей в той или иной форме отвечать за свои действия на дорогах», позволяет водителям разместить жалобы на нарушения с указанием данных номерного знака нарушителя. Там можно встретить такие записи, как «Слишком занята своей прической» или «Придурок на Audi». И, к сожалению, значительно реже там обнаруживаются похвалы в адрес других водителей.
Намерения благие, однако недостатки подобных сайтов очевидны. Например, на момент написания этой книги у Platewire было около 60 тысяч подписчиков — небольшая доля лиц, имеющих право водить машину в США. Иными словами, жалобы на сайте просто пропадают напрасно. Кроме того, с учетом случайного характера трафика шансы на то, что я когда-либо встречусь на дороге с водителем автомобиля с номерным знаком VR347N, выданным в Нью-Джерси, крайне малы (даже меньше, чем шансы на то, что он прочтет эту книгу). Кроме того, даже встретившись с ним, я вряд ли вспомню, что, согласно комментарию на сайте Platewire, он «читал газету» во время управления автомобилем на трассе! И, наконец, Platewire явно недостает реальных последствий размещения комментариев (если не считать анонимного возмущения очень небольшого количества посетителей).
Колл-центр помог бы решить проблему анонимности, присущей трафику (и связанного с ней неблаговидного поведения). Заодно можно было бы разобраться и с другой проблемой — отсутствием обратной связи. Как уже упоминалось ранее, сама механика вождения позволяет нам выступать в роли наблюдателя при многих нарушениях, не обращая внимания на собственное поведение. Неудивительно, что себя как водителей большинство людей оценивает достаточно высоко, невзирая на реальные результаты или количество штрафов (об этом свидетельствует целый ряд проведенных исследований){17}.
По данным огромного количества исследований, проведенных от США до Франции и Новой Зеландии, большинство автомобилистов считают, что их навыки вождения значительно выше «среднего уровня»{18}. Разумеется, со статистической точки зрения это невозможно и чем-то напоминает слоган в духе «Монти Пайтон» — «Мы все выше среднего!»[26] Психологи называют это явление «оптимистическим искажением» (или «эффектом выше среднего»), но его причины так и остаются тайной. Возможно, мы просто хотим казаться лучше других (подобно героям рассказа в первой главе, которые оценивали степень своего благосостояния, высокомерно глядя на людей, стоявших в очереди за ними). Возможно, все дело в каком-то психическом костыле, который нужен нам для того, чтобы не бояться вождения (которое многим из нас может казаться самым сложным испытанием в жизни){19}.
Какова бы ни была причина, есть достаточно серьезные основания считать, что мы завышаем самооценку во многих случаях, зачастую на свой страх и риск. Инвесторы часто говорят о том, что выбирают акции для формирования портфеля лучше, чем многие другие игроки на рынке, но как минимум одно исследование счетов брокерских компаний показало, что самые активные (и, возможно, самые самоуверенные) трейдеры заработали меньше всего{20}. На вождение может оказывать значительное влияние «эффект выше среднего». Психологи обнаружили, что оптимистическое предубеждение сильнее всего проявляется в ситуациях, которые мы можем контролировать; одно исследование показало, что, когда водителей попросили оценить шансы попасть в ДТП, они оказались в среднем куда более оптимистичными, чем пассажиры{21}.
«Эффект выше среднего» объясняет, почему водители (по крайней мере поначалу) сопротивляются новым мерам обеспечения порядка на дорогах, начиная от ремней безопасности и заканчивая ограничениями на использование мобильных телефонов. Например, опросы показали, что большинство водителей хотело бы, чтобы отправка текстовых сообщений во время вождения была запрещена; однако эти же люди и сами часто отправляли текстовые сообщения, находясь за рулем{22}. Мы склонны переоценивать риски для общества и недооценивать риск, связанный с нами самими{23}. Мы считаем, что необходимо контролировать поведение других людей, а не наше собственное. Такое объяснение помогает понять, почему возникает разрыв между социальными нормами и законодательными актами во всем, что касается развивающихся технологий{24}. Мы полагаем, что более жесткие законы отлично подходят для тех, кто в них нуждается.