Бесчеловечные машины

Автопилоты — не что-то кардинально новое, хотя бы потому, что в самолетах они используются уже десятилетиями и без них авиационную отрасль уже невозможно представить. Машины тоже научились обходиться без живых водителей: «гугломобили» (Google Car) проехали по Калифорнии и Неваде больше 3 млн км. Собственный автопилот разрабатывают все автомобильные концерны — от Tesla до Toyota, от Honda до Audi — и не скрывают этого. Немецкий концерн уже год назад показал машину, которая без помощи человека проезжала гоночный трек почти так же быстро, как профессиональный гонщик.

Даже транспортные компании не могут позволить себе игнорировать тенденцию. Гендиректор Uber Трэвис Каланик, компания которого обрекла на медленное вымирание рынок таксомоторных перевозок, сказал недавно, что было бы смешно, если бы его собственный стартап неполных пяти лет от роду постигла та же судьба. В мире по-настоящему самоходных машин Uber может потерять в стоимости. Поэтому компания переманила к себе несколько десятков специалистов по автономным транспортным средствам из Университета Карнеги — Меллона (откуда происходят и создатели «гугломобиля») и всерьез задумывается о замене своих партнеров-водителей роботами.

Ни у кого на рынке нет сомнений, что к 2020 году технология беспилотных автомобилей будет работать достаточно хорошо, чтобы технической необходимости в людях за рулем больше не было. Проблема в другом. «Придумать технологию нетрудно, трудно будет ее социализировать», — говорил еще три года назад американский топ-менеджер Toyota Джон Хэнсон, ответственный за безопасность движения и окружающей среды.

Проблемы социализации

Хорошая новость для любителей прогресса состоит в том, что общество, скорее всего, не сможет отказаться от этой конкретной технологии. Дорожно-транспортные происшествия, по данным ВОЗ, входят в число десяти главных причин смертности в мире, причем остальные девять — медицинские. Если бы в результате внедрения автопилота число летальных аварий снизилось на 10%, это спасло бы 130 тыс. жизней в год и уберегло еще миллион человек от тяжелых травм и инвалидности. На деле снижение может быть более радикальным.

Небольшой пока опыт тестовых поездок Google — около 3 млн км против 3 трлн км, которые проезжают за год по дорогам США все американцы, — вселяет оптимизм. За несколько лет тестирования, в том числе на оживленных улицах и дорогах, машины попали только в 12 незначительных ДТП, причем каждый раз не по своей вине. Судя по описаниям этих ДТП, приведенным в специальном отчете компании, в устах живого водителя они не стоили бы упоминания за кружкой пива.

Второе достоинство автономных транспортных средств — они очень выгодны. Шоферы и дальнобойщики — одна из самых многочисленных профессий на земле, экономия на одних зарплатах в крупной стране — $1 млрд или больше. Расход топлива радикально снизится, если за него будет отвечать робот, аккуратный, никогда не спящий и полностью лишенный мотивации заработать левый гонорар. В городах автоматические машины, которые не подрезают друг друга и не перестраиваются по три раза перед светофорами, должны радикально уменьшить число пробок. Впрочем, экономическим аргументам будут противостоять миллионы людей по всему миру. Водители такси и дальнобойщики — политически активные и самостоятельные люди, которым есть что терять и которые, как показывает современная история, умеют защищать свои права.

Как бы то ни было, водители проиграют и начнется новая эпоха. Выход автономных машин на дорогу станет ожидаемым, но все равно переломным моментом. Впервые в истории человечества миллионы потребительских роботов, способных убить или покалечить человека, заполнят многолюдные улицы земных городов. Прикладные правила, регулирующие поведение автономных транспортных средств, будут разрабатывать программисты, но всем остальным предстоит придумать, как эти правила будут выглядеть. Сама необходимость таких расчетов ставит человечество в новые обстоятельства. Многие прагматические вопросы и моральные дилеммы, которые прежде загонялись под ковер, теперь придется прописывать в явном виде — буквой закона или программного кода.

Дорожный этикет

Ремень безопасности — это инновация, которая существенно повышает безопасность пассажиров транспортного средства, но незначительно понижает безопасность пешеходов и прочих участников движения: пристегнутые водители, уверенные в своей безопасности, управляют автомобилем в расслабленной манере. В человеческом мире такая сделка имеет право на существование, признается обязательной и пользуется поддержкой избирателей. В мире роботов, однако, баланс придется рассчитывать заново. Несколько строчек программного кода смогут повлиять на то, в каких обстоятельствах машина будет делать все от нее возможное, чтобы спасти пассажира, а в каких — прохожего. И едва ли люди согласятся с тем, что хозяин машины, на том основании, что заплатил производителю деньги, может иметь преимущество.

В октябре группа исследователей из Тулузской экономической школы и Массачусетского технологического института опубликовала первую работу по экспериментальной этике автономных транспортных средств. Живым людям предлагали совершить за робота выбор в разнообразных гипотетических ситуациях, связанных с риском гибели в ДТП, например сбить одного человека на своей полосе или врезаться в забор и погибнуть. Эксперимент показал, что во Франции и Америке люди не были шокированы тем, что робот вершит судьбы, если он при этом минимизирует общие потери. Если общее число ДТП упадет в несколько раз благодаря автономному транспорту, а вслед за ним — и цены на страховки, то проблема законов робототехники будет представлять в будущем, как и сейчас, только философский интерес.

Более трудная проблема состоит в том, что, как и любой робот, автономная машина является специализированным компьютером, подключенным к интернету. Значит, ей можно манипулировать. Это совсем не гипотетическая ситуация: в начале года два программиста, Чарли Миллер и Крис Валашек, взломали джип и перехватили контроль управлением прямо на ходу (за рулем сидел журналист Wired, потерявший внезапно возможность затормозить). Сделали они это для того, чтобы привлечь внимание к проблеме безопасности современных электронных систем. Через несколько недель после того, как об их достижении стало известно, Uber нанял обоих программистов, чтобы они отвечали за безопасность машин компании.

Если до автомобиля не доберутся хакеры, сможет ли повлиять на программное обеспечение сам владелец транспортного средства? Человек имеет право купить iPhone и «сломать» его, с тем, чтобы хранить на устройстве собственные файлы и запускать собственные программы не из ассортимента официального магазина приложений. Но сможет ли он сделать то же самое со своим автомобилем? Производители машин будут встраивать в них самые разные программные ограничения вроде предельной скорости или невозможности резко перестраиваться (подрезать другие автомобили). Скорее всего, и сами правила дорожного движения будут задаваться программными средствами — автомобиль, а не водитель, будет «сдавать на права». Правительства развитых стран запретят, конечно, самочинные эксперименты с роботами повышенной опасности, если выпустят их на дорогу. Но конкуренция все равно будет: среди корпораций, разрабатывающих водительский софт, и юрисдикций с разнообразными ПДД (проблема лево- и правостороннего движения исчезнет в тот же миг).

Смерть частного транспорта

Существуют два подхода к разработке и созданию машин на автопилоте. Первый предпочитают автомобильные концерны: большую часть времени управление транспортным средством происходит на автопилоте, но при желании водитель сможет взять управление на себя. Второй пытается воплотить Alphabet (непоисковые предприятия Google). «Гугломобили» оснащены рулями только для тестовых нужд; в будущем они должны стать полноценными роботами, лишенными ручного управления.

Если Alphabet преуспеет, появится соблазн запретить вождение шоферам из плоти и крови, — это ведь они были виноваты во все авариях Google Car. По меньшей мере некоторые муниципалитеты захотят вовсе запретить на своей территории человеческое вождение. А где-то возможность управлять автомобилем станет, как в эпоху до Генри Форда, роскошью: водителю придется заплатить большой налог или страховой взнос.

Прагматический подход велит лишать людей стимулов не только водить автомобили, но и владеть ими. Средний автомобиль в США (около 40% мировых продаж) перемещается по дорогам около часа в день, остальные 95% времени он простаивает. Для практичных инженеров и менеджеров, занятых разработкой автономных транспортных средств, такая степень неэффективности — совершенный скандал. Для Uber и ее клонов — рыночная ниша на десятки миллиардов: на пересечении автомобиля и общественного транспорта расположены такси.

Аналитики Morgan Stanley вдвое повысили прогноз по акциям Tesla, когда заподозрили, что компания может стать главным игроком на рынке совместного пользования автономными транспортными средствами. Для служб безопасности дорожного движения это хорошая новость: машинам в совместном владении никто не будет подкручивать скоростной лимит.