Беспилотные автомобили за гранью морали: что они сделают с городами, культурой и нашим доверием к машинам

Разговор о беспилотных автомобилях почти всегда связывают с вопросами морали. Только ленивый не читал о проблеме вагонетки, не проходил тесты на сайте проекта Moral machine от Массачусетского технологического института или не слушал выступления Кирилла Мартынова о том, можно ли разрешать автомобилям (или шире — автономным технологиям) делать моральный выбор. Интерес публики к морали подогрел и вышедший летом 2017 года этический кодекс беспилотного автомобиля немецкого правительства, где человеку отдается приоритет перед неодушевленными вещами и животными.

Да, беспилотные автомобили бросают вызов устоявшимся представлениям о моральном выборе — но помимо вопросов этики и морали социальным ученым еще есть, чем заняться, чтобы сделать беспилотные автомобили более понятными и привычными для публики. Как решить проблему недоверия человека к технике? Как учесть культурные различия и стили вождения разных стран? И что станет с городами, когда в них хлынут беспилотники?

Можем ли мы довериться технологии

Представьте, что вам нужно отвезти ребенка в школу, а вам некогда — но у вас есть беспилотный автомобиль. Доверите ли вы ему своего ребенка? А если путь лежит через узкие улицы с плотным движением или высокоскоростные шоссе? Будет ли вам комфортно сидеть в капсуле, лишенной педалей и рулевого колеса, которая едет по непонятному вам пути? В отличие от поездки в такси некого спросить, почему был выбран тот или иной маршрут, или некому рассказать вам историю, чтобы расслабить и развлечь вас в поездке.

Проблема доверия к технологии не нова, по ее поводу было сломано немало копий. Но в случае беспилотных автомобилей она открывается по-новому. Автомобиль — это ежедневный спутник большинства людей, который со-участвует во множестве практик передвижения: поездок из дома на работу и обратно, прогулок, поездок за город, отвоза детей в школу, путешествий. Чтобы им пользоваться, нужно ему сильно доверять, и отдельная психологическая проблема для внедрения беспилотных автомобилей — сделать так, чтобы очень разные люди, включая пожилых, детей, инвалидов, доверяли беспилотникам. Но как это сделать в случае беспилотного автомобиля, который едет куда-то без вашего мнения, работает на основании неизвестных вам алгоритмов, не контролируется вами, да еще и к тому же передает ваши данные неизвестно кому?

Для России вопрос доверия тоже не самый последний. Опрос, проведенный в 2017 году по заказу российской компании разработчика беспилотных систем Cognitive Technologies, больше половины опрошенных в России (58 %) высказали недоверие к беспилотным автомобилям в целом.
Желание воспользоваться беспилотными автомобилями высказали при этом 56 % жителей России, что на десяток процентов меньше, чем, например, в США. Сегодня в России мы регулярно слышим от СМИ об успехах «Яндекса» или тех же Cognitive Technologies, но большинство проектов носит закрытый характер, и встретить настоящий беспилотный автомобиль на дороге можно только если он тестируется «из-под полы», как в видео «Яндекс.Такси» в Хамовниках

Как решают проблему доверия
В социально-психологических исследованиях предлагается несколько решений проблемы доверия.

Первое — есть предположение, что люди доверяют технологи, если она достигает тех целей, которые ожидают от нее производители, и в ходе этого достижения она не ломается. Ну то есть если беспилотный автомобиль исправно возит вас куда нужно в течение недели, то постепенно вы начнете ему доверять. Правда, людей также нервирует, что они не знают того, что происходит во время поездки. Поэтому нужно создать интерфейс, который будет сообщать время, погоду, а также отмечать сложные участки пути.

Как беспилотники прикончат идею экологичного города

Урбанисты, градостроители, архитекторы, транспортные инженеры часто настаивают на том, что города должны быть комфортными для жизни, зелеными, экологичными, экономичными и устойчивыми. Этой идеализированной картине, за которую вот уже десятки лет воюют городские эксперты, теперь может прийти конец.

Представьте, что будет с идеей экологичных, экономичных и удобных городов, когда на их улицах появятся легионы новых частных беспилотных автомобилей?

В документальном фильме «Магическое шоссе США», сделанном студией У. Диснея в 1958 году, показано, как новые длинные шоссе и беспилотные частные автомобили приведут к тому, что большинство людей будут жить за городом, в пригородах, и приезжать в города на работу или для отдыха. Соответственно, города разрастутся, транспортной инфраструктуры станет гораздо больше, а люди будут тратить в поездках больше времени и, естественно, сжигать больше топлива.

Когда автомобили крупных производителей начнут проникать на рынок (а скорость проникновения оценивается экспертами как очень высокая), то мы увидим очередной виток интереса к частному транспорту, люди начнут пользоваться автомобилями чаще и дольше (это ведь проще и эффективнее), и города начнут расползаться вширь, создавая более удаленные и разреженные пригороды за пределами мегаполисов. А это все скажется на увеличении потребления топлива, снижении пользования публичным транспортом, возрастанием пресса на транспортную инфраструктуру.

Известный исследователь технологий Ян Богост в своей статье «Как беспилотные машины изменят ощущение города» замечает, что важная особенность беспилотных автомобилей состоит в том, что они находятся рядом с нами. Проблемы доверия, культурных различий и вопросы изменения городов — все они связаны с идеей того, что беспилотные автомобили это не просто абстрактные автономные технологии, работающие на основании сложных алгоритмов. Это будут именно повседневные технологии, которые будут существовать с нами бок о бок. Потому наши привычки, наши ощущения города, наши культурные практики поведения придется делить с ними. Как сделать возможным комфортное со-существование нас как людей со своей культурой, психологической жизнью и своим представлением о городе и рациональных сложных, умных, удобных, но крайне опасных беспилотных автомобилей? Это вопросы, которые предстоит решить в ближайшие 5–10 лет.

И их решение, конечно, вряд ли будет отдаваться на откуп только автоиндустрии, которая создает автомобили, или IT-компаниям, которые делают софт, или даже государству, которое устанавливает политику в отношении технологий. Есть надежда, что все заинтересованные смогут принять участие в поиске ответов, поскольку это, как мы видим на примере аварии Uber, вопрос жизни и смерти, а также нашего понимания самих себя.