Являются ли испытания автономных транспортных средств общественной опасностью? | Дуг Ньюкомб

На заре Интернета кто-нибудь мог ожидать троллинга и киберзапугивания - и что будущий ПОТУС будет взаимодействовать с нацией в 140 символов в то время? Может быть трудно предвидеть недостатки революционных новых технологий.

Среди потенциальных недостатков автономных транспортных средств, включая массовую потерю рабочих мест среди коммерческих водителей и, возможно, даже больший трафик от робота-такси, есть так называемая «проблема с тележками». Это относится к этическим решениям, которые придется принимать автомобилю с самостоятельным вождением, когда он сталкивается с безвыходными ситуациями, например, сталкиваться ли с человеком, который бросается на его пути на узкой многолюдной городской улице, или поворачивать в любую сторону и пахать пешеходами. на тротуаре.

Хотя профессор философии Калифорнийского политехнического государственного университета Патрик Лин проводит реальные испытания этой дилеммы совместно с Центром автомобильных исследований в Стэнфорде, он признает, что «что-то нечестно в отношении моральной паники из-за самостоятельного вождения автомобилей» и проблемы с троллейбусом, поскольку сценарий настолько надуманен. Но, как отмечает Лин, в отличие от других технологий, испытания автономного транспортного средства на дорогах общего пользования может иметь непосредственное негативное влияние на общество.

Это становится сложным

Лин утверждает, что, хотя разработчики технологий обычно проводят бета-тестирование новых продуктов и функций с небольшими ограничениями и законами, «это усложняется, когда их программное обеспечение напрямую взаимодействует с большим физическим миром» - в этом случае при управлении многотонной машиной в общественных местах. Лин утверждает, что в случае автономного тестирования транспортных средств на дорогах общего пользования «продукты не просто напрямую влияют на пользователей, как в случае с большинством других гаджетов и услуг».

В качестве примера Лин указывает на краудсорсинговое навигационное приложение Waze. Это «вызывает жалобы на« стадное »поведение: множество автомобилей, отправляемых по его алгоритмам через тихие районы, не предназначенные для интенсивного движения», - говорит он.

Это «может повысить риск для детей, играющих на этих улицах, снизить стоимость недвижимости, если дорожный шум будет громче, и создать другие внешние эффекты. Это означает, что навигационные приложения принимают решения о риске, о которых пользователи могут не знать, но, возможно, так и должно быть».

Точно так же автомобили с самостоятельным вождением "должны будут самостоятельно выбирать свои маршруты… и часто не существует только одного правильного пути", добавляет Лин. Но он считает, что более серьезная проблема заключается в определении того, кто будет нести ответственность за негативное влияние на трафик или общественную безопасность, которое вызывают навигационные приложения, такие как Waze, а также за счет расширения испытаний автомобилей на дорогах общего пользования.

«Это трагедия общего достояния: никто не стоит на месте водителя о том, как алгоритмы навигации должны быть согласованы с обществом», - говорит он. «Поэтому, если это отрицательно сказывается на дорожном движении или общественной безопасности, трудно определить ответственность за эти последствия».

Вопрос о том, кто будет нести ответственность за автокатастрофу - автопроизводитель, разработчик программного обеспечения, датчик или производитель карт - является одной из проблем, сдерживающих широкое распространение технологии, хотя решения находятся в стадии разработки. Учитывая, что тесты на вождение автомобиля уже проводятся на дорогах общего пользования, Лин считает, что то, что он называет «исследованиями на людях», возможно, должно быть предварительно одобрено советом по этике.

Города начали реагировать, определяя дороги как зоны «без пробок», доступные только жителям, и требуя, чтобы Waze определял их как запрещенные для проезжающих автомобилистов. Некоторые сердитые и предприимчивые жители даже собираются воровать и взламывать навигационные приложения, такие как Waze, с призрачными крушениями, чтобы отвлечь трафик от их окрестностей.

Лин подчеркивает, что его цель состоит не в том, чтобы «создать аргумент против технологии, а лишь в том, чтобы серьезно задуматься о ее растущей силе и последствиях, когда тестовые случаи проходят через суды и общественное мнение» - и как более самостоятельные автомобили выйти на дороги общего пользования.