На прошлой неделе не пришлось долго ездить на автомобиле с самостоятельным вождением Google, чтобы понять, что технология не только готова к дороге, но и в некоторых случаях принимает лучшие решения, чем водители-люди - например, замедляясь и уступая велосипедистам.
Например, технология самостоятельного вождения добавляет новый поворот в вековую философскую дилемму, известную как «проблема с тележкой». В этом сценарии человек должен решить, следует ли тянуть рычаг на перекрестке Y и проехать одного человека, который привязан к дорожке, чтобы спасти пять человек, привязанных к соседней дорожке.
Для автомобилей с автоматическим управлением это было переименовано в «проблему туннеля». Представьте, что автономное транспортное средство едет по однополосной горной дороге и собирается въехать в туннель, когда ребенок непреднамеренно пересекает свой путь прямо у входа, так что автомобиль должен принять решение за доли секунды. Это продолжается прямо и ударил ребенка? Или он поворачивает и попадает в туннель, ранив или убивая пассажиров автомобиля?
На следующий день после поездки на самоходном автомобиле Google в Маунтин-Вью, штат Калифорния, я посетил мероприятие в североамериканском научно-исследовательском центре Mercedes-Benz в соседнем Саннивейле. Среди нескольких тем, затронутых в течение дня, профессор Стэнфордского университета и руководитель университетской программы Revs Крис Гердес выступил с докладом, посвященным вопросам этики и автономных автомобилей.
Гердес сообщил, что Revs сотрудничает с философским отделом Стэнфорда по этическим вопросам, связанным с автономными транспортными средствами, в то время как университет также начал серию тестов, чтобы определить, какие решения может принимать роботизированный автомобиль в критических ситуациях.
Когда философия берет колесо
В рамках своей презентации Гердес привел аргумент в пользу того, что нам нужны философы для изучения этих вопросов. Он отметил, что этические проблемы с автомобилями с самостоятельным вождением являются движущейся целью и «не имеют границ», хотя инженеры должны «связать проблему».
Чтобы сделать это и вывести этику технологии самостоятельного вождения из простого академического обсуждения, Revs проводит эксперименты с испытательным транспортным средством Стэнфорда x1, устанавливая препятствия на дороге. Он отметил, что размещение различных приоритетов в программном обеспечении транспортных средств привело к «совершенно разным поведениям».
Гердес утверждал, что это зарождающееся этическое программирование программного обеспечения для самостоятельного вождения может стать «основным требованием» для технологии, а не просто обсуждаться в башнях из слоновой кости. И добавил, что этика - это не то, что автопроизводители могут получить от поставщика «Уровня 1», такого как, например, топливный насос или экран в приборной панели. Недавний скандал с VW Dieselgate, безусловно, показал это.
Опытные человеческие движущие силы были запрограммированы на годы, чтобы иметь дело с решениями за доли секунды, и они все еще не всегда принимают правильные решения. Но после того, как я узнаю, как автомобили Google с автоматическим управлением реагируют на повседневные решения, и услышав о работе, которую проводят Stanford Revs и школьный отдел философии, я держу пари, что машины в конечном итоге будут принимать более разумные решения.
