Не слишком ли сильно мы доверяем беспилотным машинам?

Reading Time: 4 minutes

Почти сразу же, как только появились новости об аварии со смертельным исходом, в которой участвовал автомобиль Tesla с включенным автопилотом, фанаты и критики производителя электромобилей установили причины трагедии. Поклонники и инвесторы Tesla не сомневались в том, что система повышает уровень безопасности, а значит, это водитель по какой-то причине проигнорировал предупреждения машины и отвлекся от ситуации на дороге. Критики же были уверены, что система автопилота по какой-то причине не смогла защитить водителя, в результате чего машина въехала в грузовик на скорости 119 км/ч.

Прошло больше года, и наконец у нас есть ответ на вопрос, что стало причиной аварии. На этой неделе Национальный совет безопасности на транспорте США (NTSB) представил окончательные результаты расследования. Но выводы экспертов вряд ли обрадуют какую-то из сторон. Вина лежит не на одном только водителе и не на одной только системе автопилота. Все указывает на то, что причиной смертельного ДТП стали и действия водителя, и действия автопилота, а точнее – сложные взаимоотношения между ними.

В последнее время наметилась опасная тенденция. На кону миллиарды долларов в сумасшедшей гонке за разработку технологии самоуправляемого автомобиля. При этом есть огромный соблазн для автопроизводителей создать впечатление, что транспортные средства, которые они предлагают купить, – «автономные». Но, как очень четко обозначил NTSB, ни одно транспортное средство, представленное на рынке, не может обеспечить безопасное автономное вождение. Поэтому, когда потребители принимают хайп вокруг высоких технологий за чистую монету, увеличивается риск смертельного исхода из-за пропасти между фантазией и реальностью.

В течение многих месяцев СМИ посвящали Tesla хвалебные оды. Рыночная капитализация компании увеличилась на миллиарды долларов. И все благодаря позиционированию собственной системы автопилота как самой автономной на рынке по сравнению с продвинутыми системами помощи водителю. Хотя даже тогда компания напоминала водителям о том, что они должны быть внимательными и должны контролировать ситуацию на протяжении всей поездки. Да, показатели автопилота были лучше, чем у продвинутых систем помощи водителю. Но ключ к успеху заключался в том, что Tesla наложила очень мало ограничений на его использование.

Поскольку автопилот разрешает водителям ездить где угодно без рук на руле (даже на таких дорогах, про которые Tesla предупреждала, что это небезопасно), компания смогла заработать на восприятии своей системы как самой автономной. На самом деле автопилот был создан для вождения на хайвэях, с хорошей разметкой, без поперечного движения транспорта. Так что в тот злополучный день, когда грузовик с прицепом выехал перпендикулярно хайвэю и автомобиль Tesla врезался прямо в него, и ничто не привело в действие его системы безопасности, автопилот работал ровно так, как и был задуман.

Проблема заключалась в том, что самоуправляемая машина ехала по дороге с такими условиями, с которыми и не предполагалось, что она должна уметь справляться. Водитель же был слишком расслаблен. Автопилот был действительно настолько хорошо, что это убедило водителя в том, что система более совершенна, чем была на самом деле. Эта ошибка, в которой свою роль сыграл и водитель, и машина, – важное предупреждение насчет самоуправляемых технологий.

До тех пора пока системы не станут настолько хороши, что не будет требоваться человеческого участия, человек-водитель должен оставаться в центре «полуавтономного» вождения. Инженеры должны принять как данность: если теоретически можно совершить ошибку и неправильно использовать систему автопилота, человек совершит эту ошибку. Не менее важно, чтобы и компании задумались вот о чем. Если они слишком агрессивно продвигают возможности полуавтономных систем вождения – в надежде вырваться вперед в гонке за автономность – они рискуют сделать технологию еще менее безопасной, чем даже сам человек- водитель.

Хороший урок дала авиация. В 1980-х гг., по мере того как совершенствовались компьютеры и датчики, авиастроительные компании начали все больше и больше автоматизировать системы контроля, просто потому что могли. Только позднее отрасль осознала, что увеличение автоматизации ради автоматизации на самом деле делала воздушное судно менее безопасным. Поэтому отрасль начала развивать автопилот в другом направлении – автоматизация, в центре которой находится человек. Только в случае, когда автоматизация используется для улучшения работы пилота, безопасность действительно растет.

Автомобили используются гораздо в большем количестве, чем самолеты, и их водят люди гораздо менее подготовленные. Авиастроительные компании объединяют усилия, для того чтобы повысить безопасность во всей отрасли. В отличие от них автопроизводители и технологические стартапы ожесточенно соревнуются за реальное или иллюзорное лидерство в гонке за автономию. До тех пор, пока потребители больше заботятся о клевых футуристических операциях – вроде вождения без рук – чем о том, чтобы более безопасно водить с помощью новых технологий, сохраняется разрыв. Разрыв между представлениями и реальностью, насколько безопасны самоуправляемые автомобили. Будет обидно, если эта технология, которая в будущем потенциально может спасать десятки тысяч жизней ежегодно, в реальности сделает машины менее безопасными в краткосрочной перспективе.