Беспилотные автомобили ещё не стали привычной частью нашей повседневной жизни, но они уже широко обсуждаются в разных аспектах. В прошлой публикации речь шла о разнообразных барьерах в ходе разработки – технологических, социальных, экономических, регуляторных, моральных. В этом посте я остановлюсь подробнее на моральных или этических вопросах, которые неразрывно сопровождают разработку беспилотных автомобилей. Но что такое этические вопросы, что к ним относится? Я сознательно не провожу различий между моральными, нравственными или этическими вопросами на данном этапе, поскольку этот дискурс ещё не сформировался, и здесь смешиваются все разнообразные неопределённости о будущем инноваций. И говорить я буду о трёх лицах этики беспилотных автомобилей, которые сейчас доминируют в русскоязычном дискурсе: «моральная машина», регуляторная политика и ответственная разработка.
«Моральная машина»
Первое, что приходит в голову, когда речь идёт об этике беспилотных автомобилей, – это известный (и уже порядком надоевший) тест «Моральная машина». В 2015 году его создала междисциплинарная команда специалистов в лаборатории на базе MIT – Массачусетского технологического института. Разработчики теста поставили перед собой, казалось бы, очевидную задачу – узнать, как вели бы себя люди в тех или иных критических ситуациях на дорогах. В основе теста лежит классическая дилемма вагонетки, у которой нет правильного решения, но есть множество интерпретаций и проблем. Главная же проблема такого подхода к кодированию морали – это сам подход. Кто «важнее» – собаки или кошки, беременные женщины или пожилые люди, пять человек с неопределённой внешностью или два доктора... Подобная постановка вопроса заставляет сегрегировать людей (и животных) по разным основаниям, оценивать их жизни по неопределённым критериям, принимать заведомо плохие решения.
Неизбежный эффект этого тестирования – постоянные обсуждения, которые не приводят к конструктивным результатам, потому что базовый посыл глубоко ошибочен и не имеет решения. «Моральная машина» делает огромный вклад в укрепление алармизма в виде тревожного восприятия беспилотного автомобиля как неизбежной угрозы. Именно эта эмоциональная реакция в первую очередь подхватывается в медиа и множит «опасный» и неэтичный образ технологии.
Но есть и обратная сторона такого негативного подхода к решению этических вопросов. Во-первых, создатели этого теста в 2018 году опубликовали в Nature результаты его прохождения, где показали, что нет единых универсальных ответов, правильных и неправильных мнений, а взгляды на критические ситуации и оценки «важности» будут разнообразны и будут зависеть не только от культурных характеристик, но и от индивидуальных особенностей. Во-вторых, тему морали и этики беспилотных автомобилей стали обсуждать на всех уровнях и во всех странах, где ведётся их разработка, и это несомненный плюс. Поэтому такое лицо этики, как «Моральная машина», делает вклад в постановку и обсуждение этой проблематики.
Регуляторная политика
Степень влияния регуляторов на этику разработки сложно переоценить. Речь идёт не только о национальной политике или международных конвенциях, которые бы предлагали законы в отношении разработки беспилотных автомобилей, но и о регулировании в сфере создания алгоритмов, искусственного интеллекта и других технологий, направленных на работу с данными. Правовая база разработки инноваций ещё не сформировалась, даже в отношении, казалось бы, привычных технологий. Однако есть попытки зафиксировать ключевые права и правила.
Базовым ориентиром в регулировании беспилотных автомобилей остаются правила дорожного движения (ПДД), на которые опираются и юристы, и разработчики. В основе этой позиции лежит безопасность как ключевая цель и ценность. По этой логике беспилотный автомобиль должен в первую очередь подчиняться ПДД, которые и являются гарантом безопасности. Однако любой опытный водитель подтвердит, что сколь бы логичными и правильными ни казался свод правил поведения на дорогах, все участники движения регулярно сталкиваются со сложными ситуациями, решение которых может и противоречить ПДД. Например, может понадобиться выезд на встречную полосу, чтобы объехать препятствие; неработающие светофоры заменяются коммуникацией водителей в отсутствие регулировщика; в концк концов, могут возникать внезапные ситуации со стороны нарушителей правил или неполадки, которые требуют моментальной реакции со стороны всех участников движения. Иными словами, как доказывают исследователи-антропологи, реальные взаимодействия на дорогах не исчерпываются простым следованием ПДД. Слепая вера в них как в гарант безопасности кажется поэтому едва ли обоснованной.
Но есть и другой подход к созданию нормативной базы для беспилотных автомобилей – это пересмотр действующих правил, которые ориентированы в первую очередь на персональную ответственность участников. В этом направлении работает, например, Еврокомиссия, которая предлагает рамочные рекомендации для регулирования автономных транспортных систем. И уже в 2017 году попытку создания этических рекомендаций в отношении разработки беспилотных автомобилей предпринимал Этический комитет в области автономного движения в Германии. Общая идея таких инициатив также заключается в том, чтобы обеспечить безопасность на дорогах, но не путём утверждения незыблемости ПДД. В основе лежит идея о создании экспериментальных правовых режимов, где первичной оказывается этичность разработки (в частности, алгоритмов как части беспилотных автомобилей), поиск баланса между безопасностью и приватностью, между жёсткими правилами и сложившимися культурными практиками. Подобные регуляторные инициативы также вызывают публичный отклик и вносят вклад в обсуждение этических проблем развития беспилотной отрасли в целом.
Ответственная разработка
Разработчики неизбежно участвуют в дискуссиях о том, нужно ли решать этические вопросы на этапе разработки автомобилей. И если да, то как именно их решать и на что при этом опираться. И здесь пока наблюдаются два сценария: мягкий и альтернативный.
Мягким сценарием я называю тот, который предполагает следование правилам реального поведения и устоявшимся практикам, только если они не противоречат жёстким правовым режимам. Идея в том, чтобы на начальных этапах тестирования не делать беспилотный автомобиль настолько самостоятельным, чтобы он мог принимать решения в критических ситуациях. Алгоритмы требуют достаточного количества данных и обучения, чтобы в дальнейшем иметь возможность действовать в нештатных ситуациях, а до тех пор ответственность будет оставаться на разработчиках и страховочном водителе. Следуя этому сценарию, автомобиль должен просто остановиться в критической ситуации. Иными словами, социализация беспилотных автомобилей должна происходить постепенно.
Альтернативный сценарий означает иные подходы к разработке беспилотного транспорта. Например, автономные шаттлы не предполагают участия в интенсивном дорожном движении, а лишь воспроизводят тот же маршрут на полигонных участках или с помощью выделенных линий. Такой сценарий предполагает дополнительную инфраструктуру для его реализации, а не только оснащения самого автомобиля. И при этом разработчики готовы брать на себя ответственность за безопасность своей технологии в ограниченных условиях.
А что в России?
В России можно увидеть все три лица этики в контексте беспилотных автомобилей, но с занятным распределением. За «моральность машины», как кажется, отвечают медиа с их способностью удерживать внимание на острых, дискуссионных и эмоциональных историях. Регуляторная история обсуждается на официальных заседаниях профильных комитетов, например Национальной технологической инициативы, а также озвучивается руководителями компаний, имеющих отношение к разработке. Речь идёт не об официальных позициях, а скорее о мнениях, на которые ориентируются другие участники. Третье же лицо представлено в интервью с разработчиками, хотя реальная практика конструирования этих решений пока не видна. Это будет задачей дальнейшего изучения этических аспектов беспилотных автомобилей в рамках исследовательского проекта РНФ № 20-78-10106 «Беспилотные автомобили и общество: взаимодействие технологий, социоэкономических сценариев и регулирования в радикальной инновации».
Иллюстрация: Елены Рюминой
