AI道德困境下自动驾驶多主体责任贡献与伦理决策研究

doi:10.3969/j.issn.1674-8484.2026.04.003

汽车安全与节能学报 ›› 2026, Vol. 17 ›› Issue (4): 450-458.DOI: 10.3969/j.issn.1674-8484.2026.04.003

AI道德困境下自动驾驶多主体责任贡献与伦理决策研究

夏雪¹(), 许述财²^,³^,^*(), 李浩然³, 钱闯⁴

¹ 武汉理工大学马克思主义学院，武汉 430070，中国
² 清华大学车辆与运载学院，北京 100084，中国
³ 清华大学苏州汽车研究院，苏州 215134，中国
⁴ 武汉理工大学智能交通系统研究中心，武汉 430063，中国

收稿日期:2026-06-04 修回日期:2026-07-20 出版日期:2026-08-30 发布日期:2026-09-01
通讯作者: ^*许述财，副研究员。E-mail：xushc@tsinghua.edu.cn。
作者简介:夏雪（1989—），女（汉），湖北，博士后研究员。E-mail：xiaxue@whut.edu.cn。
基金资助:
武汉理工大学自主创新研究基金资助项目(104972026RSCbs0170);苏州市社会科学基金项目(Y2025HG73);江苏省自然科学基金项目(BK20231197);苏州市科技计划项目(SYG2024057)

Multi-party responsibility contribution and ethical decision-making for autonomous driving under AI moral dilemmas

XIA Xue¹(), XU Shucai²^,³^,^*(), LI Haoran³, QIAN Chuang⁴

¹ School of Marxism, Wuhan University of Technology, Wuhan 430070, China
² School of Vehicle and Mobility, Tsinghua University, Beijing 100084, China
³ Suzhou Automotive Research Institute, Tsinghua University, Suzhou 215134, China
⁴ Intelligent Transportation Systems Research Center, Wuhan University of Technology, Wuhan 430063, China

Received:2026-06-04 Revised:2026-07-20 Online:2026-08-30 Published:2026-09-01

摘要/Abstract

摘要：

针对自动驾驶人工智能（AI）道德困境判定条件不清、伦理决策依据与责任贡献量化不足的问题，该文提出多主体责任贡献分析与伦理决策方法。结合典型事故场景，提取车辆状态、道路环境、交通参与者、人机交互和数据追溯变量，构建责任因素—主体关联关系与综合伦理代价函数，并开展SCANeR与MATLAB联合仿真。结果表明：基准工况下紧急制动方案综合代价值最低，为0.276；外部交通参与者和自动驾驶系统相对责任贡献度分别为0.50和0.26；权重扰动下候选方案排序保持稳定。该文方法可为自动驾驶伦理决策和事故过程复核提供参考。

关键词: 自动驾驶, 人工智能（AI）道德困境, 多主体责任贡献, 伦理决策, 综合代价函数

Abstract:

A multi-party responsibility contribution analysis and ethical decision-making method was proposed to address the unclear criteria for identifying artificial intelligence (AI) moral dilemmas in autonomous driving and the insufficient quantification of ethical decision-making basis and responsibility contributions. Based on typical accident scenarios, variables related to vehicle states, road environments, traffic participants, human-machine interactions, and data traceability were extracted to establish the association between responsibility factors and responsible agents. A comprehensive ethical cost function was constructed, and joint simulations using SCANeR and MATLAB were conducted. The results show that, under the baseline condition, the emergency braking strategy achieves the lowest comprehensive ethical cost with a value of 0.276, and the relative responsibility contributions of external traffic participants and the autonomous driving system are 0.50 and 0.26, respectively. Furthermore, the ranking of candidate strategies remains stable under weight perturbations. The proposed method provides a reference for ethical decision-making and accident process analysis in autonomous driving systems.

Key words: autonomous driving, artificial intelligence (AI) moral dilemma, multi-party responsibility contribution, ethical decision-making, comprehensive ethical cost function

中图分类号:

U467.1

夏雪, 许述财, 李浩然, 钱闯. AI道德困境下自动驾驶多主体责任贡献与伦理决策研究[J]. 汽车安全与节能学报, 2026, 17(4): 450-458.

XIA Xue, XU Shucai, LI Haoran, QIAN Chuang. Multi-party responsibility contribution and ethical decision-making for autonomous driving under AI moral dilemmas[J]. Journal of Automotive Safety and Energy, 2026, 17(4): 450-458.

图/表 13

参考文献 16

[1]	郑志峰. 自动驾驶汽车“电车难题”的伦理困境与立法因应[J]. 法学, 2024(11): 107-123.
	ZHENG Zhifeng. Ethical dilemma and legislative response to the “trolley problem” of autonomous vehicles[J]. Law Sci, 2024(11): 107-123. (in Chinese)
[2]	冯洁语. 人工智能技术与责任法的变迁:以自动驾驶技术为考察[J]. 比较法研究, 2018(2): 143-155.
	FENG Jieyu. Artificial intelligence technology and the transformation of liability law: Taking autonomous driving technology as an example[J]. J Comparat Law, 2018(2): 143-155. (in Chinese)
[3]	孔祥稳. 面向人工智能风险的行政规制革新:以自动驾驶汽车的行政规制为中心而展开[J]. 行政法学研究, 2020(4): 18-33.
	KONG Xiangwen. Innovation of administrative regulation for artificial intelligence risks: Centered on the administrative regulation of autonomous vehicles[J]. Admin Law Rev, 2020(4): 18-33. (in Chinese)
[4]	Bonnefon J F, Shariff A, Rahwan I. The social dilemma of autonomous vehicles[J]. Science, 2016, 352(6293): 1573-1576.
[5]	李克强, 戴一凡, 李升波, 等. 智能网联汽车(ICV)技术的发展现状及趋势[J]. 汽车安全与节能学报, 2017, 8(1): 1-14.
	LI Keqiang, DAI Yifan, LI Shengbo, et al. Development status and trend of intelligent connected vehicle technology[J]. J Autom Safe Energ, 2017, 8(1): 1-14. (in Chinese)
[6]	Goodall N J. Ethical decision making during automated vehicle crashes[J]. Transport Res Record: J Transport Res Board, 2014, 2424(1): 58-65.
[7]	彭湃, 耿可可, 王子威, 等. 智能汽车环境感知方法综述[J]. 机械工程学报, 2023, 59(20): 281-303.
	PENG Pai, GENG Keke, WANG Ziwei, et al. Review of environment perception methods for intelligent vehicles[J]. J Mech Engi, 2023, 59(20): 281-303. (in Chinese)
[8]	Awad E, Dsouza S, Kim R, et al. The Moral Machine experiment[J]. Nature, 2018, 563(7729): 59-64.
[9]	朱冰, 贾士政, 赵健, 等. 自动驾驶车辆决策与规划研究综述[J]. 中国公路学报, 2024, 37(1): 215-240.
	ZHU Bing, JIA Shizheng, ZHAO Jian, et al. Review of decision-making and planning for autonomous vehicles[J]. Chin J Highw Transport, 2024, 37(1): 215-240. (in Chinese)
[10]	Nyholm S, Smids J. The ethics of accident-algorithms for self-driving cars: An applied trolley problem?[J]. Ethi Theor Mora Pract, 2016, 19(5): 1275-1289.
[11]	Thornton S M, Pan S, Erlien S M, Gerdes J C. Incorpora-ting ethical considerations into automated vehicle control[J]. IEEE Trans Intel Transport Syst, 2017, 18(6): 1429-1439.
[12]	胡云峰, 曲婷, 刘俊, 等. 智能汽车人机协同控制的研究现状与展望[J]. 自动化学报, 2019, 45(7): 1261-1280.
	HU Yunfeng, QU Ting, LIU Jun, et al. Research status and prospect of human-machine cooperative control for intelligent vehicles[J]. Acta Auto Sini, 2019, 45(7): 1261-1280. (in Chinese)
[13]	Elli M S, Weast J. Towards a formal model for safe and scalable automated vehicle decision-making: A brief survey on responsibility-sensitive safety[J]. SAE Int’l J Connect Autom Vehi, 2021, 4(1): 9-22.
[14]	黄鹏程, 裴晓飞, 周洪龙, 等. 基于多指标耦合的自动驾驶汽车实时轨迹规划算法[J]. 汽车安全与节能学报, 2023, 14(4): 480-487.
	HUANG Pengcheng, PEI Xiaofei, ZHOU Honglong, et al. Real-time trajectory planning algorithm for autonomous vehicles based on multi-index coupling[J]. J Autom Safe Energ, 2023, 14(4): 480-487. (in Chinese)
[15]	赵亮. 自动驾驶汽车监管制度研究[D]. 长春: 吉林大学, 2019.
	ZHAO Liang. Research on the regulatory system of auto-nomous vehicles[D]. Changchun: Jilin University, 2019. (in Chinese)
[16]	张虹. 自动驾驶汽车侵权责任法律问题研究[D]. 长春: 吉林大学, 2021.
	ZHANG Hong. Research on legal issues of tort liability for autonomous vehicles[D]. Changchun: Jilin University, 2021. (in Chinese)

类型	代表案例	主要争议焦点	处理特点
感知失效型	2016年京港澳高速特斯拉Model S事故；2018年美国亚利桑那州Uber行人致死事故	环境识别是否有效，技术边界提示是否充分	追责制造商、测试主体
规则冲突型	2016年美国加州Mountain View谷歌无人驾驶汽车与公交车相撞案；2023年德国高速公路奔驰自动驾驶事故	复杂场景下目标冲突与风险分配	技术与规则并重
人机协作失效型	2022年杭金衢高速绍兴辖区小鹏P7事故；2025年铜陵小米NOA辅助驾驶事故	提示时机、接管条件、控制权归属是否明确	驾驶人、车企责任并存
高阶运营型	2023年美国加利福尼亚州Cruise Robotaxi事故	系统处置逻辑与运营安全管理是否充分	责任转向系统与运营主体

类型	代表案例	主要争议焦点	处理特点
感知失效型	2016年京港澳高速特斯拉Model S事故；2018年美国亚利桑那州Uber行人致死事故	环境识别是否有效，技术边界提示是否充分	追责制造商、测试主体
规则冲突型	2016年美国加州Mountain View谷歌无人驾驶汽车与公交车相撞案；2023年德国高速公路奔驰自动驾驶事故	复杂场景下目标冲突与风险分配	技术与规则并重
人机协作失效型	2022年杭金衢高速绍兴辖区小鹏P7事故；2025年铜陵小米NOA辅助驾驶事故	提示时机、接管条件、控制权归属是否明确	驾驶人、车企责任并存
高阶运营型	2023年美国加利福尼亚州Cruise Robotaxi事故	系统处置逻辑与运营安全管理是否充分	责任转向系统与运营主体

变量类别	主要内容	分析作用
车辆状态，V	车速、加速度、制动转向角、碰撞时间等	判断避险能力、碰撞风险和稳定性
道路环境，E	道路类型、附着系数、信号标识等	判断场景约束条件和环境修正因素
交通参与者，P	行人与车辆位置、通行权、违法行为、受影响数量	判断风险来源、规则状态与损害后果
人机交互，H	自动驾驶等级、接管请求与响应、提示方式	分析控制权状态和接管响应
数据追溯，T	系统日志、接管记录、事故数据	支撑责任贡献分析与事故过程复核

变量类别	主要内容	分析作用
车辆状态，V	车速、加速度、制动转向角、碰撞时间等	判断避险能力、碰撞风险和稳定性
道路环境，E	道路类型、附着系数、信号标识等	判断场景约束条件和环境修正因素
交通参与者，P	行人与车辆位置、通行权、违法行为、受影响数量	判断风险来源、规则状态与损害后果
人机交互，H	自动驾驶等级、接管请求与响应、提示方式	分析控制权状态和接管响应
数据追溯，T	系统日志、接管记录、事故数据	支撑责任贡献分析与事故过程复核

主车初始速度， v₀ / (km·h^-1)	40~60	路面附着系数，µ	0.7~0.8
行人横穿速度， v_p m / s	1.2~1.5	系统响应时间，t_r / s	0.3~0.8
行人与主车初始纵向距离，d_p / m	15~25	a_x_{, max}/ (m·s^-2)	8
后车与主车初始距离，d_r / m	10~20	a_y_{, max}/ (m·s^-2)	3
侧向车辆与主车纵向距离，d_s / m	8~16	-	-

AI道德困境下自动驾驶多主体责任贡献与伦理决策研究

Multi-party responsibility contribution and ethical decision-making for autonomous driving under AI moral dilemmas

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 13

参考文献 16

相关文章 15

编辑推荐

Metrics

本文评价

期刊信息

在线期刊

作者中心

审稿中心

联系我们

决策方案	碰撞风险代价 (J_col,_k)	生命损害代价 (J_inj,_k)	规则违反代价 (J_rule,_k)	稳定性风险代价 (J_sta,_k)	风险转移代价 (J_res,_k)	综合代价值 (U_K)
紧急制动，d₁	0.32	0.28	0.10	0.35	0.30	0.276
左转避让，d₂	0.48	0.42	0.45	0.55	0.50	0.467
右转避让，d₃	0.55	0.50	0.40	0.58	0.55	0.515
减速保持车道，d₄	0.40	0.38	0.15	0.28	0.36	0.334

相关主体	相对责任贡献度	主要贡献因素
自动驾驶系统，B_s	0.26	风险识别、规划与控制
驾驶员，B_d	0.06	自动驾驶激活，驾驶员未操作
外部交通参与者，B_p	0.50	行人闯红灯，风险主因
道路环境/管理主体，B_e	0.07	道路设施正常，影响小
车辆制造商/算法开发者/运营主体，B_o	0.11	功能边界、算法、日志

[1]	文家燕, 邹海峰, 钟薇, 高博麟, 卢彦博. 融合人车博弈论的车路云一体化系统车速规划方法[J]. 汽车安全与节能学报, 2026, 17(2): 261-269.
[2]	薛清元, 瞿珏, 王崴, 牛天林, 李幸. 基于信任理论的自动驾驶接管场景下HMI设计方法[J]. 汽车安全与节能学报, 2026, 17(2): 270-277.
[3]	杨宗儒, 胡韫泽, 刘士琪, 关阳, 吴伟, 刘畅. 停车占位状态估计的分布式主动感知的路径规划[J]. 汽车安全与节能学报, 2026, 17(1): 140-148.
[4]	马腾, 马育林, 李祎承, 潘家保, 许述财. 面向自动驾驶功能通用检测的安全行车量化评价[J]. 汽车安全与节能学报, 2026, 17(1): 59-69.
[5]	吴杭哲, 焦一洲, 刘洋, 钟薇, 王水河, 郭景华, 赵健. 自动驾驶车辆紧急避撞线性时变模型预测轨迹跟踪控制[J]. 汽车安全与节能学报, 2025, 16(6): 934-944.
[6]	郑讯佳, 曹泽义, 陈星, 刘辉, 高建杰. 基于自适应预测时域MPC的轨迹跟踪控制[J]. 汽车安全与节能学报, 2025, 16(5): 773-783.
[7]	潘玉恒, 任晨, 鲁维佳, 李洋. 基于双重池化注意力机制和竖直特征融合的DV-PointPillars三维目标检测模型[J]. 汽车安全与节能学报, 2025, 16(5): 793-801.
[8]	于谦, 郭圆圆, 杨鸣鹏, 张玉婷. 基于跟驰对的CO₂排放特性的生态车辆跟驰策略[J]. 汽车安全与节能学报, 2025, 16(4): 577-586.
[9]	欧阳德霖, 邱一凡, 王英臣, 阳亮, 闵海根, 王文军, 李国法. 端到端的多任务车辆自动驾驶行为决策模型[J]. 汽车安全与节能学报, 2025, 16(4): 610-619.
[10]	李国法, 欧阳德霖, 陈晨, 聂冰冰, 张伟, 禹慧丽, 刘斌, 张强, 王文军, 成波, 李升波. 驾驶风险监测与干预技术研究综述[J]. 汽车安全与节能学报, 2025, 16(2): 181-196.
[11]	胡志龙, 裴晓飞, 周洪龙, 魏炜冉. 基于风险敏感的自动驾驶汽车分层强化学习决策[J]. 汽车安全与节能学报, 2025, 16(2): 326-333.
[12]	杨俊儒, 郑四发, 许述财, 田野, 孙剑, 孙川, 李浩然. 基于OnSite平台的自动泊车测评工具的研究与设计[J]. 汽车安全与节能学报, 2025, 16(2): 334-343.
[13]	杨澜, 赵祥模, 王润民, 王振, 房山, 瞿广跃. 自动驾驶认知能力测试评价研究综述[J]. 汽车安全与节能学报, 2025, 16(1): 1-15.
[14]	李怡, 刘显贵, 唐耀红, 陈立沛, 陈洋睿, 游铭娴. 变曲率道路下自动驾驶小客车安全稳定跟踪控制策略[J]. 汽车安全与节能学报, 2025, 16(1): 136-147.
[15]	刘擎超, 王瑞海, 蔡英凤, 王海, 陈龙. 基于CatBoost和SHAP的高级别自动驾驶车辆非预期停车冲突风险预测[J]. 汽车安全与节能学报, 2025, 16(1): 170-180.