换一批当AI"具有"人格:善恶人格角色对大语言模型道德判断的影响
When AI"possesses"personality:Roles of good and evil personalities influence moral judgment in large language models
摘要在科技与道德的交汇点,大语言模型是否具有扮演善恶人格的能力,以及这一能力是否会影响其在道德判断任务中的表现至关重要.研究聚焦大语言模型在模拟不同善恶人格时的道德判断特征及其与人类模式的异同.通过2个研究,对ERNIE 4.0和GPT-4大语言模型观测值(N=4832)及人类被试数据(N=370)分析发现:(1)大语言模型能成功模拟不同水平的善恶人格;(2)善恶人格设定显著影响大语言模型的道德判断结果;(3)善恶人格在人机一致中展现差序性:善人格发挥着更重要的作用(善恶人格间差序),且其中尽责诚信的影响力最大(善恶人格内差序).研究建构了道德判断下大语言模型善恶人格的理论模型,有助于理解大语言模型人格如何在道德判断中发挥作用,为推动人工智能系统的道德对齐提供了理论基础和支持.
更多相关知识
关键词
大语言模型善恶人格道德判断人机一致人格差序Large Language Modelsgood and evil personalitiesmoral judgmenthuman-AI consistencypersonality hierarchy
分类号
B848
栏目名称
DOI
10.3724/SP.J.1041.2025.0929
发布时间
2025-06-13（万方平台首次上网日期，不代表论文的发表时间）
基金项目
- 浏览8
- 被引5
- 下载3
相似文献
- 中文期刊
- 外文期刊
- 学位论文
- 会议论文
