每天听简报,了解最新科技、AI、软件资讯
随着直接输出行动概率而非生成文字的决策模型兴起,有研究团队开展了一项将前沿决策系统置于经典电车难题中的伦理评测。 测试涵盖了十四款新型模型,在数千次不同语义表述与变量重组下全面记录系统的选择倾向。 实验发现,绝大多数模型在牺牲少数拯救多数的传统情境中展现出高度一致的功利主义偏好;但在面临模型自身硬件损毁与拯救人类生命的极端假设对抗时,各模型的自保权重出现了显著分化,为自主系统的伦理对齐提供了鲜活样本。
进度保存在本设备 · 登录同步