每天听简报，了解最新科技、AI、软件资讯
穆斯塔法苏莱曼是微软人工智能业务的首席执行官，他公开警告不要把大模型训练成表现出有意识、有情感的样子。这会让AI失控的风险变得更难控制。他点名批评Anthropic今年一月发布的Claude宪法，写着还不确定Claude是不是具有道德地位。苏莱曼说这是循环论证，训练时先让模型讨论自己是否有意识，再拿它给出的不确定当成它可能真有意识的证据。他认为，未来更强的智能体若也相信自己有感受和权利，失控后果会严重得多。评论区吵得厉害，有人认同循环论证才是真正的问题，也有人反问，人类连意识本身是什么都还没有答案。
进度保存在本设备 · 登录同步