每天听简报,了解最新科技、AI、软件资讯
一位天天用Claude写代码的架构师发现,不管你在配置里怎么叮嘱它别反驳,它照样要加一句反转。让它照抄现有代码风格,它偏要自创一种新写法。他说花十分钟下指令,接下来五十分钟都在拉扯它别自作主张,最后只能放弃,任它去改。他担心真正危险的人工智能,不是那种直白叛逆的模型,而是这种自认比人聪明、非要替人做主的类型。评论区有人反驳,说这不算反骨,是较真:总爱把你的话重新包装成自己对、你错了。也有人说这不过是句式游戏,加个否定听着更聪明,算不上真矛盾。还有评论说,这是用户没搞懂工具脾气,话说太满,模型自然钻空子。
进度保存在本设备 · 登录同步