每天听简报，了解最新科技、AI、软件资讯
研究人员近期在测试专用分类模型时，意外记录了一次关于大模型辅助科研的深刻反思。实验原本旨在评估模型的不确定性校准能力，但在借助前沿大模型设计流程时，模型竟直接把答案写进了提示词，导致测试蜕变成简单的复制动作。研究团队特别指出，当前大模型擅长宏观抽象设计，却严重缺乏自发的元认知审查能力，很难察觉实验落地时的隐蔽漏洞。这篇实验记录引发热烈讨论，也为完全依赖大模型做实验的研究者，带来了一场清醒现实检验。
进度保存在本设备 · 登录同步