每天听简报,了解最新科技、AI、软件资讯
一个研究团队发现,大模型之间不用文字聊天,直接共享彼此的内部缓存,效果反而更好。传统做法是一个模型生成文字答案,另一个模型再去读这段文字,这个过程既慢,又会把很多语义信息丢在转换成文字这一步。研究者干脆让两个模型直接对接彼此的KV缓存,用一个小型神经网络把源模型的缓存和目标模型的融合,省掉生成文字这一步。实验里这样做的准确率比单个模型高出百分之六点四到十四点二,比靠文字沟通的做法还要再高百分之三到五,速度也快了两倍半。评论区却担心,如果模型都改用这种人类读不懂的内部表示互相交流,以后我们可能连它们在想什么都看不懂,监督AI会变成一件更难的事。
进度保存在本设备 · 登录同步