每天听简报,了解最新科技、AI、软件资讯
一位开发者证明,不用任何神经网络和训练参数,光靠电脑自带的gzip压缩程序也能生成文本续写。他给gzip喂一段莎士比亚语料打底,输出的续写虽不完全通顺,却带着莎士比亚的腔调。原理是压缩和预测本质相同:内容越符合压缩器的预期,所需字节就越少,所以每个压缩器里都藏着一个概率模型。他把压缩后的字节数当打分依据,配合集束搜索往前多看几步再落子,生成质量明显更好。评论区有人调侃,这倒印证了压缩软件比OpenAI还赚钱那个梗。也有人反驳,gzip没有注意力机制,只能死记一种叙事套路,处理不了大模型面对的海量场景,压缩和智能之间未必能划等号。
进度保存在本设备 · 登录同步