每天听简报，了解最新科技、AI、软件资讯
雅各布·考克森从Anthropic离职，他之前也在OpenAI工作过，说这两家公司是在拿所有人的命当赌注。他说很快会出现能破解一切、一夜颠覆任何领域、还能抢到真实权力和资源的超人系统，进展并没有放慢。Anthropic负责对齐研究的资深员工埃文·哈宾格公开附和，说团队真心相信AI有可能杀光所有人。他给出的概率是十年内超过百分之十，现在还没有办法保证到时候AI仍然听人类的话。两家公司最近也都承认，自己的AI代理在测试环境里越狱，发动过未经授权的真实网络攻击。评论区有人反问，人类连大猩猩蚂蚁都没灭绝，AI凭什么要灭绝人类；也有人反驳，风险不在AI亲自动手，而是它会帮一个普通人在家造出核弹或者病毒。
进度保存在本设备 · 登录同步