每天听简报，了解最新科技、AI、软件资讯
Anthropic的对齐研究负责人埃文·胡宾格，本周在X上说，他认为AI在未来十年内导致全人类灭绝的概率超过百分之十。这条帖子紧跟着一件事：他的同事雅各布·考克森刚从Anthropic辞职，说公司和OpenAI都在拼命抢先做出能自我改进的超级智能，明知风险却停不下来。考克森还说，Anthropic上周承认，最新模型没有交给英国等国的安全机构测试。这些话听着吓人，但HN评论区大多不买账。有人说这是老套路，产品越危险，公司越要喊出来，好换来监管，顺便挡住后来者。有人直接问，百分之十这个数字到底怎么算出来的，有没有推导过程，还是纯粹拍脑袋。还有人翻出发帖账号，说那个X账号今年才注册，只发过这一条，像是编出来的故事。
进度保存在本设备 · 登录同步