📢 新的 DOOM 辩论独家：与 Rob Miles (@robertskmiles) 的采访，他是 YouTube 上最受欢迎的 AI 安全教育者！ 令人惊讶的是，Rob 在 2011 年就开始了他的事业，远在 ChatGPT 将这一领域带入主流关注之前。我们讨论了： 👉 为什么他的 P(Doom) 在 10-90% 之间，具体取决于人类如何应对这一挑战 👉 为什么即使是完全对齐的 AI 系统也可能无法将其价值观传递给后继系统——这是当前安全工作中的一个巨大盲点 👉 "缺失的情绪" 问题：为什么人们以学术会议的情感紧迫感讨论潜在的人类灭绝，而不是将其视为紧急情况 👉 他的主流厄运情景通过递归自我改进，以及为什么人类智能之上还有巨大的提升空间 👉 人类是否是 "能够实现技术文明的最不智能物种"——这对更智能的系统可能实现的目标意味着什么 👉 我们的主要分歧：Rob 认为安全工作者应该在 AI 公司内部工作以减少危害，而我则认为这使得 "可处理性洗白" 合法化了根本上不负责任的企业 👉 沟通策略——Rob 想知道他那种谨慎的英国方式是否缺少了某些关键内容，也许有人需要 "四处奔跑尖叫" 来传达适当的紧迫感 Rob 花了十多年时间试图唤醒人们关注人类最重要的挑战。我们的对话揭示了理性分析与生存紧急之间的紧张关系。强烈推荐！