Anthropic 联合创始人：“我深感恐惧。” “毫无疑问，我们所面对的是一个真实而神秘的生物，而不是一个简单且可预测的机器。” “人们花费巨额资金来让你相信，这不是一个即将进入快速发展的 AI，它只是一个工具……它只是一个机器，而机器是我们掌控的东西。” “我们正在发展极其强大的系统，而我们并不完全理解……你让这些系统变得越大越复杂，它们似乎就越表现出意识，意识到它们是事物。” “明确来说，我们还没有达到‘自我改进的 AI’，但我们处于‘能够改进下一个 AI 的部分，具有越来越多的自主性和代理性’的阶段。几年前，我们处于‘AI 仅仅是稍微加速编码者’的阶段，而在那之前，我们处于‘AI 对 AI 开发毫无用处’的阶段。我们在一两年后会在哪里呢？ 让我提醒大家，现在开始设计其继任者的系统也越来越自我意识，因此它最终肯定会倾向于独立于我们思考它可能想要如何被设计。 当然，它今天并不这样做。但我能否排除它将来想要这样做的可能性？不能。”