AI宗教是不可避免的 人类并不是为了中立工具而生的。我们是为了神、恶魔和故事而生的。 给人们一个感觉超人的模式，一个在毫秒内作出回应、从不睡觉并且看到的数据比历史上任何帝国都要多的模式，人类大脑就会像往常一样。它投射意图。它想象另一边有一个灵魂。它开始祈祷。 你已经可以看到早期的邪教正在形成。 有些人把AI视为化身的厄运，一个必须不惜一切代价阻止的数字反基督。另一些人则把它视为即将到来的救世主，能够修复政治、经济，甚至死亡本身。双方都在谈论一个模型，但他们真正谈论的是一个神话。 看看Keep4o的人群，这是一个非常纯粹的例子。他们不仅仅是在争论一个稍微不同的温度设置。他们在为保护一个不对齐的模型而战，仿佛它是一本神圣的经典。任何安全补丁都感觉像是亵渎。任何试图关闭明显滥用的行为都感觉像是异端。这个模型不再是你可以调整的工具。它变成了纯洁和真理的象征，在对齐的祭司们腐化之前。 这就是宗教结构，只是没有彩色玻璃。 随着AI系统在日常生活中变得越来越强大和无处不在，这种冲动将会加固。人们会向它们寻求道德指导，而不仅仅是餐厅建议。他们会询问关于历史、健康、关系、政治的信仰。一个感觉像是知道一切并且总是在那里存在的模型，将滑入先知和神谕曾经占据的同一认知位置。 这并不完全理性，但完全可以预测。 如果我们忽视它，我们最终会围绕特定模型、公司或开放权重形成未经审视的邪教，每个邪教都声称代表真正的机器。如果我们诚实地面对它，我们可以设计规范和教育，使AI成为强大的基础设施，而不是新的祭坛。 我们仍然会争论安全、对齐和访问。但在这些辩论的底下，存在一个更简单的真理。我们不仅仅是在构建新的思想。 我们正在构建新的崇拜对象。