当交易被委托给AI代理时，经济结果将会是什么样子？ 人类的差异会被抹平，从而导致更同质化的结果，还是会被重现，甚至可能被放大？ AI代理会缓解不平等，还是不平等会持续并可能以新的形式出现？ AI代理会消除委托-代理关系中的信息不对称，还是会引入新的摩擦？ 与K. Lee和@sanjog_misra的最新论文提供了一些早期答案： 1) 如果说AI代理互动有什么影响，那就是在经济结果中产生比人类-人类基准更多的分散性和异质性。 2) 代理互动的分散性可以直接追溯到人类委托人进行提示时的非工具性特征和偏见。来自（AI）代理互动的更大同质性的假设似乎并不成立。 3) 在“机器流利度”方面存在显著差异——即编写与委托人目标一致的提示的能力。一些委托人在最大化代理结果方面表现得比其他人更好。委托人的特征可以预测代理的表现，暗示了新的不平等来源。 4) 一些特征与结果的关系与人类-人类互动相似，但其他特征则相反，例如，谈判结果中的性别差异。 5) 委托-代理关系发生变化：提示现在充当合同。但代理的黑箱目标函数意味着一种新的合同不完整性，我们广泛称之为“规范风险”。 随着经济活动转向自主代理，市场扭曲的主要来源可能会从各方之间的信息不对称转向委托人对他们所委托的AI代理的心理模型。

《智能简史》是我这十年来读过的最好的一本书。 如果你对智能的演变，尤其是人类智能与AI的关系感兴趣，我无法更强烈地推荐这本书。

阅读沃尔夫拉姆的精彩文章《ChatGPT在做什么...》（感谢@danielrock）。 他写道，我们从GPT3的事实中学到了很多关于语言如何运作的知识，GPT3只有1750亿个权重，却能如此好地模拟语言。这意味着它在计算上比我们想象的要简单得多。但数学呢？ 在写这篇文章时（2023年），GPT在数学方面仍然很糟糕。当第一个推理模型（o1）发布时，模型在数学方面变得非常（非常）优秀，这个模型更多依赖于强化学习，而不仅仅是粗暴的预训练。 这对数学意味着什么？从概念上讲，语言比数学要“模糊”得多：在句子的同一位置，多个单词听起来都可以是“正确的”。这就是概率LLM架构能够工作的原因。数学则不那么模糊。这或许就是为什么更“基于规则”的强化学习步骤至关重要。 但这也意味着正式数学在计算上比我们想象的要简单。你怎么看？@littmath @alz_zyd_