隨著交易委託給 AI 代理，經濟結果將會是什麼樣子？ 人類的差異會被平滑掉，導致更同質的結果，還是會被重現，甚至可能被放大？ AI 代理會減輕不平等，還是會持續存在並可能採取新的形式？ AI 代理會消除主代理關係中的信息不對稱，還是會引入新的摩擦？ 與 K. Lee 和 @sanjog_misra 合作的新論文提供了一些早期的答案： 1) 如果有的話，AI 代理互動在經濟結果中產生的分散性和異質性比人與人之間的基準更大。 2) 代理互動的分散性可以直接追溯到人類主體在提示時的非工具性特徵和偏見。來自 (AI) 代理互動的更大同質性的假設似乎不成立。 3) 在“機器流利度”方面存在顯著差異——即撰寫提示以使代理與主體的目標對齊的能力。一些主體在最大化代理結果方面比其他人更擅長。主體特徵預測代理的表現，這表明了一種新的不平等來源。 4) 一些特徵與結果的關係與人與人之間的互動相似，但其他特徵則相反，例如，談判結果中的性別差異。 5) 主代理關係的變化：提示現在充當合同。但代理的黑箱目標函數意味著一種新的合同不完整性，我們廣泛稱之為“規範危險”。 隨著經濟活動轉向自主代理，市場扭曲的主要來源可能會從各方之間的信息不對稱轉變為主體對他們所委託的 AI 代理的心理模型。

《智慧的簡史》是我這十年來讀過的最佳書籍。 如果你對智慧的演變，特別是人類智慧與AI之間的關係感興趣，我無法不推薦這本書。

閱讀沃爾夫拉姆的精彩文章《ChatGPT在做什麼...》（感謝@danielrock）。 他寫道，我們從GPT3的事實中學到了很多關於語言運作的知識，GPT3只有1750億個權重，卻能如此好地模擬語言。這意味著它在計算上比我們想像的要簡單得多。但數學呢？ 在這篇文章寫作時（2023年），GPT在數學方面仍然非常糟糕。當第一個推理模型（o1）推出時，模型在數學方面變得非常（非常）好，這個模型更多依賴於強化學習，而不僅僅是粗暴的預訓練。 這對數學意味著什麼？從概念上講，語言比數學要“模糊”得多：在句子的同一位置，多個單詞聽起來都可以是“正確的”。這就是使概率LLM架構運作的原因。數學則不那麼模糊。這或許就是為什麼更“基於規則”的強化學習步驟至關重要。 但這也意味著正式數學在計算上比我們想像的要簡單。你怎麼看？@littmath @alz_zyd_