我們開始越來越清楚上下文工程的表面積將會有多廣。
理論上,建立 AI 代理應該就像擁有一個超強大的模型,給它一組工具,擁有一個非常好的系統提示,並讓它訪問數據一樣簡單。也許在某個時候,這真的會這麼簡單。
但在實踐中,要製作今天能運作的代理,你需要在全球代理和子代理之間找到微妙的平衡。什麼事情要讓它具備代理性,什麼事情只是確定性的工具調用。如何處理上下文窗口的固有限制。
你必須弄清楚如何為用戶的任務檢索正確的數據,以及要投入多少計算資源。如何決定什麼要快速處理,並承擔潛在的質量下降,與慢速但可能令人厭煩的選擇。還有無數其他問題。
到目前為止,這些問題沒有一個正確的答案,對於你採取的任何方法都有意義的權衡。
重要的是,正確處理這些問題需要對你所解決的領域有深入的理解。在 AI 編碼中處理這個問題與法律不同,與醫療保健又不同。這就是為什麼現在有如此多的 AI 代理機會。