我们开始对上下文工程的表面面积有了更清晰的认识。
理论上,构建 AI 代理应该像拥有一个超级强大的模型,给它一套工具,提供一个非常好的系统提示,并让它访问数据一样简单。也许在某个时刻,它真的会变得如此简单。
但在实践中,要制作今天能工作的代理,你需要在全球代理与子代理之间找到微妙的平衡。哪些事情要让其具备代理性,哪些仅仅是确定性的工具调用。如何处理上下文窗口的固有限制。
你必须弄清楚如何为用户的任务检索正确的数据,以及需要投入多少计算资源。如何决定哪些要快速处理,可能会导致质量下降,哪些要慢处理但可能会令人烦恼。还有无尽的其他问题。
到目前为止,对于这些问题没有一个正确的答案,任何给定的方法都有重要的权衡。
重要的是,正确处理这些问题需要对你所解决问题的领域有深刻的理解。在 AI 编程中处理这个问题与法律不同,与医疗保健又不同。这就是为什么现在 AI 代理的机会如此之多。