1.3.3 编译 (Compilation) 与优化


文档摘要

1.3.3 编译 (Compilation) 与优化 1.3.3 编译 (Compilation) 与优化 在 DSPy 中,编译是连接声明式程序(由模块、签名和提示组成)与实际语言模型执行的关键步骤。编译过程旨在将高层次的指令转化为能够有效利用 LM 能力的优化策略。优化则是在编译过程中或编译后,进一步提升性能、效率和鲁棒性的关键环节。 核心概念: 声明式程序: 由 DSPy 模块、签名和提示组成的程序,描述了期望的行为,而非具体的执行步骤。 LM 执行策略: 如何利用 LM 完成特定任务的具体方法,例如选择哪个 LM、如何构建提示、如何解码 LM 的输出等。 优化目标: 编译和优化过程旨在达成的目标,例如提高准确率、降低延迟、减少 token 使用量、提高鲁棒性等。


发布者: 作者: 转发
评论区 (0)
U