AI 工作流与编排:用边缘函数串联完整链路


文档摘要

AI 工作流与编排:用边缘函数串联完整链路 向量检索与 RAG 的各环节,最终要通过代码编排成可运行的应用。本节讲解如何用第 8 章的边缘函数,把「嵌入 → 检索 → 大模型」串成完整的 AI 工作流,并讨论工程化要点。 为什么需要编排层 前面几节分别讲了嵌入、检索、RAG 的概念,但在真实应用里,这些步骤散落在不同位置: 嵌入模型的调用需要 API Key(保密)。 向量检索要连数据库(需服务级访问)。 大模型调用也需要 API Key。 各步骤之间要传递中间结果(向量、检索片段)。 把这些都放进前端会暴露密钥、也不可控。边缘函数是理想的编排层:它在可信服务端运行,能安全持有密钥,又能调用嵌入、数据库、大模型,把完整流程组织成一个对外接口。


发布者: 作者: 灏天文库 转发
评论区 (0)
U