返回资源中心

Dify.ai

框架库
机器学习
1 次浏览
0 个赞
mlframeworkagent

资源描述

Dify.ai 是一款开源、可自托管的 LLM 应用开发框架,面向开发者与产品团队,提供可视化工作流编排、RAG(检索增强生成)管道构建、智能 Agent 编排、API 管理与监控、模型网关等全栈能力,支持快速构建生产级 AI 应用(如知识库问答、智能客服、自动化代理等),兼顾易用性与企业级扩展性。

详细内容

## 框架简介与定位 Dify.ai 是一个开源的、面向生产环境的 LLM 应用开发平台(Framework),定位为「低代码 + 代码可控」的 AI 应用基础设施。它不替代大模型本身,而是聚焦于模型之上层抽象——将提示工程、数据接入、逻辑编排、服务部署与可观测性统一集成,帮助开发者在不重复造轮子的前提下,高效交付可维护、可审计、可扩展的 AI 应用。 ## 核心特性 - **可视化应用编排**:通过拖拽式 UI 构建 Prompt 流程、条件分支与工具调用链,支持实时调试与版本管理。 - **一体化 RAG 管道**:内置文档解析(PDF/Word/Markdown 等)、向量化(支持 OpenAI、Cohere、本地 embedding 模型)、分块策略配置与检索优化(重排序、HyDE 等),开箱即用。 - **Agent 框架支持**:原生兼容 ReAct、Plan-and-Execute 等范式,支持 Tool Calling(HTTP API、数据库、Python 函数等自定义工具注册与调用)。 - **模型网关与多后端适配**:统一抽象 LLM 接口,无缝对接 OpenAI、Anthropic、Ollama、vLLM、DashScope、Moonshot 等主流模型服务,支持 fallback、负载均衡与速率限制。 - **API 全生命周期管理**:提供 RESTful API 自动生成、密钥鉴权、调用量监控、延迟/Token 成本分析及请求日志审计,满足企业合规与运维需求。 ## 适用场景 - 构建私有知识库问答系统(如内部文档助手、客户支持知识中枢) - 开发多步骤智能代理(如销售线索自动跟进、HR 面试初筛 Agent) - 快速原型验证 LLM 业务逻辑(避免从零搭建前端+后端+推理服务) - 为非技术角色提供低门槛 AI 应用配置界面(运营/产品人员可自主迭代 Prompt 与数据源) - 作为企业 AI 中台的基础能力层,统一纳管模型调用与应用治理 ## 快速入门步骤 1. **安装依赖**:确保已安装 Docker 和 docker-compose(推荐 v24+) 2. **启动服务**:克隆官方仓库 `git clone https://github.com/langgenius/dify`,进入项目根目录,执行 `docker-compose up -d` 3. **访问控制台**:浏览器打开 `http://localhost:5001`,完成首次管理员注册 4. **创建最小示例应用**: - 新建「Text Generation」应用 → 选择模型(如 `gpt-3.5-turbo` 或本地 Ollama 的 `llama3`) - 在 Prompt 编辑区输入:`你是一个技术文档助手,请用中文简洁回答用户问题:{{input}}` - 发布应用 → 获取 API Key → 使用 curl 或 SDK 调用: ```bash curl -X POST 'http://localhost:5001/v1/chat-messages' \ -H 'Authorization: Bearer YOUR_API_KEY' \ -H 'Content-Type: application/json' \ -d '{"inputs": {}, "query": "Dify 支持哪些模型?", "response_mode": "blocking"}' ``` ## 生态与社区说明 Dify 采用 MIT 协议开源,核心代码托管于 GitHub(https://github.com/langgenius/dify),持续迭代稳定版与 nightly 版本。社区活跃,提供中文文档(https://docs.dify.ai)、Discord 讨论组、微信公众号与定期线上分享。生态已集成插件市场(支持 Slack、Notion、飞书等连接器)、SDK(Python/JS)、CLI 工具及 Terraform 模块,支持私有化部署与 Kubernetes 扩展。