基于 ReAct Agent 的 KV Cache 演示


文档摘要

源文件:chapter2/kv-cache/README.md 基于 ReAct Agent 的 KV Cache 演示 一个综合演示,借助一个带本地文件系统工具的 ReAct 模式 Agent,展示 KV(Key-Value)缓存在 LLM 中的重要性。本项目通过六种不同的实现模式——一种正确、五种错误——说明看似微小的改动如何让 KV Cache 失效,从而严重影响性能。 🎯 概览 本项目实现了一个 ReAct(Reasoning and Acting)Agent,使用当前的 Moonshot Kimi 模型(默认 )分析代码项目。


发布者: 作者: bojieli 转发
评论区 (0)
U