返回资源中心

Llamafile CLI Runner

工具软件
机器学习
4 次浏览
0 个赞
llmclilocal

资源描述

一键打包并本地运行任何开源LLM的轻量级CLI工具,支持GPU加速、模型量化(Q4_K_M)、HTTP API暴露及system prompt注入