Serge 是基于 llama.cpp 的聊天界面,用于運(yùn)行羊駝模型。完全自托管,不需要 API 密鑰。適合 4GB RAM 并在 CPU 上運(yùn)行。SvelteKit 前端用于存儲(chǔ)聊天記錄和參數(shù)的 R