简体中文
Appearance
TIP
推荐使用,配置简单,效果好,也可以纯cpu运行轻量模型
部署方法可参考 https://github.com/SakuraLLM/SakuraLLM/wiki
也可以使用llama.cpp 、ollama、one-api之类的工具进行模型的部署,然后将地址和模型填入。
也可以使用Kaggle之类的平台来把模型部署到云端,这时可能会需要用到SECRET_KEY,其他时候可以无视SECRET_KEY参数。