大模型翻譯接口
大模型通用接口
同時使用多個大模型接口?
如果只是有多個不同的密鑰想要輪詢,只需用|分割就可以了。
但有時想要同時使用多個不同的api接口地址/prompt/model/參數等來對比翻譯效果。方法是:
- 點擊上方的“+”按鈕
- 彈出一個窗口,選擇大模型通用接口,併爲之取個名字。這樣會複製一份當前大模型通用接口的設置和api。
- 激活複製的接口,並可以進行單獨設置。複製的接口可以和原接口一起運行,從而使用多個不同的設置來運行。
INFO
大部分API接口地址可以在下拉列表中選取,但可能會有遺漏。對於其他沒有列舉出來的接口,請自行查閱其文檔來填寫。
TIP
model可以在下拉列表中選取,且部分接口可以根據API接口地址和API Key動態獲取模型列表,填好這兩項後點擊model旁的刷新按鈕即可獲取可用的模型列表。
如果平臺不支持拉取模型的接口,且默認列表中沒有要用的模型,那麼請參照接口官方文檔手動填寫模型。
外國大模型接口
國產大模型接口
大模型通用接口 - 離線翻譯
也可以使用llama.cpp 、ollama、one-api之類的工具進行模型的部署,然後將地址和模型填入。
也可以使用Kaggle之類的平臺來把模型部署到雲端,這時可能會需要用到SECRET_KEY,其他時候可以無視SECRET_KEY參數。
Sakura大模型
TIP
推薦使用,配置簡單,效果好,也可以純cpu運行輕量模型