Skip to content

大規模モデルオフライン翻訳

大規模モデルの汎用インターフェース

llama.cppollamaone-apiなどのツールを使用してモデルをデプロイし、アドレスとモデルを入力することができます。

Kaggleなどのプラットフォームを使用してモデルをクラウドにデプロイすることもできます。この場合、SECRET_KEYを使用する必要があるかもしれません。そうでなければ、SECRET_KEYパラメータを無視することができます。