Интерфейс перевода больших моделей
Универсальный интерфейс для больших моделей
Использование нескольких интерфейсов больших моделей одновременно？
Если вам нужно просто чередовать несколько разных ключей API, достаточно разделить их символом |.
Но иногда требуется одновременно использовать разные API-адреса/prompt/модели/параметры для сравнения результатов перевода. Метод следующий:
- Нажмите кнопку "+" вверху
- Появится окно, выберите "Универсальный интерфейс для больших моделей" и дайте ему имя. Это создаст копию текущих настроек и API универсального интерфейса.
- Активируйте скопированный интерфейс и настройте его отдельно. Скопированный интерфейс может работать параллельно с оригинальным, позволяя использовать разные настройки.
INFO
Большинство API-адресов можно выбрать из выпадающего списка, но некоторые могут отсутствовать. Для интерфейсов, которых нет в списке, сверьтесь с их документацией и введите адрес вручную.
TIP
Модель можно выбрать из выпадающего списка. Некоторые интерфейсы позволяют динамически получать список моделей на основе API-адреса и API Key - заполните эти поля и нажмите кнопку обновления рядом с model, чтобы получить доступный список моделей.
Если платформа не поддерживает автоматическое получение списка моделей, и нужная модель отсутствует в списке по умолчанию, введите название модели вручную согласно официальной документации API.
Крупномасштабные платформы моделей в Европе и Америке
Крупномасштабные платформы моделей в Китае
Универсальный интерфейс LLM - Оффлайн-перевод
Также можно использовать такие инструменты как llama.cpp, ollama, one-api для развертывания модели, после чего ввести адрес и модель.
也可以使用Kaggle之类的平台来把模型部署到云端，这时可能会需要用到SECRET_KEY，其他时候可以无视SECRET_KEY参数。