КонфигурацияИспользование самостоятельно размещённой LLM
Использование самостоятельно размещённой LLM
Вы можете использовать самостоятельно размещённую LLM (например, через Ollama) для перевода контента.
Перейдите на страницу настроек в разделе Service Configuration > Self-hosted LLM и задайте нужные значения.
| Настройка | Описание |
|---|---|
| Endpoint URL | URL HTTP-эндпоинта для вашей самостоятельно размещённой LLM-модели. См. примеры ниже. |
| Compatible with API endpoint from | С каким поставщиком AI-сервиса совместим ваш пользовательский эндпоинт: ChatGPT или Claude. |
| Model | Название самостоятельно размещённой LLM-модели, которая будет использоваться для перевода контента. |
| Max tokens | Максимальное количество токенов, которое модель может сгенерировать в ответе. Оставьте пустым для отсутствия ограничений (ChatGPT) или используйте значение по умолчанию для Claude. |
Примеры Endpoint URL:
| URL | Описание |
|---|---|
http://localhost:11434/v1/chat/completions | Формат ChatGPT, Ollama на вашем сервере |
http://localhost:11434/v1/messages | Формат Claude, Ollama на вашем сервере |
https://ollama.com/v1/chat/completions | Формат ChatGPT, Ollama Cloud |
https://ollama.com/v1/messages | Формат Claude, Ollama Cloud |
Если вы размещаете LLM на собственном сервере, API-ключ вам не потребуется.
Если вы используете самостоятельно размещённую LLM в облаке (например, при использовании Ollama Cloud), вам может потребоваться указать API-ключ на вкладке API Keys > Self-hosted LLM страницы настроек.
