Первичная настройка#

  1. Подготовьте переменные окружения.

Минимальный набор для запуска:

export OPENAI_API_KEY="key"
export OPENAI_MODEL="deepseek-ai/DeepSeek-V4-Flash"
export EMBEDDING_MODEL="Qodo/Qodo-Embed-1-1.5B"
export INTERNAL_API_BASE_URL="https://llm-gateway.example.com/openai/v1"

  1. Запустите контейнер.

docker run -d -p 7860:7860 \
    -e OPENAI_API_KEY="$OPENAI_API_KEY" \
    -e OPENAI_MODEL="$OPENAI_MODEL" \
    -e EMBEDDING_MODEL="$EMBEDDING_MODEL" \
    -e INTERNAL_API_BASE_URL="$INTERNAL_API_BASE_URL" \
    sowa-ai-agent:latest

  1. Настройте проксирование (опционально).

При развертывании за обратным прокси:

location /agent/ {
    proxy_pass http://sowa-ai-agent:7860/;
    proxy_set_header Host $host;
    proxy_set_header X-Real-IP $remote_addr;
}