PrivateGPT#

PrivateGPT - готовый к использованию проект искусственного интеллекта, который позволяет задавать вопросы по документам с использованием больших языковых моделей (LLM), поддерживая работу в автономном режиме.

PrivateGPT использует Vector DB в качестве хранилища векторных данных по умолчанию для загрузки и извлечения документов.

Конфигурация#

Настройки Vector DB можно настроить, задав значения свойству qdrant в файле settings.yaml. По умолчанию Vector DB пытается подключиться к экземпляру по адресу http://localhost:3000.

Пример:

qdrant:
    url: "https://xyz-example.eu-central.aws.cloud.qdrant.io:6333"
    api_key: "<your-api-key>"

Доступные параметры конфигурации следующие:

Поле	Описание
location	Если `:memory:` — использовать экземпляр Vector DB в оперативной памяти. Если `str` — используйте его в качестве параметра `url`
url	Либо хост, либо строка из `Optional[scheme], host, Optional[port], Optional[prefix]`. Например, `http://localhost:6333`
port	Порт интерфейса REST API. По умолчанию: `6333`
grpc_port	Порт интерфейса gRPC. По умолчанию: `6334`
prefer_grpc	Если `true` — использовать интерфейс gRPC при любой возможности в пользовательских методах
https	Если `true` — использовать протокол HTTPS(SSL)
api_key	Ключ API для аутентификации Vector DB
prefix	Если задано, добавить `prefix` к пути REST URL. Пример: `service/v1` приведет к `http://localhost:6333/service/v1/{qdrant-endpoint}` для REST API
timeout	Тайм-аут запросов к REST и gRPC API. По умолчанию: 5 секунд для REST и неограниченно для gRPC
host	Имя хоста службы Vector DB. Если url и host не установлены, значение по умолчанию „localhost“
path	Путь сохранения для QdrantLocal. Например, `local_data/private_gpt/qdrant`
force_disable_check_same_thread	Принудительно отключить проверку check_same_thread для подключения SQLite локального экземпляра Vector DB

Дополнительная документация#

Найти документацию по PrivateGPT можно на официальном сайте.