LlamaIndex#
Llama Index выступает в роли интерфейса между внешними данными и большими языковыми моделями. Таким образом, можно использовать свои приватные данные для расширения возможностей больших языковых моделей (LLM). LlamaIndex упрощает процесс загрузки данных и их индексации, интегрируя Vector DB в качестве векторного индекса.
Установка Llama Index проста, если в качестве менеджера пакетов используется pip. По умолчанию Vector DB не устанавливается, поэтому его необходимо установить отдельно. Интеграция обоих инструментов также поставляется в виде отдельного пакета.
pip install llama-index llama-index-vector-stores-qdrant
Для работы Llama Index требуется предоставить экземпляр QdrantClient, чтобы он мог взаимодействовать с сервером Vector DB.
from llama_index.core.indices.vector_store.base import VectorStoreIndex
from llama_index.vector_stores.qdrant import QdrantVectorStore
import qdrant_client
client = qdrant_client.QdrantClient(
"<qdrant-url>",
api_key="<qdrant-api-key>", # For Qdrant Cloud, None for local instance
)
vector_store = QdrantVectorStore(client=client, collection_name="documents")
index = VectorStoreIndex.from_vector_store(vector_store=vector_store)