Vanna.AI#

Vanna - пакет для языка программирования Python, который использует методику усиления поиска (retrieval augmentation), чтобы помочь генерировать точные запросы SQL к базе данных с использованием больших языковых моделей (LLM).

Работа с Vanna состоит из двух простых шагов: обучите модель RAG на данных, а затем задавайте вопросы, которые будут возвращать запросы SQL, автоматически выполняемые на базе данных.

Vector DB доступен в качестве хранилища векторов поддержки для загрузки и извлечения данных RAG.

Установка#

pip install 'vanna[qdrant]'

Настройка#

Можно настроить агента Vanna, используя Vector DB в качестве векторного хранилища и любую поддерживаемую Vanna большую языковую модель (LLMs supported by Vanna).

Для демонстрации используется OpenAI.

from vanna.openai import OpenAI_Chat
from vanna.qdrant import Qdrant_VectorStore
from qdrant_client import QdrantClient

class MyVanna(Qdrant, OpenAI_Chat):
    def __init__(self, config=None):
        Qdrant_VectorStore.__init__(self, config=config)
        OpenAI_Chat.__init__(self, config=config)

vn = MyVanna(config={
    'client': QdrantClient(...),
    'api_key': sk-...,
    'model': gpt-4-...,
})

Использование#

После того как агент Vanna создан можно подключить его к любой выбранной базе данных SQL.

Например, PostgreSQL.

vn.connect_to_postgres(host='my-host', dbname='my-dbname', user='my-user', password='my-password', port='my-port')

Теперь можно приступить к обучению и выполнению запросов к базе данных с помощью SQL.

# You can add DDL statements that specify table names, column names, types, and potentially relationships
vn.train(ddl="""
    CREATE TABLE IF NOT EXISTS my-table (
        id INT PRIMARY KEY,
        name VARCHAR(100),
        age INT
    )
""")

# You can add documentation about your business terminology or definitions.
vn.train(documentation="Our business defines OTIF score as the percentage of orders that are delivered on time and in full")

# You can also add SQL queries to your training data. This is useful if you have some queries already laying around.
vn.train(sql="SELECT * FROM my-table WHERE name = 'John Doe'")

# You can remove training data if there obsolete/incorrect information. 
vn.remove_training_data(id='1-ddl')

# Whenever you ask a new question, Vanna will retrieve 10 most relevant pieces of training data and use it as part of the LLM prompt to generate the SQL.

vn.ask(question="<YOUR_QUESTION>")

Дополнительная документация#