Postgres aracıları için LangChain ve LlamaIndex karşılaştırması

LangChain ve LlamaIndex, ChatGPT'nin 2022'nin sonunda piyasaya sürülmesinin ardından aynı dönemde ortaya çıktı. Başlangıç noktaları önemli ölçüde farklı. LangChain, bir LLM uygulamasını birleştirilebilir adımlar zinciri olarak modeller: bilgi istemi, model çağrısı, araç, bellek, tümü LCEL veya LangGraphgrafiği aracılığıyla birleştirilir.

LlamaIndex ilk olarak verileri modeller: belgeler, düğümler, dizinler, sorgu motoru. VectorStoreIndex veya SQLDatabase birinci sınıf vatandaşlardır, genel aracıya eklenen araçlar değildir. Her ikisi de açık kaynaktır (MIT lisansı), Python ve TypeScript'te mevcuttur ve bugün büyük ölçüde örtüşen bir kapsamı kapsamaktadır: aracılar, RAG, araç çağrısı, SQL bağlantısı.

Bu yakınlaşma, özellikler listesinden ziyade mimari açısından karşılaştırmayı daha kullanışlı hale getirir: her ikisi de neredeyse aynı şeyi yapabilir. Ne değişir, nasıl değişir.

LangChain tarafında, langchain_community.utilities.SQLDatabase modülü bir SQLAlchemy motorunu kapsüller. create_sql_agent aracısı daha sonra bunu bir dizi araç olarak kullanıma sunar: tabloları listelemek, bir şemayı tanımlamak, bir sorguyu yürütmek, yürütmeden önce bir sorguyu kontrol etmek.

from langchain_community.utilities import SQLDatabase
from langchain_community.agent_toolkits import create_sql_agent
from langchain_openai import ChatOpenAI

# Kanal Studio → Ayarlar → Bağlantı'dan alınır.
# search_path proje şemasına yönlendirir (bkz. SQLAlchemy/psycopg doc
# kullanılan sürücüye bağlı olarak "seçenekler" parametresinin tam kodlaması).
db = SQLDatabase.from_uri(
    "postgresql+psycopg2://aura:***@<host>:5432/aura_db_master?options=-csearch_path%3Dproject_<id>"
)

llm = ChatOpenAI(model="gpt-4o-mini")
agent = create_sql_agent(llm=llm, db=db, agent_type="tool-calling")

agent.invoke({"input": "Combien de commandes la semaine dernière ?"})

LlamaIndex tarafında eşdeğer soyutlama llama_index.core.SQLDatabaseolup yine bir SQLAlchemy motoru üzerine kurulmuştur. NLSQLTableQueryEngine sorgu motoru, doğal dil sorusunu bir SQL sorgusuna çevirir, yürütür ve ardından sonucu yanıt olarak yeniden formüle eder.

from sqlalchemy import create_engine
from llama_index.core import SQLDatabase
from llama_index.core.query_engine import NLSQLTableQueryEngine
from llama_index.llms.openai import OpenAI

engine = create_engine(
    "postgresql+psycopg2://aura:***@<host>:5432/aura_db_master?options=-csearch_path%3Dproject_<id>"
)
sql_database = SQLDatabase(engine, include_tables=["orders", "customers"])

query_engine = NLSQLTableQueryEngine(
    sql_database=sql_database, llm=OpenAI(model="gpt-4o-mini"),
)
response = query_engine.query("Combien de commandes la semaine dernière ?")

Her iki alıntı da Aurabase'e bağlı değildir. Tıpkı Supabase, RDS veya kendi kendine barındırılan bir örnek için olduğu gibi bir SQLAlchemy sürücüsü ve standart bir Postgres bağlantı dizesi yeterlidir.

LangChain ilk olarak klasik bir aracı döngüsü (AgentExecutor, ReAct modeli) önerdi. Proje o zamandan bu yana aracılarını LangGraphyönünde birleştirdi: burada bir aracı, iki aşama arasında kontrol noktaları ve olası insan müdahalesi ile düğümlerin ve kenarların açık bir grafiği olarak temsil ediliyor.

LlamaIndex, Workflowsile yanıt verir: her adımın yazılan olayları yaydığı ve tükettiği olay odaklı bir düzenleme. Bir SQL veya vektör sorgu motoru, ek bir uyarlama katmanı olmadan doğrudan bir adım olarak bağlanır, çünkü bu motorlar zaten çerçevenin yerel ilkelleridir.

Postgres'i sorgulayan bir aracı için pratik fark şudur: LangGraph, dallar üzerinde ayrıntılı kontrol sağlar ve bir SQL çağrısı etrafında yeniden denemeler yapar. Soru ilk olarak çerçeve tarafından zaten indekslenmiş verilerle ilgili olduğunda LlamaIndex daha az bağlantı kodu gerektirir.

Daha derine inin: Postgres aracısı için işlev çağırma eğitimi

LlamaIndex, en başından itibaren bir yüksek lisans eğitimini veri kaynaklarına bağlamak için bir bağlayıcı kataloğu (LlamaHub) ve içeriğin türüne bağlı olarak özel dizinler ile tasarlandı. RAG, sonradan eklenen bir özellik değil, çerçevenin en doğrudan kullanım durumu olmaya devam ediyor.

LangChain, aynı ihtiyacı LangGraph ekosistemine eşit derecede olgun entegrasyonla retrievers ve getirme zincirleri aracılığıyla karşılar. Fark, kapasiteden ziyade iş mantığının nerede yaşadığıyla ilgilidir: LlamaIndex tarafında endekse entegre edilmiş, LangChain tarafında açıkça bir zincirde bir araya getirilmiştir.

Her ikisi de pgvector'un vektör tabanı olarak nasıl kullanılacağını biliyor: LlamaIndex tarafında llama-index-vector-stores-postgres, LangChain tarafında langchain-postgres paketinin PGVector sınıfı. Bir Aurabase projesinde, Postgres kiracı görüntüsünde pgvector 0.8.6 zaten mevcuttur: her iki paket de ayrı bir etkinleştirme adımı olmadan aynı bağlantı dizesiyle ona bağlanır.

Daha Derine Kazın: Postgres/pgvector RAG Boru Hattı Oluşturmak

CrewAI rol başına birkaç aracıyı düzenler: her aracı bir hedef, bir bağlam (backstory) ve Crew olarak gruplandırılmış ve Task sırayla veya bir hiyerarşiye göre yürütülür. LangChain'in bir uzantısı değil, tam teşekküllü bir orkestrasyon çerçevesidir.

Bir Microsoft araştırma projesi olan AutoGen farklı bir yaklaşım benimsiyor: birbirleriyle konuşan aracılar (AssistantAgent, UserProxyAgent, GroupChat), yalıtılmış bir ortamda kod yürütme becerisine sahip. Koordinasyon, LangGraph gibi açık bir durum grafiğine değil, bir konuşmaya benzer.

İkisi de veri bağlantı katmanının yerini almaz. Pratikte Postgres çağrılarını, LangChain veya LlamaIndex ile oluşturulmuş bir SQL aracını veya psycopg2etrafında basit bir Python işlevini okuması gereken bir CrewAI veya AutoGen aracısı. CrewAI ve AutoGen "veritabanının nasıl okunacağı" değil, "kimin neyi, hangi sırayla yaptığı" sorusunu yanıtlıyor.

create_sql_agent ve NLSQLTableQueryEngine model tarafından oluşturulan sorguyu sağlanan bağlantıya göre yürütür. Varsayılan olarak döndürülen satır sayısını sınırlamaz veya bir yazma isteğini engellemez: gerçek koruma, bir çerçeve seçeneği değil, bağlantı dizesinde kullanılan Postgres rolüdür.

Bu, sunucu tarafında bir soruyu SQL'e çeviren, oluşturulan sorguyu doğrulayan (SQL ayrıştırma, sahte sunucu alanlarının reddedilmesi) ve yürütmeden önce LIMIT'yi sınırlayan Aurabase'in yerel NL2SQL'iyle yapısal bir farktır. Bu aynı tuğla değil: Bir NL2SQL uç noktası, platform tarafından kurulan korkuluklarla tek seferde yanıt verir; Bir LangChain veya LlamaIndex temsilcisi, kendinizi toparlamanızı sağlayacak güvenlik önlemleriyle birlikte birkaç aşamada mantık yürütür.

Uygulamada, iki yaklaşım birbirini dışlamak yerine birbirini tamamlar: son kullanıcıya sunulan basit bir soru için sınırlı bir NL2SQL uç noktası, SQL'in ötesinde çeşitli araçları birleştiren çok adımlı akıl yürütmeye yönelik bir aracı.

Ayrıca bakınız: Aurabase ile Postgres'te NL2SQL eğitimi

Seçilen çerçeve ne olursa olsun üç adım yeterlidir ve platforma özgü herhangi bir bağlayıcıya bağlı değildir.

# 1. Projenin Postgres bağlantı dizesini alın
#    (Studio → Ayarlar → Bağlantı veya yönetilen herhangi bir Postgres)
export AURA_DB_URL="postgresql+psycopg2://aura:***@<host>:5432/aura_db_master?options=-csearch_path%3Dproject_<id>"

# 2. SQL sürücüsünü ve seçilen çerçeveyi yükleyin
pip install langchain langchain-community langchain-openai psycopg2-binary
# veya LlamaIndex tarafında:
pip install llama-index llama-index-llms-openai psycopg2-binary

# 3. Temsilcinin yalnızca anket yapması gerekiyorsa salt okunur, özel bir Postgres rolü oluşturun
CREATE ROLE agent_readonly LOGIN PASSWORD '***';
GRANT SELECT ON ALL TABLES IN SCHEMA project_<id> TO agent_readonly;

Üçüncü adım çerçeve seçiminden daha önemlidir. Gerçekten gerekli haklarla sınırlı bir Postgres rolü, onu yürüten aracıya bakılmaksızın kapsamını aşan oluşturulan bir talebe karşı tek güvenilir koruma olmaya devam ediyor. Temsilci tarafında kullanılabilen Aurabase'in yerel LLM sağlayıcılarının (OpenAI, Anthropic, Gemini) yapılandırması için AI belgelerine bakın.

Her iki çerçeve de Postgres'e bağlı bir aracı için kesinlikle üstün değildir. Projenin başlangıç ​​bağlamı, işlevler listesinden daha belirleyicidir.

• LangChain: Aracının LangGraph aracılığıyla akışın hassas kontrolü ile çeşitli heterojen araçları (SQL, harici API'ler, web araması) birleştirmesi gerekiyorsa ve ekip piyasadaki en geniş entegrasyon ekosistemine değer veriyorsa.
• LlamaIndex: Projenin kalbi RAG veya önceden indekslenmiş verilerin sorgulanmasıysa, kaynak bağlayıcılara ve kullanım senaryosuna doğrudan uyan bir indeks/sorgu modeline güçlü bir ihtiyaç duyulur.
• CrewAI veya AutoGen ek olarak: tek bir aracı artık yeterli olmadığında ve işin, iki veri çerçevesinden birinin veya diğerinin üzerinde, birkaç özel rol arasında dağıtılması gerektiğinde.

İkisi aynı projede bir arada da bulunabilir: LangGraph aracısında bir araç olarak sunulan LlamaIndex sorgu motoru ortak bir modeldir. İki çerçeveyi korumanın, varsayılan olarak benimsenmeden önce kazanca karşı tartılması gereken gerçek bir karmaşıklık maliyeti vardır.