Bilgi Grafiği + RAG (GraphRAG): İlişkileri Yakalayan Getirim

Klasik RAG, doğru paragrafı bulmakta iyidir; ama "bu iki kişi nasıl bağlantılı?" gibi ilişki soruları söz konusu olduğunda tökezler. Bilgi grafiği (knowledge graph) ile RAG'i birleştiren GraphRAG, tam da bu boşluğu kapatır: yalnızca benzer metni değil, varlıklar arasındaki bağlantıları da getirir. Bu yazıda GraphRAG'i günlük analojilerle, sezgisel biçimde ele alıyoruz.

Klasik RAG nerede tıkanır?

Klasik RAG, bir soruya cevap verirken belgeleri parçalara böler, her parçayı bir anlam vektörüne çevirir ve soruya en çok benzeyen parçaları getirir. Bu yaklaşım, "X belgesinde Y konusunda ne yazıyor?" gibi tek noktada toplanan sorularda çok başarılıdır.

Ama şu soruyu düşünün: "Ahmet ile Zeynep ortak hangi projede çalıştı ve o projeyi kim finanse etti?" Bu cevap tek bir paragrafta durmuyor olabilir. Ahmet bir belgede, Zeynep başka bir belgede, finansman bilgisi üçüncü bir yerde geçer. Vektör benzerliği bu parçaları ayrı ayrı bulur ama aralarındaki bağlantıyı kuramaz.

Klasik RAG bir kütüphanedeki en alakalı sayfaları bulur; ama o sayfaların birbirine nasıl bağlandığını anlatan haritayı veremez.

Bu, RAG'in iki tipik zaafını doğurur. Birincisi çok adımlı (multi-hop) sorular: cevap, birkaç olgu arasında zincirleme bağlantı kurmayı gerektirir. İkincisi bütünsel (global) sorular: "Bu rapor koleksiyonunun ana temaları neler?" gibi, tek bir parçaya değil tüm külliyata bakmayı isteyen sorular. Salt benzerlik araması her iki durumda da yetersiz kalır.

Bilgi grafiği nedir?

Bilgi grafiği, dünyayı düğümler (varlıklar: kişi, kurum, kavram, yer) ve kenarlar (ilişkiler: "çalıştı", "finanse etti", "parçasıdır") olarak temsil eden bir veri yapısıdır. Düz metinden farkı, bilginin doğrudan bağlantılar olarak saklanmasıdır.

Bunu bir aile fotoğraf albümü ile bir soyağacı arasındaki farka benzetin. Albümde her fotoğraf ayrı bir karedir; kim kimin kuzeni anlamak için tek tek bakıp çıkarım yaparsınız. Soyağacında ise ilişkiler çizgilerle önceden çizilmiştir; "büyük teyzenin torunu" sorusunu çizgileri takip ederek saniyede yanıtlarsınız. Bilgi grafiği, metnin soyağacıdır.

Bir ilişki, klasik olarak üç parçalı bir ifadeyle (triple) yazılır: (özne, yüklem, nesne).

(Ahmet)      --[calisti]-->      (Atlas Projesi)
(Zeynep)     --[calisti]-->      (Atlas Projesi)
(Vega Fonu)  --[finanse_etti]--> (Atlas Projesi)

# Soru: Ahmet ile Zeynep ortak projesini kim finanse etti?
# Yol:  Ahmet -> Atlas Projesi <- Zeynep ; Atlas Projesi <- Vega Fonu
# Cevap: Vega Fonu

Dikkat edin: cevap hiçbir tek cümlede yazmıyor. Grafik, ayrı olguları birleştirerek cevabı türetiyor. Klasik RAG'in eksiği tam da budur.

GraphRAG: grafiği getirimle birleştirmek

GraphRAG, dil modeliyle bir bilgi grafiğini birleştiren getirim yaklaşımıdır. Terim, Microsoft Research'ün 2024'te yayımladığı açık kaynaklı çalışmayla geniş kitlelere ulaştı; ancak temel fikir (grafa dayalı getirim) bundan eskidir. Çekirdek mantık üç adımdan oluşur.

1. İnşa: Belgelerden varlıklar ve ilişkiler çıkarılır, bir grafik kurulur.
2. Getirim: Soruya ilgili düğümler bulunur; ardından kenarlar üzerinden komşu varlıklar ve ilişkiler de toplanır.
3. Üretim: Hem getirilen metin parçaları hem de grafikten gelen ilişki bilgisi modele bağlam olarak verilir; model cevabı bunlara dayandırarak yazar.

Microsoft'un GraphRAG'inin getirdiği önemli bir katkı, topluluk özetleri fikridir. Grafik kurulduktan sonra, birbirine sıkı bağlı düğüm kümeleri (topluluklar) tespit edilir ve her topluluk için bir özet üretilir. "Bu külliyatın ana temaları neler?" gibi bütünsel bir soru geldiğinde, sistem tek tek parçalara değil bu hazır topluluk özetlerine bakarak yukarıdan aşağı bir cevap verebilir. Klasik RAG'in en zorlandığı global soru türü budur.

Grafi nasıl kurulur?

Grafiği kurmanın en yaygın yolu, dil modelini bir çıkarım aracı olarak kullanmaktır. Her metin parçası modele verilir ve "bu metindeki varlıkları ve aralarındaki ilişkileri üçlüler hâlinde çıkar" denir.

# Her belge parcasi icin LLM ile cikarim
for parca in belge_parcalari:
    sonuc = llm.cikar(parca, sema="varlik + iliski")
    for (ozne, iliski, nesne) in sonuc.ucluler:
        graf.dugum_ekle(ozne)
        graf.dugum_ekle(nesne)
        graf.kenar_ekle(ozne, nesne, etiket=iliski)

# Ayni varligin farkli yazimlarini birlestir (varlik cozumleme)
graf.birlestir("Vega Fonu", "Vega Sermaye")   # -> tek dugum

İki nokta hayati önemde. Birincisi varlık çözümleme (entity resolution): "Vega Fonu", "Vega Sermaye" ve "Vega" aynı kuruluşsa, bunları tek bir düğümde birleştirmelisiniz; yoksa grafik parçalanır. İkincisi şema disiplini: ilişki etiketlerini ("finanse_etti", "çalıştı") tutarlı tutun. Aynı ilişkinin beş farklı adı varsa, gezinme güvenilmez olur.

Getirim grafte nasıl çalışır?

Getirim aşamasında soru önce ilgili giriş düğümlerine bağlanır (genellikle vektör benzerliğiyle). Sonra sistem bu düğümlerden başlayarak kenarlar boyunca birkaç adım yürür ve komşu varlıkları, ilişkileri toplar. Bu "yerel mahalle"yi modele bağlam olarak verir.

Bunu bir şehirde yol tarifi sormaya benzetin. Klasik RAG size en yakın üç dükkânı söyler. GraphRAG ise "şu caddeden git, köşeden sağa dön, köprüyü geç" der; yani noktaları değil yolu verir. Çok adımlı sorularda işe yarayan şey budur: cevap, düğümleri birbirine bağlayan yolun kendisinde gizlidir.

• Yerel getirim: Belirli varlıklar etrafındaki komşuluğu gezer; "X ile Y nasıl bağlantılı?" gibi nokta sorular için.
• Bütünsel getirim: Topluluk özetlerine bakar; "ana temalar neler?" gibi geniş sorular için.

Ne zaman kullanmalı, ne zaman kullanmamalı?

GraphRAG ücretsiz değildir. Grafiği kurmak, her parça için dil modeli çağrısı gerektirdiğinden klasik RAG'e göre belirgin biçimde daha pahalı ve yavaştır. Grafiği güncel tutmak (belgeler değiştikçe) ayrı bir bakım yükü getirir. Bu yüzden seçimi ihtiyaca göre yapın.

GraphRAG, varlıklar arası ilişkilerin yoğun olduğu ve sorulanın çoğunlukla "kim, neyle, nasıl bağlantılı" olduğu alanlarda parlar: araştırma külliyatları, soruşturma dosyaları, kurumsal bilgi tabanları, hukuki ve tıbbi metinler. Buna karşılık, soruların tek bir belgeden yanıtlanabildiği, ilişkilerin az olduğu durumlarda klasik RAG hem yeterli hem daha ucuzdur.

Özetle GraphRAG, RAG'e "bağlantıları görme" yeteneği kazandırır: benzer metni bulmakla kalmaz, varlıklar arasındaki ilişkileri de getirir ve klasik yaklaşımın çok adımlı ile bütünsel sorulardaki açıklarını kapatır. Bu tür mimarileri hukuk teknolojisinde nasıl hayata geçirdiğimizi merak ediyorsanız, İçtiHub'ın güvenilirliğinin arkasındaki yaklaşıma göz atabilirsiniz.