Yapay zekayı işine katmaya çalışan her ekip ilk aylarda aynı soruyu soruyor. Modele kendi verimi nasıl öğretirim?
Sorunun üç farklı cevabı var ve bunlar birbirinin alternatifi gibi konuşuluyor. Aslında üçü farklı sorulara cevap veriyor, bu yüzden "hangisi daha iyi" tartışması genelde boşa gidiyor.
Üçünün ne yaptığı
Getirmeli üretim, kısaltmasıyla RAG, soru sorulduğu anda kendi belgelerinizin içinden ilgili parçayı bulup modelin önüne koyar. Model bu bilgiyi öğrenmez, o an okur ve cevabını ona dayandırır.
İnce ayar modelin kendi ağırlıklarını değiştirir. Öğrenilen şey modelin içine yazılır ve her çağrıda yeniden taşınması gerekmez. Buna karşılık her güncellemede işlemi tekrarlamanız gerekir.
Hafıza ise az sayıda kalıcı nottur. Belge değildir, çıkarılmış derstir. "Bu müşteriye giden metinler kısa olsun" gibi bir tercih burada durur ve her koşuda modelin yanında taşınır.
Araştırma ne söylüyor
Bu tartışmanın ölçülmüş bir tarafı var. Bilgi enjeksiyonunu karşılaştıran bir çalışma, denetimsiz ince ayarın bir miktar iyileştirme sağladığını ama RAG'ın hem eğitim sırasında görülmüş bilgide hem de tamamen yeni bilgide tutarlı biçimde daha iyi sonuç verdiğini buldu. Modeller yeni olguları denetimsiz ince ayarla öğrenmekte zorlanıyor (Ovadia ve ark., Fine-Tuning or Retrieval?).
Bu bulgu "ince ayar işe yaramaz" demek değil. Söylediği şey daha dar. Modele olgu öğretmek istiyorsanız ince ayar bunun için güvenilir bir araç değil.
En sık yapılan iki hata
Birincisi kelimenin kendisinden geliyor. "Modele öğretmek" denince akla ince ayar geliyor, oysa istenen şey genelde "şirketin belgelerini bilsin" oluyor. Bu bir öğretme işi değil, bir getirme işi.
İkincisi RAG kurup içine her şeyi atmak. Getirilen parça alakasız olduğunda model o parçaya dayanarak cevap üretiyor ve ortaya kaynaklı görünen ama yanlış olan bir cevap çıkıyor. RAG'ın kalitesi arama kalitesine bağlı ve bu kısım genelde ihmal ediliyor.
Hafıza neden ayrı bir kutu
RAG belge havuzundan çeker, hafıza ders taşır. Aradaki fark ilk bakışta ince görünüyor ama sonuçları farklı.
"Faturalar şu klasörde durur" cümlesini belge havuzuna koyarsanız, ancak biri fatura klasörünü sorduğunda gelir. Hafızaya koyarsanız her koşuda modelin yanında olur ve sorulmadan da uygulanır.
Ters yönde de bir durum var. Her şeyi hafızaya yığarsanız taşınan not sayısı artar ve bağlamı doldurur. Hafıza az sayıda ve gerçekten tekrar eden şeyler içindir.
Kendi tarafımızda üçünden ikisini kullanıyoruz ve ince ayarı hiç seçmedik. Bilgi neredeyse her gün değişiyor ve her değişikliği yeni bir eğitim turuyla karşılamak sürdürülebilir değil. Cevabın hangi belgeden geldiğini gösterebilmek istiyoruz. En az konuşulanı ve bize göre en önemlisi ise ince ayarın sizi belirli bir modele bağlaması. Altı ay sonra daha iyi bir model çıktığında taşınması gereken bir yükünüz oluyor.
Maliyet tarafı
RAG'ın kurulum maliyeti orta, her sorguda küçük bir arama maliyeti ekleniyor ve güncellemesi ucuz. Yeni bir belge eklemek yalnızca indeksleme işi.
İnce ayarın kurulum maliyeti yüksek, sorgu maliyeti düşük çünkü prompt kısalıyor, güncelleme maliyeti ise yeniden yüksek.
Hafızanın kurulumu en ucuz olanı, buna karşılık her koşuda küçük ve sabit bir yer kaplıyor.
İnce ayar gerçekten ne zaman doğru
Çıktının biçimi çok dar ve bunu prompt'la anlatmak uzun sürüyorsa ince ayar kazandırır. Öğrettiğiniz şey olgu değil, kalıptır.
Hacim çok yükseksek ve prompt'u kısaltmak gerçek para tasarrufu sağlıyorsa yine mantıklı olur.
Alan dili çok özelse, mesela modelin eğitiminde neredeyse hiç görmediği bir terminolojiyle çalışıyorsanız, ince ayarın katkısı belirgin olur.
Bu üç durumun hiçbirinde asıl amacın "bilgi yüklemek" olmadığına dikkat edin. Üçünde de öğretilen şey davranış.
Karar sırası
En ucuzdan başlayın. Önce prompt'u iyileştirin ve içine birkaç iyi örnek koyun, çünkü vakaların önemli bir kısmı burada çözülüyor.
Yetmezse RAG kurun ve arama kalitesine en az üretim kalitesi kadar emek verin.
Tekrar eden tercihler ve kurallar birikmeye başladığında hafıza ekleyin, ama listeyi kısa tutun.
İnce ayarı en sona bırakın. Oraya geldiğinizde artık neyi neden öğrettiğinizi de biliyor olursunuz.
Kaynaklar
Ovadia ve ark., Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs