RAG, adım adım
Bugün bir şirketin politika el kitabı üzerinde bir RAG pipeline’ı kuruyoruz: adım adım, kendi dizüstünüzde, her ara çıktıyı açıp bakarak. Modeller Ollama’da, vector DB Podman’da çalışır; kod TypeScript.
Gün boyu tek bir soru soracağız: pipeline’a her parça eklendiğinde aynı soruyu yeniden sorup cevabın nasıl değiştiğine bakacağız.
Günün haritası
Bölüm başlığı “Günün haritası”Başlamadan
Kurulum ve
npm run doctor. Sonra günün sorusu: önce sizin tahmininiz, sonra modelin dokümansız cevabı.1 · Neden RAG?
Model politikamızı hiç görmedi, yine de sayı uyduruyor. Bilgiyi modele vermenin iki yolu var: RAG ve fine-tune. Hangisi, ne zaman?
2 · Mimari
Bütün pipeline tek çizimde: dokümanları bir kere hazırlayan şerit, her soruda çalışan şerit ve ikisinin buluştuğu vektör uzayı. Her kutu repodaki bir dosya.
3 · Adım adım kuralım
Sekiz adım tek tek çalışır, her biri çıktısını
data/klasörüne yazar. Her adımdan sonra dosyayı açarız; günün sorusunun cevabı da adım adım değişir.4 · Canlıya hazır mı?
Kalite göz kararı ölçülmez. Kaliteyi bir soru setiyle sayıya dökeriz, güvenlik açıklarını deneriz, zamanın ve token’ın nereye gittiğine bakarız.
5 · Her derde deva mı?
RAG nerede çuvallıyor, hangi RAG türü hangi hatayı düzeltiyor ve canlıdaki ilk 90 günde hangi şikâyetler geliyor.
Kapanış
Uçtan uca bir tasarım kontrol listesi: her aşama için doğruluk, güvenlik, performans ve maliyet. Günün sorusunun bütün cevapları yan yana.
Gün sonunda şunları yapabileceksiniz
Bölüm başlığı “Gün sonunda şunları yapabileceksiniz”Bugün, büyük dil modellerinin kurum verisini güvenli ve doğru kullanmasını sağlayan RAG mimarileri üzerine: veri hazırlama, chunking, embedding, retrieval, rerank, cevap üretimi ve kalite ölçümü. Gün sonunda:
- Kurumsal bir kullanım için uçtan uca bir RAG pipeline’ı tasarlayabileceksiniz — iki şeridin her kutusunu kendi elinizle çalıştırmış olarak.
- Veriyi hazırlayabileceksiniz: ham dokümanı temizlemek ve doğru yerden bölmek.
- Embedding’in neyi yakın bulduğunu ve vector DB’nin ne işe yaradığını gösterebileceksiniz.
- Retrieval ve rerank sonucunu okuyup cevabı kaynağıyla üretebileceksiniz.
- Kritik kararları dört eksende tartabileceksiniz: doğruluk (kaliteyi ölçmek), güvenlik (güvenlik), performans ve maliyet (performans ve maliyet).
Başlamak için
Bölüm başlığı “Başlamak için”Kod: github.com/kuthaygumus/ama-rag-workshop.
Kraken Air ve bütün dokümanları kurgudur: şirket, politikalar ve rakamlar bu eğitim için yazıldı; gerçek bir şirketle ilgisi yoktur.