Sözlük
LLM nedir? (Large Language Model)
Çok büyük metin veri kümeleriyle eğitilmiş, metin anlayıp üretebilen yapay zekâ modeli. Soru yanıtlama, özetleme ve kod yazma gibi görevlerde kullanılır.
LLM, dildeki kalıpları öğrenerek verilen bir metne uygun devam metni üreten bir modeldir. Eğitim aşamasında çok miktarda veriyle şekillenir; kullanım aşamasında ise çıkarım yaparak yanıt üretir. Yanıtları kesin doğru olmayabilir; hatalı ama ikna edici çıktılar da verebilir.
Kurumsal kullanımda temel sorular şunlardır: veri nereye gidiyor, model nerede çalışıyor ve çıktılar nasıl denetleniyor. Seçenekler arasında harici hizmet kullanmak ya da modeli kendi ortamında çalıştırmak vardır; ikincisi güçlü bir GPU altyapısı gerektirir.
Modeli kuruma özgü bilgiyle desteklemek için RAG veya ince ayar kullanılır. Güvenlik tarafında prompt injection ve veri sızıntısı başlıca risklerdir.