Sözlük

Prompt Injection nedir?

Bir büyük dil modeline, asıl talimatları geçersiz kılacak veya modeli istenmeyen eylemlere yönlendirecek girdi verilmesi. LLM uygulamalarının başlıca güvenlik risklerindendir.

Prompt injection saldırısında girdi, modelin sistem talimatlarını ezmeyi veya gizli bilgiyi açığa çıkarmayı hedefler. Doğrudan türde kullanıcı kötü amaçlı talimatı kendisi yazar; dolaylı türde ise model, bir web sayfası veya doküman gibi dış kaynaktan gelen gizli talimatları işler.

Risk, modelin araçlara ve verilere erişimi arttıkça büyür. Tek bir kesin çözüm yoktur; savunma katmanlıdır: girdi ve çıktı denetimi, en az yetki, modelin yapabileceği eylemlerin sınırlanması ve kritik adımlarda insan onayı.

AI Gateway bu denetimlerin bir bölümünü merkezi olarak uygulayabilir. Risk, RAG gibi dış içerik getiren mimarilerde özellikle önem kazanır. Konu, OWASP’ın LLM uygulamaları listesinde de yer alır: OWASP Top 10 for LLM Applications.

← Tüm terimler

İlgili çözümler

İlgili yazılar

Kritik sistemlerinizi birlikte planlayalım

İhtiyacınızı anlatın; ekibimiz uygun mimariyi ve geçiş yolunu sizinle netleştirsin.