AI DLP nedir? Prompt'larla veri sızıntısını önlemek
Nanda Teknoloji Mühendislik Ekibi · · 6 dk okuma
Kısaca
AI DLP, çalışan ve uygulamaların yapay zekâ servislerine gönderdiği prompt, dosya ve yanıtlardaki hassas veriyi gerçek zamanlı tespit edip engelleyen, maskeleyen veya uyaran bir veri kaybı önleme katmanıdır. Klasik DLP'nin sohbet ve API trafiğine uyarlanmış halidir.
AI DLP (Data Loss Prevention, veri kaybı önleme), çalışanların ve uygulamaların yapay zekâ servislerine gönderdiği prompt, yüklenen dosya ve dönen yanıtlardaki hassas veriyi tespit edip engelleyen, maskeleyen veya uyaran kontrol katmanıdır. Amaç, veriyi model sağlayıcısının sınırına çıkmadan önce yakalamaktır. Çünkü prompt bir kez gönderildiğinde geri alınamaz: veri, sağlayıcının altyapısına, kayıtlarına ve sözleşme koşullarına tabi olur. Kişisel veri, kaynak kod, finansal tablo ve sözleşme metni gibi içeriklerin bir sohbet kutusuna yapıştırılması sıradan bir kolaylık gibi görünür; ancak fiilen bir veri aktarımıdır.
Prompt’lar neden yeni bir sızıntı kanalı?
Geleneksel DLP, bir dosyanın e-postaya eklenmesini veya buluta yüklenmesini izlemek için tasarlandı. Yapay zekâ servislerinde ise veri çoğunlukla dosya olarak değil, yapıştırılmış metin olarak çıkar. Bir analist müşteri şikâyet yazışmasını özetletmek için tamamını kopyalar; bir geliştirici hata ayıklamak için bağlantı dizesi içeren yapılandırma dosyasını yapıştırır; bir hukukçu sözleşme maddesini yeniden yazdırır. Hiçbiri kötü niyetli değildir, hepsi veri sızıntısıdır.
Üç özellik bu kanalı farklı kılar:
- Serbest biçim: Metin yapılandırılmış değildir, hassas bilgi cümlenin ortasında geçer.
- Hız ve hacim: Çalışan günde onlarca istek gönderir, manuel inceleme mümkün değildir.
- Yanıt tarafı: Model, bağlamdan hassas bilgiyi yanıtta geri döndürebilir ya da başka bir kaynaktan getirdiği veriyi kullanıcıya sızdırabilir.
OWASP’ın LLM uygulamaları için ilk 10 risk listesi hassas bilgi ifşasını ayrı bir risk kategorisi olarak ele alır; bu da konunun yalnızca çalışan davranışı değil, uygulama tasarımı meselesi olduğunu gösterir.
AI DLP nasıl çalışır?
AI DLP genellikle bir AI Gateway üzerinde ya da tarayıcı ve uç nokta ajanlarıyla birlikte çalışır. İşleyiş şöyledir:
- İstek yakalanır. Prompt, ek dosya ve bağlam metni gateway’e ya da ajana ulaşır.
- Metin çıkarılır ve normalleştirilir. Belgeler, görseldeki metinler ve kodlanmış içerik düz metne çevrilir.
- Hassas veri tespit edilir. Desen (kimlik numarası, IBAN biçimi, anahtar yapısı), sözlük, belge etiketi ve bağlama duyarlı sınıflandırma birlikte uygulanır.
- Politika kararı verilir. Veri sınıfına, kullanıcı rolüne ve hedef modele göre engelle, maskele, uyar veya izin ver.
- Eylem uygulanır ve kaydedilir. Maskeleme yapılmışsa yanıt gelince yer tutucular geri yerleştirilebilir; olay denetim izine yazılır.
- Yanıt da taranır. Modelin döndürdüğü içerik aynı politikadan geçer.
Tespit yöntemleri ve sınırları
| Yöntem | Güçlü yanı | Zayıf yanı | Tipik örnek |
|---|---|---|---|
| Desen / düzenli ifade | Hızlı, öngörülebilir | Biçimi olmayan veriyi kaçırır | Kimlik no, kart no, API anahtarı |
| Sözlük ve anahtar sözcük | Basit, açıklanabilir | Bağlam anlamaz, bakımı zahmetli | Proje kod adları, iç birim adları |
| Belge etiketi / parmak izi | Bilinen belgeyi kesin yakalar | Yeniden yazılmış metni kaçırabilir | Gizlilik etiketli sözleşmeler |
| Bağlama duyarlı sınıflandırma | Serbest metinde anlam yakalar | Yanlış pozitif ve gecikme riski | Müşteri yazışması, kaynak kod |
Hiçbir yöntem tek başına yeterli değildir. Pratikte katmanlı yaklaşım kurulur: kesin desenler için engelleme, belirsiz durumlar için uyarı ve kullanıcı onayı.
Örnek senaryo: Müşteri destek özeti
Bir destek ekibi, uzun müşteri yazışmalarını özetlemek için bir sohbet servisi kullanıyor. Yazışmalarda ad, telefon, adres ve bazen sipariş içeriği geçiyor. AI DLP devreye alındığında ad ve telefon yer tutucularla değiştirilir (“MÜŞTERİ_1”, “TELEFON_1”), model özeti bu yer tutucularla üretir, yanıt döndüğünde gerçek değerler kullanıcı tarafında yeniden yerleştirilir. Ekip aynı verimi alır; sağlayıcıya kişisel veri ulaşmaz. Aynı yazışmada bir kimlik belgesi görseli varsa kural farklıdır: engellenir ve kullanıcıya nedeni gösterilir.
Kurulum için adım adım yol
- Veri sınıflarını netleştirin. Neyin kişisel veri, ticari sır, kaynak kod, yasal olarak korunan bilgi sayıldığını yazılı hale getirin.
- Mevcut kullanımı ölçün. Önce yalnızca izleme modunda çalıştırın; hangi veri türleri gerçekten gidiyor görün.
- Eylem matrisi oluşturun. Her veri sınıfı için engelle, maskele, uyar, izin ver kararını rol ve hedef model bazında belirleyin.
- Kullanıcıya açıklayın. Engellenen kullanıcı nedenini ve alternatif yolu görmelidir; aksi halde kontrolsüz araca yönelir.
- Yanlış pozitifleri takip edin. İstisna süreci ve düzenli kural gözden geçirme takvimi tanımlayın.
- Kayıt politikasını belirleyin. Olay kaydında hassas içeriğin kendisini saklamayın; maskelenmiş özet yeterlidir.
Yaygın hatalar
- Yalnızca engelleme kurgulamak. Her şeyi engelleyen sistem çalışanı kontrolsüz yollara iter; bu da Shadow AI sorununu büyütür.
- Yanıt tarafını atlamak. Hassas veri modelden de gelebilir; yalnızca giden trafiği taramak yarım korumadır.
- Tespiti desen eşleştirmeyle sınırlamak. Kaynak kod ve sözleşme metni sabit desenle yakalanmaz.
- Hukuki çerçeveyi sona bırakmak. İzleme kapsamı ve kişisel verinin işlenmesi için KVKK değerlendirmesi baştan yapılmalıdır.
- Olay kaydında ham prompt saklamak. Koruma için kurulan sistem yeni bir hassas veri deposuna dönüşebilir.
Eylem seçimi: engellemek, maskelemek, uyarmak
AI DLP’nin başarısı, tespit kadar tepkinin de doğru seçilmesine bağlıdır. Aynı tespit farklı bağlamlarda farklı eylem gerektirir.
| Eylem | Ne zaman uygun | Dikkat edilecek nokta |
|---|---|---|
| Engelle | Kimlik doğrulama bilgisi, anahtar, parola, özel nitelikli veri | Kullanıcıya neden engellendiği ve alternatifin ne olduğu açıkça gösterilmeli |
| Maskele | Ad, telefon, adres gibi görev için gerekli olmayan tanımlayıcılar | Yer tutucunun yanıtta tutarlı kalması, geri yerleştirmenin güvenli yapılması |
| Uyar ve onay iste | Belirsiz, bağlama bağlı içerik (örn. gizlilik etiketsiz belge) | Uyarı yorgunluğu: her şey uyarı üretirse kimse okumaz |
| İzin ver ve kaydet | Düşük riskli, onaylı araçtaki rutin kullanım | Kayıt, hassas içeriği değil, olay özetini saklamalı |
Eylem matrisi tek seferde mükemmel kurulmaz. İzleme verisi geldikçe, hangi kuralın gereksiz engel ürettiği ve hangisinin boşluk bıraktığı görülür.
Dosya yükleme, görsel ve kod: ayrı zorluklar
Yalnızca düz metin prompt’ları taramak yetmez. Üç içerik türü özel dikkat ister.
Dosya yüklemeleri. PDF, tablo ve sunum dosyaları içindeki metin çıkarılıp taranmalıdır. Büyük dosyalarda tarama süresi kullanıcı deneyimini etkiler; boyut ve tür sınırı koymak makul bir denge sağlar.
Görseller. Ekran görüntüleri, taranmış belgeler ve fotoğraflar hassas veri taşıyabilir. Görseldeki metnin çıkarılması (OCR) ve gerekirse görsel yüklemeyi belirli roller için kapatmak seçenekler arasındadır.
Kaynak kod. Kod parçalarında parola, anahtar ve bağlantı dizeleri sık görülen sızıntı kaynağıdır. Gizli bilgi tarayıcıları ve depo bazlı sınıflandırma, desenle birlikte kullanıldığında etkilidir. Kodun kendisi ticari sır sayılıyorsa, hangi depoların hangi araçlara gönderilebileceği ayrıca kurala bağlanmalıdır.
RAG ve kurum içi veri kaynaklarında DLP
Kuruma özel bir asistan, dahili belge arşivinden bilgi getirip modele bağlam olarak veriyor olabilir. Bu mimaride sızıntı yönü değişir: kullanıcı hassas veri yazmasa bile, model yetkisi olmayan bir belgeden bilgiyi yanıta taşıyabilir. Koruma için şunlar gerekir:
- Arama aşamasında kullanıcının kendi yetkisine göre filtreleme; model yalnızca o kişinin görebileceği belgeyi bağlama alsın.
- Belge etiketlerinin (gizlilik düzeyi) arama sonuçlarıyla birlikte taşınması.
- Yanıtın çıkışta taranması; etiketli içeriğin yanıtta yer alması halinde engelleme.
- Hangi belgenin hangi yanıta katkı verdiğini gösteren kayıt.
OWASP’ın LLM risk listesindeki hassas bilgi ifşası kategorisi bu mimariyi de kapsar; tek bir kontrol yerine giriş, bağlam ve çıkış katmanlarının birlikte düşünülmesi gerekir.
Başarıyı nasıl ölçersiniz?
DLP projelerinde sık yapılan hata, yalnızca “kaç istek engellendi” diye sormaktır. Daha anlamlı göstergeler şunlardır:
- Engellenen isteklerin kaçı gerçek riskti, kaçı yanlış pozitifti?
- Onaylı araç kullanımı arttı mı, yoksa kullanıcılar kontrolsüz kanallara mı kaydı?
- Bir olay yaşandığında, hangi verinin hangi araca gittiği ne kadar sürede belirlenebiliyor?
- Çalışanlar neden engellendiğini anlıyor mu? Destek taleplerinin türü bunu gösterir.
Karar özeti
Çalışanlarınız harici yapay zekâ servislerini düzenli kullanıyorsa ve bu servislere kişisel veri, kaynak kod ya da ticari sır gidebiliyorsa AI DLP gerekir. Önce izleme modunda başlayın, veri sınıflarını belirleyin, sonra eylemleri kademeli olarak açın. Teknik kontrol, yazılı politika ve çalışan eğitimi birbirini tamamladığında etkili olur.
Nanda Teknoloji ile ilerlemek
Nanda Teknoloji bu tür projelerde keşif, tasarım, geçiş ve işletim adımlarını yürütür: veri sınıflarının belirlenmesi, izleme aşamasında gerçek kullanımın ölçülmesi, eylem matrisinin kurulması ve işletimi. Yaklaşımımız için AI DLP çözüm sayfasına, trafiği tek noktaya toplayan katman için AI Gateway çözümüne bakabilirsiniz.