AI Güvenliği ve Yönetişimi

Shadow AI nedir? Çalışanların ChatGPT kullanımını güvenle yönetmek

Nanda Teknoloji Mühendislik Ekibi · · 6 dk okuma

Kısaca

Shadow AI, çalışanların BT ve güvenlik ekibinin bilgisi olmadan ChatGPT, Claude veya Gemini gibi AI araçlarını iş verisiyle kullanmasıdır. Yasaklamak çoğu zaman işe yaramaz; görünürlük, onaylı alternatif, net politika ve DLP kontrolleriyle yönetmek daha sürdürülebilirdir.

Shadow AI, çalışanların BT ve güvenlik ekibinin bilgisi ya da onayı olmadan ChatGPT, Claude, Gemini gibi üretken yapay zekâ araçlarını iş verisiyle kullanmasıdır. Niyet çoğunlukla iyidir: e-posta taslağı yazmak, toplantı notu özetlemek, kod hatası ayıklamak. Sorun, bu işlerde müşteri bilgisi, sözleşme metni ya da kaynak kodun kurumun denetimi dışındaki bir servise gönderilmesidir. Veri bir kez dışarı çıktığında nerede saklandığı, kimlerin görebildiği ve nasıl silineceği kurumun elinde değildir. Çözüm yasaklamak değil, görünürlük kazanmak, onaylı bir alternatif sunmak, açık bir politika yazmak ve teknik kontrollerle desteklemektir. Bu yazı, riskin nereden geldiğini ve bunu adım adım nasıl yönetebileceğinizi anlatıyor.

Shadow AI neden yaygınlaşıyor?

Üretken yapay zekâ araçlarına erişim tarayıcı ve birkaç dakikalık bir kayıtla mümkündür; kurulum, satın alma onayı ya da BT desteği gerekmez. Üretkenlik kazancı da çalışan için hemen görünür. Kurumsal süreçler ise yeni bir aracı değerlendirme, hukuki inceleme ve satın alma adımlarıyla haftalar alır. Bu hız farkı doğal olarak boşluk yaratır ve çalışanlar boşluğu kişisel hesaplarla doldurur. Kavramın tanımı için Shadow AI sözlük girişine de bakabilirsiniz.

Shadow AI’ın başlıca riskleri

Risk Nasıl ortaya çıkar Örnek
Veri sızıntısı Hassas verinin prompt olarak dış servise gönderilmesi Müşteri listesinin özetlenmek üzere yapıştırılması
Kişisel veri ve KVKK Kişisel verinin yurt dışı ya da sözleşmesiz servise aktarılması İK kayıtlarının analizi için kullanılması
Fikri mülkiyet kaybı Kaynak kod veya ürün planının paylaşılması Hata ayıklamak için tüm modülün yapıştırılması
Güvenilmez çıktı Modelin yanlış ama ikna edici yanıt üretmesi Hukuki ya da finansal metinde doğrulanmamış bilgi
Uyum ve sözleşme ihlali Müşteri sözleşmesinin üçüncü tarafla veri paylaşımını yasaklaması Müşteri dokümanının onaysız araca yüklenmesi
Kimlik ve erişim Kişisel hesapların ve eklentilerin kurumsal verilere erişmesi AI tarayıcı eklentisinin e-posta içeriğine izin alması

Kişisel veri boyutu için KVKK Kurumu kaynaklarına ve kurumunuzun hukuk birimine danışmak yerinde olur.

Görünürlük: önce ne kullanıldığını öğrenin

Yönetemediğinizi ölçemezsiniz. İlk adım, hangi AI araçlarının hangi birimlerde, hangi amaçla kullanıldığını çıkarmaktır.

  1. Ağ ve güvenlik ağ geçidi günlükleri. Bilinen AI servis alan adlarına yönelik trafik hacmini ve kullanıcı dağılımını gösterir.
  2. SaaS ve tarayıcı eklentisi envanteri. Kurumsal yönetilen tarayıcılarda yüklü AI eklentileri listelenir.
  3. Kimlik sağlayıcı kayıtları. Kurumsal e-postayla açılmış hesaplar ve OAuth izinleri incelenir.
  4. Çalışan anketi ve görüşmeler. Teknik izleme göremeyeceği kişisel cihaz kullanımını ve gerçek ihtiyaçları ortaya çıkarır. Suçlayıcı olmayan bir dil kullanın; amaç cezalandırmak değil ihtiyacı anlamaktır.
  5. Departman bazlı kullanım senaryoları. Pazarlama, yazılım, hukuk ve İK farklı riskler taşır; ayrı ayrı değerlendirin.

Yönetim stratejisi: yasaklamak yerine yönlendirmek

Tam yasak çoğu kurumda şu sonucu verir: kullanım kişisel telefona ve evdeki bilgisayara kayar, görünürlük sıfırlanır. Daha dayanıklı yaklaşım dört ayaklıdır.

1. Onaylı alternatif sunun

Çalışanların ihtiyacını karşılayan, kurumsal koşullarla (veri saklama, eğitimde kullanmama, erişim kontrolü) değerlendirilmiş bir araç ya da kurum içi çözüm sağlayın. Onaylı yol kolay ve yararlı değilse kimse ona geçmez.

2. Net ve kısa bir politika yazın

Politika, hangi veri türlerinin hangi araç sınıfına gönderilebileceğini tablo halinde söylemelidir. Örnek bir sınıflandırma şöyle olabilir:

Veri sınıfı Onaysız kamusal araç Onaylı kurumsal araç Kurum içi (private) model
Herkese açık bilgi İzinli İzinli İzinli
İç kullanım Yasak İzinli İzinli
Müşteri ve kişisel veri Yasak Koşullu, anonimleştirilmiş İzinli
Sır niteliğinde (kaynak kod, finans) Yasak Yasak ya da özel onaylı Koşullu

Politika yazımı için kurumsal AI kullanım politikası yazımıza göz atabilirsiniz.

3. Teknik kontrollerle destekleyin

Politika tek başına yetmez; hata yapmayı zorlaştıran kontroller gerekir. AI DLP çözümleri, prompt’lardaki kişisel veri, kimlik numarası ve gizli anahtar gibi içerikleri gönderilmeden önce tespit edip maskeler ya da engeller. AI Gateway ise kurumsal AI trafiğini tek noktadan geçirerek erişim kontrolü, kayıt ve politika uygulamasını merkezileştirir. İkisinin birlikte oluşturduğu çerçeve AI güvenliği başlığı altında ele alınır.

4. Eğitin ve geri bildirim döngüsü kurun

Çalışanlara “ne yapmamalı” kadar “nasıl güvenle yapılır” göstermek gerekir: hassas bilgiyi çıkarıp genelleştirmek, örnek veri kullanmak, yanıtı doğrulamadan kullanmamak. Kullanıcılardan yeni araç talepleri toplayan hızlı bir inceleme kanalı, gölge kullanımı azaltır.

Çerçeve ve standartlar

Yapay zekâ risk yönetimini bütüncül ele almak için NIST AI Risk Management Framework yönet-haritala-ölç-yönet mantığıyla yol gösterir. Yapay zekâ uygulamalarına özgü teknik riskler için ise OWASP Top 10 for LLM Applications listesi başvuru kaynağıdır.

Uygulama planı: ilk 30 gün

  1. Hafta 1: Yönetim sponsoru belirleyin; güvenlik, hukuk, İK ve BT’den küçük bir ekip kurun.
  2. Hafta 2: Görünürlük çalışması: günlükler, eklenti envanteri, kısa anket.
  3. Hafta 3: Veri sınıflandırma tablosunu ve kullanım politikasının ilk taslağını yazın; onaylı araç adaylarını değerlendirin.
  4. Hafta 4: Pilot grupla onaylı aracı açın, DLP ve günlük kontrollerini devreye alın, eğitim materyalini yayımlayın.
  5. Sürekli: Aylık kullanım raporu, olay kaydı ve politika gözden geçirmesi.

Bir senaryo: hukuk biriminde iyi niyetli ihlal

Bir şirketin hukuk biriminden bir çalışan, uzun bir tedarikçi sözleşmesini özetletmek için metni kamusal bir AI aracına yapıştırır. Sözleşme, gizlilik hükmü taşıyan ticari koşullar ve karşı tarafın kişisel verilerini içerir. Çalışan hiçbir kötü niyet taşımaz; amacı zaman kazanmaktır. Ancak sözleşmedeki gizlilik yükümlülüğü ihlal edilmiş olabilir ve kişisel veri üçüncü bir servise aktarılmıştır. Olay fark edildiğinde ne yapılacağı önceden belirlenmemişse süreç karışır. Hazırlıklı bir kurumda ise sözleşme türleri için onaylı bir araç ya da kurum içi model vardır, politika tablosu bu veri sınıfını açıkça belirtir ve DLP kontrolü sözleşme gibi belgelerdeki kimlik numarası ve gizlilik ifadelerini yakalayıp uyarı verir.

Olay yönetimi: veri yanlış araca gönderildiğinde

Her kontrole rağmen ihlal olabilir. Çalışanların cezadan korkmadan bildirebilmesi, hasarı küçültmenin en etkili yoludur.

  1. Bildirim kanalı açın. Kısa, anonim olabilen bir form ve net bir sorumlu belirleyin.
  2. Kapsamı belirleyin. Hangi veri, hangi araca, hangi hesapla gönderildi? Araç kayıtlara ve silme taleplerine izin veriyor mu?
  3. Hukuki ve sözleşmesel değerlendirme yapın. Kişisel veri ya da müşteri verisi söz konusuysa bildirim yükümlülükleri hukuk birimiyle değerlendirilir.
  4. Gerekli adımları atın. Hesap ve geçmiş silme talebi, ilgili paylaşım bağlantılarının kapatılması, gerekirse ilgili tarafların bilgilendirilmesi.
  5. Kalıcı iyileştirme yapın. Olayın hangi boşluktan kaynaklandığını bulun: eğitim eksikliği, onaylı aracın yetersizliği ya da teknik kontrol açığı.

Yaygın hatalar

  • Yalnızca yasaklamak. Kullanım yeraltına iner, görünürlük kaybolur.
  • Onaylı alternatif sunmamak. İhtiyaç sürer, çözüm yolu çalışanın kendi hesabıdır.
  • Politikayı uzun ve belirsiz yazmak. Kimse okumaz; tablo ve örnek daha etkilidir.
  • Yalnızca teknik kontrole güvenmek. DLP imza tanımayan bağlamsal hassas bilgiyi kaçırabilir; eğitimle birlikte yürütülmelidir.
  • Kişisel cihazı unutmak. Kurumsal ağ dışında kalan kullanım için politika ve yönetilen cihaz kuralları gerekir.
  • Çıktıyı doğrulamamak. Modelin ürettiği metin, kod ya da hukuki yorum insan incelemesinden geçmeden kullanılmamalıdır.

Karar özeti

Durumunuz İlk adım
Kullanımı bilmiyorsunuz Görünürlük çalışması ve anket
Kullanım var, politika yok Veri sınıflandırma tablosu ve kısa politika
Politika var, uygulama zayıf AI DLP ve AI Gateway ile teknik kontrol
Hassas veriyle çalışıyorsunuz Onaylı kurumsal ya da kurum içi model değerlendirmesi

Nanda Teknoloji ile ilerlemek

Nanda Teknoloji bu tür projelerde keşif, tasarım, geçiş ve işletim adımlarını yürütür: mevcut AI kullanımının çıkarılması, politika ve veri sınıflandırmasının kurgulanması, ardından DLP ve ağ geçidi katmanlarının devreye alınması. Genel çerçeveyi AI güvenlik sayfasında bulabilirsiniz.

Sık sorulan sorular

Shadow AI ile Shadow IT aynı şey mi?

Benzerdir; ikisi de onaysız teknoloji kullanımıdır. Shadow AI'da fark, verinin yalnızca saklanmayıp model girdisi olarak dış servise gönderilmesi ve yanıtların iş kararlarını etkileyebilmesidir.

AI araçlarını tamamen yasaklamak çözüm mü?

Genellikle değil. Çalışanlar kişisel cihaz ve hesaplarla kullanmaya devam eder ve görünürlük kaybolur. Onaylı bir alternatif ve açık kurallar daha etkilidir.

Çalışanlar hangi verileri paylaşmamalı?

Kişisel veriler, müşteri bilgileri, kaynak kod, parolalar ve anahtarlar, finansal tablolar, sözleşmeler ve henüz yayımlanmamış ürün bilgileri gibi hassas veriler paylaşılmamalıdır.

Shadow AI görünürlüğü nasıl sağlanır?

Ağ ve güvenlik ağ geçidi günlükleri, tarayıcı eklentisi envanteri, SaaS keşfi ve çalışan anketleri bir araya getirilerek hangi araçların kullanıldığı çıkarılır.

İlgili çözümler

İlgili yazılar

AI Güvenliği ve Yönetişimi

AI DLP nedir? Prompt'larla veri sızıntısını önlemek

AI DLP, prompt ve yanıtlardaki hassas veriyi model servisine ulaşmadan tespit edip engeller ya da maskeler. Nasıl çalıştığını ve nasıl kurgulanacağını öğrenin.

· 6 dk okuma

Kritik sistemlerinizi birlikte planlayalım

İhtiyacınızı anlatın; ekibimiz uygun mimariyi ve geçiş yolunu sizinle netleştirsin.