Shadow AI nedir? Çalışanların ChatGPT kullanımını güvenle yönetmek
Nanda Teknoloji Mühendislik Ekibi · · 6 dk okuma
Kısaca
Shadow AI, çalışanların BT ve güvenlik ekibinin bilgisi olmadan ChatGPT, Claude veya Gemini gibi AI araçlarını iş verisiyle kullanmasıdır. Yasaklamak çoğu zaman işe yaramaz; görünürlük, onaylı alternatif, net politika ve DLP kontrolleriyle yönetmek daha sürdürülebilirdir.
Shadow AI, çalışanların BT ve güvenlik ekibinin bilgisi ya da onayı olmadan ChatGPT, Claude, Gemini gibi üretken yapay zekâ araçlarını iş verisiyle kullanmasıdır. Niyet çoğunlukla iyidir: e-posta taslağı yazmak, toplantı notu özetlemek, kod hatası ayıklamak. Sorun, bu işlerde müşteri bilgisi, sözleşme metni ya da kaynak kodun kurumun denetimi dışındaki bir servise gönderilmesidir. Veri bir kez dışarı çıktığında nerede saklandığı, kimlerin görebildiği ve nasıl silineceği kurumun elinde değildir. Çözüm yasaklamak değil, görünürlük kazanmak, onaylı bir alternatif sunmak, açık bir politika yazmak ve teknik kontrollerle desteklemektir. Bu yazı, riskin nereden geldiğini ve bunu adım adım nasıl yönetebileceğinizi anlatıyor.
Shadow AI neden yaygınlaşıyor?
Üretken yapay zekâ araçlarına erişim tarayıcı ve birkaç dakikalık bir kayıtla mümkündür; kurulum, satın alma onayı ya da BT desteği gerekmez. Üretkenlik kazancı da çalışan için hemen görünür. Kurumsal süreçler ise yeni bir aracı değerlendirme, hukuki inceleme ve satın alma adımlarıyla haftalar alır. Bu hız farkı doğal olarak boşluk yaratır ve çalışanlar boşluğu kişisel hesaplarla doldurur. Kavramın tanımı için Shadow AI sözlük girişine de bakabilirsiniz.
Shadow AI’ın başlıca riskleri
| Risk | Nasıl ortaya çıkar | Örnek |
|---|---|---|
| Veri sızıntısı | Hassas verinin prompt olarak dış servise gönderilmesi | Müşteri listesinin özetlenmek üzere yapıştırılması |
| Kişisel veri ve KVKK | Kişisel verinin yurt dışı ya da sözleşmesiz servise aktarılması | İK kayıtlarının analizi için kullanılması |
| Fikri mülkiyet kaybı | Kaynak kod veya ürün planının paylaşılması | Hata ayıklamak için tüm modülün yapıştırılması |
| Güvenilmez çıktı | Modelin yanlış ama ikna edici yanıt üretmesi | Hukuki ya da finansal metinde doğrulanmamış bilgi |
| Uyum ve sözleşme ihlali | Müşteri sözleşmesinin üçüncü tarafla veri paylaşımını yasaklaması | Müşteri dokümanının onaysız araca yüklenmesi |
| Kimlik ve erişim | Kişisel hesapların ve eklentilerin kurumsal verilere erişmesi | AI tarayıcı eklentisinin e-posta içeriğine izin alması |
Kişisel veri boyutu için KVKK Kurumu kaynaklarına ve kurumunuzun hukuk birimine danışmak yerinde olur.
Görünürlük: önce ne kullanıldığını öğrenin
Yönetemediğinizi ölçemezsiniz. İlk adım, hangi AI araçlarının hangi birimlerde, hangi amaçla kullanıldığını çıkarmaktır.
- Ağ ve güvenlik ağ geçidi günlükleri. Bilinen AI servis alan adlarına yönelik trafik hacmini ve kullanıcı dağılımını gösterir.
- SaaS ve tarayıcı eklentisi envanteri. Kurumsal yönetilen tarayıcılarda yüklü AI eklentileri listelenir.
- Kimlik sağlayıcı kayıtları. Kurumsal e-postayla açılmış hesaplar ve OAuth izinleri incelenir.
- Çalışan anketi ve görüşmeler. Teknik izleme göremeyeceği kişisel cihaz kullanımını ve gerçek ihtiyaçları ortaya çıkarır. Suçlayıcı olmayan bir dil kullanın; amaç cezalandırmak değil ihtiyacı anlamaktır.
- Departman bazlı kullanım senaryoları. Pazarlama, yazılım, hukuk ve İK farklı riskler taşır; ayrı ayrı değerlendirin.
Yönetim stratejisi: yasaklamak yerine yönlendirmek
Tam yasak çoğu kurumda şu sonucu verir: kullanım kişisel telefona ve evdeki bilgisayara kayar, görünürlük sıfırlanır. Daha dayanıklı yaklaşım dört ayaklıdır.
1. Onaylı alternatif sunun
Çalışanların ihtiyacını karşılayan, kurumsal koşullarla (veri saklama, eğitimde kullanmama, erişim kontrolü) değerlendirilmiş bir araç ya da kurum içi çözüm sağlayın. Onaylı yol kolay ve yararlı değilse kimse ona geçmez.
2. Net ve kısa bir politika yazın
Politika, hangi veri türlerinin hangi araç sınıfına gönderilebileceğini tablo halinde söylemelidir. Örnek bir sınıflandırma şöyle olabilir:
| Veri sınıfı | Onaysız kamusal araç | Onaylı kurumsal araç | Kurum içi (private) model |
|---|---|---|---|
| Herkese açık bilgi | İzinli | İzinli | İzinli |
| İç kullanım | Yasak | İzinli | İzinli |
| Müşteri ve kişisel veri | Yasak | Koşullu, anonimleştirilmiş | İzinli |
| Sır niteliğinde (kaynak kod, finans) | Yasak | Yasak ya da özel onaylı | Koşullu |
Politika yazımı için kurumsal AI kullanım politikası yazımıza göz atabilirsiniz.
3. Teknik kontrollerle destekleyin
Politika tek başına yetmez; hata yapmayı zorlaştıran kontroller gerekir. AI DLP çözümleri, prompt’lardaki kişisel veri, kimlik numarası ve gizli anahtar gibi içerikleri gönderilmeden önce tespit edip maskeler ya da engeller. AI Gateway ise kurumsal AI trafiğini tek noktadan geçirerek erişim kontrolü, kayıt ve politika uygulamasını merkezileştirir. İkisinin birlikte oluşturduğu çerçeve AI güvenliği başlığı altında ele alınır.
4. Eğitin ve geri bildirim döngüsü kurun
Çalışanlara “ne yapmamalı” kadar “nasıl güvenle yapılır” göstermek gerekir: hassas bilgiyi çıkarıp genelleştirmek, örnek veri kullanmak, yanıtı doğrulamadan kullanmamak. Kullanıcılardan yeni araç talepleri toplayan hızlı bir inceleme kanalı, gölge kullanımı azaltır.
Çerçeve ve standartlar
Yapay zekâ risk yönetimini bütüncül ele almak için NIST AI Risk Management Framework yönet-haritala-ölç-yönet mantığıyla yol gösterir. Yapay zekâ uygulamalarına özgü teknik riskler için ise OWASP Top 10 for LLM Applications listesi başvuru kaynağıdır.
Uygulama planı: ilk 30 gün
- Hafta 1: Yönetim sponsoru belirleyin; güvenlik, hukuk, İK ve BT’den küçük bir ekip kurun.
- Hafta 2: Görünürlük çalışması: günlükler, eklenti envanteri, kısa anket.
- Hafta 3: Veri sınıflandırma tablosunu ve kullanım politikasının ilk taslağını yazın; onaylı araç adaylarını değerlendirin.
- Hafta 4: Pilot grupla onaylı aracı açın, DLP ve günlük kontrollerini devreye alın, eğitim materyalini yayımlayın.
- Sürekli: Aylık kullanım raporu, olay kaydı ve politika gözden geçirmesi.
Bir senaryo: hukuk biriminde iyi niyetli ihlal
Bir şirketin hukuk biriminden bir çalışan, uzun bir tedarikçi sözleşmesini özetletmek için metni kamusal bir AI aracına yapıştırır. Sözleşme, gizlilik hükmü taşıyan ticari koşullar ve karşı tarafın kişisel verilerini içerir. Çalışan hiçbir kötü niyet taşımaz; amacı zaman kazanmaktır. Ancak sözleşmedeki gizlilik yükümlülüğü ihlal edilmiş olabilir ve kişisel veri üçüncü bir servise aktarılmıştır. Olay fark edildiğinde ne yapılacağı önceden belirlenmemişse süreç karışır. Hazırlıklı bir kurumda ise sözleşme türleri için onaylı bir araç ya da kurum içi model vardır, politika tablosu bu veri sınıfını açıkça belirtir ve DLP kontrolü sözleşme gibi belgelerdeki kimlik numarası ve gizlilik ifadelerini yakalayıp uyarı verir.
Olay yönetimi: veri yanlış araca gönderildiğinde
Her kontrole rağmen ihlal olabilir. Çalışanların cezadan korkmadan bildirebilmesi, hasarı küçültmenin en etkili yoludur.
- Bildirim kanalı açın. Kısa, anonim olabilen bir form ve net bir sorumlu belirleyin.
- Kapsamı belirleyin. Hangi veri, hangi araca, hangi hesapla gönderildi? Araç kayıtlara ve silme taleplerine izin veriyor mu?
- Hukuki ve sözleşmesel değerlendirme yapın. Kişisel veri ya da müşteri verisi söz konusuysa bildirim yükümlülükleri hukuk birimiyle değerlendirilir.
- Gerekli adımları atın. Hesap ve geçmiş silme talebi, ilgili paylaşım bağlantılarının kapatılması, gerekirse ilgili tarafların bilgilendirilmesi.
- Kalıcı iyileştirme yapın. Olayın hangi boşluktan kaynaklandığını bulun: eğitim eksikliği, onaylı aracın yetersizliği ya da teknik kontrol açığı.
Yaygın hatalar
- Yalnızca yasaklamak. Kullanım yeraltına iner, görünürlük kaybolur.
- Onaylı alternatif sunmamak. İhtiyaç sürer, çözüm yolu çalışanın kendi hesabıdır.
- Politikayı uzun ve belirsiz yazmak. Kimse okumaz; tablo ve örnek daha etkilidir.
- Yalnızca teknik kontrole güvenmek. DLP imza tanımayan bağlamsal hassas bilgiyi kaçırabilir; eğitimle birlikte yürütülmelidir.
- Kişisel cihazı unutmak. Kurumsal ağ dışında kalan kullanım için politika ve yönetilen cihaz kuralları gerekir.
- Çıktıyı doğrulamamak. Modelin ürettiği metin, kod ya da hukuki yorum insan incelemesinden geçmeden kullanılmamalıdır.
Karar özeti
| Durumunuz | İlk adım |
|---|---|
| Kullanımı bilmiyorsunuz | Görünürlük çalışması ve anket |
| Kullanım var, politika yok | Veri sınıflandırma tablosu ve kısa politika |
| Politika var, uygulama zayıf | AI DLP ve AI Gateway ile teknik kontrol |
| Hassas veriyle çalışıyorsunuz | Onaylı kurumsal ya da kurum içi model değerlendirmesi |
Nanda Teknoloji ile ilerlemek
Nanda Teknoloji bu tür projelerde keşif, tasarım, geçiş ve işletim adımlarını yürütür: mevcut AI kullanımının çıkarılması, politika ve veri sınıflandırmasının kurgulanması, ardından DLP ve ağ geçidi katmanlarının devreye alınması. Genel çerçeveyi AI güvenlik sayfasında bulabilirsiniz.