ChatGPT ve LLM'leri şirkette güvenle kullanma rehberi

Ekipleriniz büyük olasılıkla ChatGPT'yi zaten kullanıyor — sorun şu ki, çoğu şirkette bu kullanım plansız ve kuralsız ilerliyor. Müşteri verisinin herkese açık bir sohbet penceresine yapıştırılması ile kurumsal, denetlenebilir bir yapay zekâ altyapısı arasında büyük fark var. Bu rehber o farkı kapatmak için.

Önce riskleri adlandıralım

• Veri sızıntısı — ücretsiz sohbet arayüzlerine girilen veriler, sağlayıcının koşullarına göre eğitimde kullanılabilir.
• Halüsinasyon — model, emin görünerek yanlış bilgi üretebilir; kaynak göstermeden ürettiği her şey doğrulanmalıdır.
• KVKK uyumsuzluğu — kişisel verinin yurt dışı API'lere aktarımı, aydınlatma ve veri işleme sözleşmesi gerektirir.
• Bağımlılık — kritik bir sürecin tek tedarikçinin API'sine kilitlenmesi fiyat ve erişim riski taşır.

Kurumsal kullanım için temel kurallar

• Ücretsiz/kişisel hesaplar yerine kurumsal API veya işletme planı kullanın — bu planlarda veriniz eğitime dahil edilmez.
• Müşteri adı, TC kimlik, telefon gibi kişisel verileri istem (prompt) öncesi maskeleyin; çoğu senaryoda modelin gerçek kimliğe ihtiyacı yoktur.
• Hangi ekip hangi araçla hangi veri türünü işleyebilir — tek sayfalık bir kullanım politikası yazın ve duyurun.
• Model çıktılarının insan onayından geçtiği noktaları süreç şemasında işaretleyin.

Doğruluk sorununu mimariyle çözmek

Halüsinasyon, modelin hatası değil doğasıdır; çözüm modeli azarlamak değil, doğru mimari kurmaktır.

• RAG — modelin yalnızca sizin dokümanlarınızdan cevap üretmesini sağlar; kaynak gösterebilir.
• Yapılandırılmış çıktı — serbest metin yerine şemaya bağlı (JSON) çıktı almak, hatayı yazılımla yakalanabilir kılar.
• Değerlendirme seti — kritik kullanım alanları için örnek soru-cevap setiyle düzenli doğruluk ölçümü yapın.

KVKK özelinde dikkat edilecekler

• Kişisel veri içeren istemlerde veri işleme envanterinizi güncelleyin; API sağlayıcıyla veri işleme sözleşmesi (DPA) yapın.
• Yurt dışına veri aktarımı için açık rıza veya standart sözleşme mekanizmalarını hukuk ekibinizle netleştirin.
• Konuşma ve istem loglarının saklama süresini tanımlayın; sonsuza dek log tutmak da bir risktir.

Pratik başlangıç planı

Tek bir departman (ör. müşteri destek) seçin, onaylı araç ve maskeleme kuralıyla 4 haftalık pilot yürütün, sonuçları ölçün ve politikayı bu deneyimle güncelleyin. Kurumsal yapay zekâ altyapınızı — güvenli API katmanı, maskeleme, loglama — kurmak için destek isterseniz iletişime geçin.