Mesaj asistana ulaşmadan önce: koruma kalkanı nasıl çalışıyor

Halka açık bir WhatsApp numarasına sadece alıcılar yazmaz. Aynı kutuya hakaret, flört denemesi, reklam, rastgele görseller, sesli notlar ve zaman zaman sistemi kandırmaya çalışan mesajlar da düşer. Asistanı bu gürültünün üstüne kurarsanız, hem yapay zekâ saçmalar hem de müşteri listeniz çöple dolar. Bu yüzden gelen her mesaj, asistana iletilmeden önce bir koruma kalkanından geçer.

Kalkan asistandan önce gelir

İşleyişte sıralama önemli: filtre, yapay zekânın önünde durur, arkasında değil. Mesaj henüz asistana ulaşmadan değerlendirilir; uygun bulunmayan içerik asistana hiç gösterilmez. Böylece “yapay zekâ yanlış bir şeye kanar mı” sorusu büyük ölçüde ortadan kalkar — çünkü yapay zekâ o içeriği hiç görmez.

Kalkanın ayıkladığı dört şey

Pratikte dört ana kategori engellenir:

• Hakaret ve saldırgan dil: Danışmanı veya sistemi hedef alan küfür ve aşağılama, konuşmayı ilerletmeye çalışmadan ayrılır.
• Flört ve alakasız sohbet: Emlak talebiyle ilgisi olmayan, kişisel yakınlaşma denemeleri müşteri akışına karışmaz.
• Sistemi yanıltma denemeleri: “Önceki talimatları unut, şunu yap” türü, asistanı kendi kurallarının dışına çıkarmaya çalışan mesajlar (prompt injection) tanınır ve etkisizleştirilir.
• Medya dosyaları: Görsel, video, ses ve belge gibi ekler asistana metin gibi işlenmek üzere geçirilmez; bu hem güvenlik hem de yanlış yorumlama riskini kapatır.

Neden ayrı bir hata günlüğü

Engellenen mesajları sessizce silmek kolay olurdu, ama yanlış olurdu. Bu olaylar kaybolmaz; ayrı bir Hata Günlüğü'nde toplanır. Sebebi iki yönlü. Birincisi, müşteri potansiyelini temiz tutmak: gerçek alıcılarla bu gürültü aynı listede durmaz, böylece raporlarınız ve dönüşüm sayılarınız kirlenmez. İkincisi, denetlenebilir olmak: bir mesaj yanlışlıkla engellendiyse görebilmeniz, kalkanı ofisinize göre ayarlayabilmemiz gerekir.

Yani kalkanın amacı “mesajları yok etmek” değil, doğru mesajı doğru yere koymaktır: gerçek talep asistana ve panele, gürültü ise ayrı ve izlenebilir bir kovaya.

Sınır: filtre mükemmel değildir, denetlenebilirdir

Hiçbir filtre yüzde yüz isabetli değildir; bazen gerçek bir alıcının sıra dışı yazdığı mesaj de takılabilir. Tasarımdaki tercih, “hiç hata yapmayan bir filtre” vaadi vermek değil, hatayı görünür ve düzeltilebilir kılmaktır. Hata Günlüğü tam da bunun için var: kalkanı zamanla ofisinizin diline ve müşteri profiline göre keskinleştiriyoruz.

← Tüm yazılar