Güvenlik filtrelerini yapılandırın

Güvenlik Filtreleri, CID222'nin bir istemde ya da model yanıtında neyi arayacağına ve bulduğunda ne yapacağına karar verdiğiniz yerdir. Bir kural eşleşmeyi maskeleyebilir, işaretleyip geçirebilir ya da mesajın tamamını reddedebilir. Yanıt tarafındaki kurallar aynı sayfanın ikinci sekmesindedir.

Üç nesne üst üste gelir. Filtre grubu filtreleri tutar ve hepsini tek seferde kapatabilir. Filtre, eylemi, önceliği ve tepki verdiği model varlık türlerini taşır. Desen, bir filtrenin altındaki tek bir düzenli ifadedir. Deseni ve varlık türü olmayan bir filtre, Aktif anahtarı ne derse desin hiçbir şey tespit etmez.

Bir giriş filtresi oluşturun

Desen ekleyin ve test edin

Yeni bir filtre, bir deseni ya da varlık bağlantısı olana kadar hiçbir şeyle eşleşmez. Düzenle penceresinde desenler bulunmaz — desenler satır menüsünün ardındadır.

Regex güvenliği

Her desen her isteğe karşı çalıştığı için ağ geçidi şu desenleri reddeder:

• derlenemeyen ya da 1000 karakteri aşan desenler;
• felaket geri izleme biçimindeki desenler — gövdesi niceleyicili bir niceleyici grup ((a+)+), yinelenen dalları olan tekrarlı seçenekler ((a|a)*) ya da zincirlenmiş açık joker karakterler (.*.*);
• düşmanca deneme girdisinde 50 ms bütçesini aşan desenler.

Kapsam genişliğine ilişkin kaygılar — her şeyle eşleşen bir desen, sabitlenmemiş kısa bir desen, saçma bir tekrar sayısı — alanın yanında uyarı olarak görünür ve kaydetmeyi engellemez.

Bir tarifle kural taslağı çıkarın

Tarif edeyim, düz dili ve örnekleri aday desenlere dönüştürür, bunları derler ve hiçbir şey yazılmadan önce örneklerinizde çalıştırır.

Özel engelleme mesajı

Varsayılan olarak reddedilen bir istem kullanıcıya yalnızca eşleşen varlık türlerini söyler — "Message contains prohibited content: CONFIDENTIAL_LEAKED_DATA". Bu, dâhili bir etikettir. Bunun yerine filtre, sizin yazdığınız bir cümleyi taşıyabilir; "engelle ve kullanıcıyı uyar" politikasının ihtiyacı budur.

Metin filtrenin config.user_message alanında durur (ai_input_filters.config, en fazla 500 karakter). Add Input Filter penceresinde henüz bu alan yoktur; yönetim API'si ile ya da bir filtre paketiyle ayarlanır:

{
  "filter_name": "conf-leaked-data",
  "action_type": "reject",
  "config": {
    "user_message": "Bu istek engellendi: içerik izinsiz elde edilmiş veri gibi görünüyor. / Blocked: this content looks like improperly obtained data."
  }
}

Kullanıcının mesajı gördüğü yerler:

Bir isteme birden fazla reddeden filtre uyduğunda, tespitlerin hâlihazırdaki sıralamasında mesaj taşıyan ilk filtre kazanır. config taşımayan bir filtre varsayılan metni korur; siz bir tane ayarlayana kadar hiçbir şey değişmez.

Bir kuralı tek bir kiracı grubu için geçersiz kılın

Öncelik sırası temel < grup < kiracıdır. Kiracı düzeyindeki bir geçersiz kılma en özgüldür ve kesin olarak kazanır; kiracı bazlı geçersiz kılmalar bu sayfadan değil, /admin/filter-overrides API'si üzerinden yazılır.

Bir tespit motorunu bir grup için kapatın

Tablonun üzerindeki beş kutucuk — PII tespiti, Sır ve veri sızıntısı, İçerik güvenliği, Jailbreak ve enjeksiyon, Kod güvenliği — aynı tespit servisi çağrısını paylaşan filtreleri gruplar.

Dışa aktarın, içe aktarın ya da bir referans politika uygulayın

Referans politikalar birer eylem politikası paketidir: yalnızca kimlik, eylem ve açık/kapalı durumunu taşırlar; bu nedenle onlar için kip seçici devre dışıdır ve bilinmeyen bir başvuru, içe aktarmayı başarısız kılmak yerine uyarıya dönüşür. Çıkış filtrelerinin geçersiz kılma tablosu yoktur, dolayısıyla gruba yönelik bir içe aktarma çıkış bölümünü bir uyarıyla atlar.

Çıkış filtreleri

Çıktı Filtreleri sekmesi, modelin yanıtına uygulanan kuralları tutar. Bunlar kendi eylemleri olan ayrı bir tablodur ve kendilerine ait regex desenleri yoktur.

• Filtre türleri PII Tespiti, İçerik Politikası, Halüsinasyon ve Regex'tir.
• Eylemler Maskele, Reddet, İşaretle ve Uyar'dır. Uyar bir uyarı gösterir ve yanıtı korur; dolayısıyla işaretlemeyle aynı artık maruziyeti bırakır.
• Çıktı Filtresi Ekle ile bir tane oluşturun; pencere Grup, Filtre Adı, Filtre Türü, Eylem Türü, Doğrulama Varlık Türü, ML Varlık Türleri ve Öncelik bilgilerini ister.
• Çıkış kuralları geneldir. Bir çıkış geçersiz kılma katmanı yoktur: ai_filter_overrides giriş filtresi kimliklerini adresler, dolayısıyla bir kiracı ya da grup geçersiz kılması hiçbir zaman bir yanıt kuralına ulaşmaz.

Alan başvurusu

Girdi Filtresi Ekle / Filtre Düzenle

Girdi filtreleri tablosu

Doğrulama

1. Kural, belirlediğiniz eylem, öncelik ve Aktif durumuyla tabloda görünür ve Tespit yöntemleri hücresi Hiçbir şey tespit etmiyor değildir.
2. AI Chat üzerinden eşleşmesi gereken bir mesaj gönderin, ardından Tüm tespitler sayfasını açıp beklediğiniz sonuca sahip bir satır olduğunu doğrulayın.
3. Olay Günlükleri sayfasını açın. Bir eylemi ya da bir Aktif anahtarını değiştirmek, değişen alan başına bir POLICY_PROTECTION_CHANGED satırı yazar ve önceki ile sonraki değeri taşır; böylece bir zayıflatma, yeniden etkinleştirmeden ayırt edilebilir. Ad değişiklikleri ve öncelik düzenlemeleri hiçbir şey yazmaz.
4. Dışa aktarma bir FILTER_BUNDLE_EXPORTED satırı yazar; tamamlanmış bir içe aktarma ise filter_bundle kaynak türüne karşı bir RESOURCE_UPDATED satırı yazar ve kipi, hedef kapsamı, sağlama toplamını ve değişiklik sayılarını taşır.

Başarısız olursa

• Kural desen test aracında eşleşiyor ama gerçek trafikte hiçbir şey yapmıyorsa: hem filtrenin hem grubunun Aktif durumunu denetleyin. Pasif bir kural test aracında yine de eşleşir.
• Satırda Hiçbir şey tespit etmiyor — filtrenin ne bir deseni ne de bir ML Varlık Türleri değeri vardır. Menüyü aç → Desenler öğesini açıp bir tane ekleyin.
• Nested quantifiers detected …, Repeated alternation contains duplicate branches … ya da Multiple consecutive .* / .+ sequences … — desen, felaket geri izleme riski olarak reddedildi. Niceleyiciyi sınırlayın, örneğin {1,20}.
• Pattern is {n} characters; the maximum is 1000. — deseni kısaltın ya da ikiye bölün.
• Could not check this pattern — the server did not respond. Saving is blocked until it can be verified. — ağ geçidine panodan erişilemiyor; düzenleyici doğrulanmamış bir deseni kaydetmeyi reddeder.
• Filter group "{name}" still contains {n} filter(s): … Delete them first, or repeat this request with ?cascade=true to remove them together. — grup boş değildir.
• The filter configuration changed after this preview was taken. Re-run the preview and confirm the new diff. — önizlemenizle onayınız arasında başka biri bir filtreyi değiştirdi. Yeniden önizleyin.
• Bundle failed validation; nothing was imported. — paket bozuktur ya da bu cihazın çözümleyemeyeceği nesnelere başvuruyordur. Yanıt hataları listeler.
• This is a read-only demo account (viewer role) — actions and changes are disabled. — istek READ_ONLY_ROLE ile reddedildi. viewer olmayan bir hesapla oturum açın.

Sonraki adımlar

• Filtre testi — bir kuralın, üretime çıkmadan önce sandığınız şeyi yakaladığını kanıtlayın.
• Tüm tespitler — kuralların her yakalama noktasında gerçekte neyi yakaladığını görün.
• Kiracı grupları — bu sayfanın düzenlediği geçersiz kılmaların ait olduğu grubu oluşturun.