Tespit motorlarına genel bakış

Tespit CID222'ye özgüdür: ürünün birlikte gönderdiği modeller ve ürünün sahibi olduğu bir karar verici. Her model kendi konteynerinde çalışır ve HTTP üzerinden çağrılır; böylece biri ağ geçidine dokunulmadan ölçeklenebilir ya da değiştirilebilir. Bu sayfa haritadır; güvenlik kılavuzu ayrıntıdır.

Sorun

Tek bir tespit motoru ya fazla gürültülüdür ya fazla sessiz. Düzenli bir ifade hiç görmediği bir adı kaçırır ve yalnızca kimlik numarasına benzeyen bir sayıda tetiklenir. Bir sınıflandırıcı bir kart numarasının gerçek olduğunu kanıtlayamaz ve kendini açıklayamaz. Bir tespit motorunun varlığını bilen saldırgan da onun etrafından kodlayarak dolanır. Gereken şey, tek bir çözülmüş metni okuyan birden çok tespit motoru, her birinin bulduğunu onaylayacak ya da düşürecek bir yol ve anlaşmazlığı tek bir eyleme dönüştürecek tek bir kuraldır.

CID222 bunu nasıl yapar

İstek sütunundaki her şey aynı normalleştirilmiş metin üzerinde paralel çalışır. Hangi tespit motorlarının atlanacağına karar veren bir yönlendirici ve istek başına örnekleme yoktur: hepsi her seferinde çalışır.

Tespit motorlarından önce: normalleştirme

Önce kaçınma çözücüleri çalışır — ROT13, base64, leetspeak, Unicode benzer karakterler ve büyük/küçük harf — böylece bir tespit motoru metnin nasıl gizlendiğini değil ne anlama geldiğini okur. Tespit yanıtı, hangi çözücülerin tetiklendiğini bildirir.

Tespit motorlarından sonra: tek bir eylem

Bir doğrulama katmanı her bulguyu onaylar ya da düşürür — bir kartta ya da ulusal kimlik numarasında sağlama toplamı, geri kalanında bağlam kuralları — ve karar verici, ayakta kalanları tek bir eyleme katlar. En güçlü olan kazanır: reddetme maskelemeyi, maskeleme işaretlemeyi yener.

Metnin ötesinde

Görseller ve belgeler ayrı bir tespit yığını değildir. Önce metin çıkarılır — görseller için optik karakter tanıma, PDF ve DOCX için bir ayrıştırıcı — sonra sonuç üzerinde aynı motorlar çalışır; politika gerektirdiğinde bir maskeleme hizmeti dosyanın temizlenmiş bir kopyasını üretir.

Tek bir mesajın ötesinde

Tek bir kullanıcıya ait yinelenen jailbreak ve enjeksiyon tespitleri bir kayan pencereyi doldurur. Pencerenin aşılması, trafiği yeniden okumak yerine tespit geçmişini okuyan yerel risk analisti modeli tarafından o kullanıcı için tek bir inceleme açar. Bu, mesaj başına bir iş değildir ve istek yoluna hiçbir şey eklemez.

Sınırlar ve bilinen eksikler

• Halüsinasyon tespiti yalnızca arka planda çalışır ve puanları görecelidir. Yanıt teslim edildikten sonra çalıştığı için hiçbir yanıtı engellemez. İki kontrol noktası token düzeyinde sınıflandırma için eğitilmiştir ve dizi düzeyinde sınıflandırma için yüklenir; puanların arşivlenmiş analizlerle karşılaştırılabilir kalması için olduğu gibi taşınmıştır. Puanı bir olasılık değil, bir sıralama sinyali olarak değerlendirin.
• Halüsinasyon yönlendirmesi algılanan dili yok sayar. Hizmet, çağıranın bildirdiği dile göre yönlendirir ve ağ geçidi şu anda her zaman İngilizce bildirir; bu nedenle Türkçe yanıtlar İngilizce modeliyle puanlanır.
• Kod güvenliği yapılandırılmadıkça kapalıdır. Denetleyici, varsayılan olarak devre dışı olan (CODE_SAFETY_SERVICE_ENABLED) ve Enterprise ile lisanslanan ayrı bir hizmettir. Bozulmuş ya da başarısız bir denetim bilinmiyor demektir, asla temiz değil.
• Dil kapsamı tekdüze değildir. Zararlı içerik ve saldırı puanlaması sabit bir dil kümesini kapsar; kişisel veri modeli tek bir ağırlık kümesi üzerinde çok dillidir; dil algılayıcı ise arkasındaki tespit motorlarının eğitildiğinden çok daha fazla dili tanır.
• Her sayı koşulludur. Gecikme ve doğruluk; metin uzunluğuna, dile, hangi tespit motorunun tetiklendiğine ve filtrenin nasıl yapılandırıldığına bağlıdır. Performans ve doğruluk başvurusu koşulları belirtir; başka bir yerdeki çıplak bir yüzde doğrulanmamıştır.

İlgili

• Güvenlik ve uyumluluk — varlık katalogları, etiket kümeleri, eşikler ve veri işleme.
• İçerik güvenliği hattı — işlemlerin hangi sırayla gerçekleştiği ve çakışan kararların nasıl çözümlendiği.
• Mimari — tespit hizmetlerinin ağ geçidine göre nerede durduğu.