CID222'ye giriş

CID222, uygulamalarınızın bir LLM sağlayıcısını doğrudan çağırmak yerine çağırdığı bir HTTP ağ geçididir. Sağlayıcı kimlik bilgisini o tutar, istemi sağlayıcı görmeden önce denetler, yanıtı uygulamanız görmeden önce denetler ve her ikisini de kaydeder.

Sorun

Bir sağlayıcı API'siyle konuşan uygulama, kullanıcının yazdığı her şeyi gönderir. Bu metin müşteri adlarını, kart numaralarını, dahili sunucu adlarını ve zaman zaman sızdırılmış bir API anahtarını taşır; sağlayıcıya ulaştığı anda da denetiminizden çıkar. Uygulama yığınındaki hiçbir bileşen istemi okumaz, dolayısıyla hiçbiri onu maskeleyemez, reddedemez veya kurumdan çıktığını kaydedemez. Yanıtı da hiçbir bileşen okumaz; kendisine verilen veriyi geri yansıtan bir model bunu gözlemlenmeden yapar.

CID222 bunu nasıl yapar

Uygulamanız CID222'ye bir CID222 kimlik bilgisiyle istek gönderir. CID222, çağıran kiracıya ait sağlayıcı kimlik bilgisini çözer, tespit pipeline'ını istem üzerinde çalıştırır, temizlenmiş isteği iletir, sağlayıcının yanıtını arabelleğe alır, pipeline'ı yanıtın tamamı üzerinde yeniden çalıştırır ve filtrelenmiş metni döndürür.

İstek yolu

1. Uygulamanız POST /chat/completions adresine bir ağ geçidi API anahtarı veya kullanıcı JWT'si ile istek gönderir.
2. CID222 önce dili tespit eder, ardından kişisel olarak tanımlanabilir bilgi (KKV) tespitini, toksisite tespitini ve jailbreak/enjeksiyon tespitini istem üzerinde paralel olarak çalıştırır.
3. Karar verici, tespitleri tek bir eyleme indirger; öncelik sırası REJECT, sonra MASK, sonra FLAG'dir.
4. MASK veya FLAG durumunda temizlenmiş istem, kiracının saklı kimlik bilgisiyle sağlayıcıya gider. REJECT durumunda sağlayıcı hiç çağrılmaz, dolayısıyla sağlayıcı token'ı harcanmaz.
5. Sağlayıcı token farklarını akış hâlinde geri gönderir. CID222 bunları biriktirir ve hiçbirini iletmez.
6. Yanıt tamamlandığında CID222, metnin tamamı üzerinde KKV ve toksisite tespitini çalıştırır, ardından filtrelenmiş yanıtı tek bir Server-Sent Events (SSE) olayı olarak ve peşinden data: [DONE] ile gönderir.

Tespitin hızlı yolu yaklaşık 150 ms'dir. Toplam gecikmeye 5. adım hâkimdir, çünkü yanıt arabelleğe alınır: model üretimini bitirene kadar istemciniz hiç metin almaz.

CID222 neyi tespit eder

• KKV ve SKB. Ürünle gelen filtre kümesi, 26 varlık türünü adlandıran 11 filtredir — kişiler, e-posta adresleri, telefon numaraları, kredi kartları, IBAN'lar, çeşitli ülkelere ait ulusal kimlik numaraları, pasaportlar, tıbbi lisanslar — düzenli ifadelerle ve bir ONNX adlandırılmış varlık modeliyle eşleştirilir.
• Sızdırılan sırlar. Ayrı bir filtre grubu, istem metnindeki API anahtarlarını ve benzeri kimlik bilgilerini eşleştirir.
• Toksisite. 13 etiketli bir ONNX sınıflandırıcı metni puanlar. Varsayılan engelleme eşiği 0.5'tir; etiket bazlı geçersiz kılmalar toksisite servisinin kendi eşik dosyasında gelir.
• İstem enjeksiyonu ve jailbreak. Bir ONNX çok etiketli sınıflandırıcı ile SQL enjeksiyonu ve siteler arası betik çalıştırma taraması. Engelleme eşikleri model imajına 0.85 olarak gömülüdür ve ortam değişkeniyle geçersiz kılınamaz.
• Görüntüler ve belgeler. Ekli görüntüler optik karakter tanıma (OCR) ile okunur; ekli PDF, DOCX, TXT, CSV ve XLSX belgeleri ayrıştırılır, ardından her ikisi de metin gibi denetlenir ve redakte edilir.
• Halüsinasyon, arka planda. contexts gönderdiğinizde, yanıt zaten döndürüldükten sonra bir bağlam doğrulama kontrolü çalışır. Bir tespit kaydı yazar; akışta hiçbir zaman görünmez.

Her tespit; varlık türü, güven puanı, filtre adı ve uygulanan eylemle birlikte tespit deposuna yazılır ve Tespit ve Filtreleme → Tüm Tespitler altında görülebilir.

Çoklu kiracılık

Her kiracının kendi sağlayıcı kimlik bilgileri, filtreleri ve tespit geçmişi vardır. Kimlik bilgisi çözümlemesi kiracıdan, kiracının üye olduğu kiracı grubuna geri düşer. Sağlayıcı anahtarları AES-256-GCM şifreli metin olarak saklanır; ağ geçidi API anahtarları yalnızca SHA-256 özeti olarak saklanır — anahtar yalnızca bir kez, oluşturulduğunda gösterilir.

Sağlayıcılar ve modeller

Ürünle gelen katalog şudur:

GET /models yalnızca kiracınızın etkin kimlik bilgisine sahip olduğu sağlayıcıların modellerini döndürür; bu nedenle listeniz genellikle bu tablodan kısadır.

Screenshot pendingŞema: uygulamadan CID222'ye, istem üzerinde tespit pipeline'ı, sağlayıcı çağrısı, arabelleğe alınan yanıt, yanıt üzerinde tespit pipeline'ı ve uygulamaya tek bir SSE olayı/assets/screenshots/gateway-request-path@0.4.png

Sınırlar ve bilinen boşluklar

• Yanıt akışı arabelleğe alınır, artımlı değildir. Sağlayıcılar token farklarını akıtır, ancak çıktı filtrelemesinin metnin tamamını değerlendirebilmesi için CID222 bunları tüketir. İstemci önce kontrol olaylarını, sonra üretim boyunca sessizliği, sonra da yanıtın tamamını taşıyan tek bir filtered-response olayını görür. Token başına farklar bekleyen arayüzler uzun bir duraklama ve ardından tek seferde bir metin bloğu gösterir.
• Akışsız bir mod yoktur. POST /chat/completions her zaman text/event-stream döndürür. İstek gövdesi bir stream alanını kabul eder, ancak bunu okuyan hiçbir şey yoktur — stream: false hiçbir şeyi değiştirmez. Gövde üzerinde JSON ayrıştırıcısını çağıran istemci başarısız olur.
• Bilinmeyen istek alanları sessizce atılır. Genel doğrulama, DTO'nun tanımlamadığı gövde alanlarını temizler; bu nedenle yanlış yazılmış bir parametre reddedilmez, yok sayılır ve istek yanlış davranışla başarılı olur.
• Yol önekleri tutarsızdır. Genel bir rota öneki yoktur. Her yüzey kendi kökündedir — /chat, /sessions, /models, /auth — tek istisna /api/v1 altındaki tespit yüzeyidir.
• Ağ geçidi API anahtarları her yüzeye erişmez. /sessions, /image-analysis ve /document-analysis yalnızca kullanıcı JWT'si kabul eder. Kimlik doğrulama sayfasına bakın.
• Yalnızca oturum açma hız sınırlıdır. Giriş ve parola sıfırlama rotalarında IP başına sınır vardır. /chat/completions, /api/v1/guardrails/detect, /sessions, /models, /image-analysis ve /document-analysis hiç hız sınırlanmaz ve API hiçbir X-RateLimit-* başlığı döndürmez.
• Kiracı grubuna ait bir API anahtarı, bir üyenin kimliğini ödünç alır. Anahtar, gruba en önce eklenen üyeye atfedilir. O kullanıcıyı kaldırmak anahtarı iptal etmez; anahtarın kimliğini başka bir üyeye devreder.
• Tespit kalitesi yapılandırmaya bağlıdır. Doğruluk ve gecikme; metin uzunluğuna, hangi tespit motorlarının etkin olduğuna ve kiracının filtrelerinin nasıl yapılandırıldığına göre değişir. 150 ms'lik hızlı yolu bir hizmet seviyesi değil, bir büyüklük mertebesi olarak değerlendirin.

İlgili görevler

• İlk isteğinizi gönderin — bir anahtar oluşturun, sağlayıcı kimlik bilgisi ekleyin ve akışı doğru okuyan ilk isteği yapın.
• Kimlik doğrulama — iki kimlik bilgisi türü ve hangi yüzeyin hangisini kabul ettiği.
• Sohbet API'si — SSE olay sözleşmesinin tamamı, olay olay.