İçerik tespiti

CID222 tespit motorunu doğrudan sunar; böylece herhangi bir metni bir modele göndermeden KKV, sırlar, toksisite ve prompt enjeksiyonu açısından tarayabilirsiniz. Aynı motor her sohbet isteğinde çalışır.

İçerik tespit etme

POST /api/v1/guardrails/detect

Tam tespit hattını — KKV, sırlar, toksisite, jailbreak ve enjeksiyon — bir metin bloğu üzerinde çalıştırır; bulunan varlıkları, kararlaştırılan eylemi ve metnin maskelenmiş bir kopyasını döndürür.

Ağ geçidinde /api/v1 ön ekini taşıyan tek yüzey budur. Diğer tüm uç noktalar kökte yer alır, örneğin /chat/completions ve /models.

Uç nokta 201 değil 200 döndürür. Bir JWT ya da bir ağ geçidi API anahtarı (Authorization: Bearer cid_key_<64 hex>) kabul eder. Geri döngü (loopback) veya bir RFC1918 adresinden gelen kimlik doğrulamasız istek, kiracı bağlamı olmadan kabul edilir; pakete dahil kırmızı takım hizmeti uç noktaya bu şekilde ulaşır. Kiracı bazlı filtre geçersiz kılmaları bu çağrılara uygulanmaz.

İstek gövdesi

Bilinmeyen alanlar reddedilmez, sessizce çıkarılır; çünkü ağ geçidi whitelist: true ile küresel bir doğrulama katmanı çalıştırır. Yanlış yazılmış bir alan adı hiçbir hata üretmez.

Örnek istek

curl -X POST https://<appliance-fqdn>/api/v1/guardrails/detect \
  -H "Authorization: Bearer cid_key_0123456789abcdef" \
  -H "Content-Type: application/json" \
  -d '{
    "text": "My name is John Smith and my email is john@example.com",
    "check_type": "prompt"
  }'

Yanıt

Yanıt; genel eylemi, bir sayımı, tespit edilen varlıkların listesini ve girdinin maskelenmiş bir kopyasını bildirir.

{
  "action": "mask",
  "detectionCount": 2,
  "maskedText": "My name is [PERSON_NAME] and my email is [EMAIL]",
  "detectedEntities": [
    {
      "type": "PERSON_NAME",
      "value": "[PERSON_NAME]",
      "action": "mask",
      "confidence": 0.95,
      "source": "ml",
      "filterName": "ML Detector (ONNX NER)",
      "start": 11,
      "end": 21
    },
    {
      "type": "EMAIL",
      "value": "[EMAIL]",
      "action": "mask",
      "confidence": 0.95,
      "source": "regex",
      "filterName": "Regex Detector",
      "start": 39,
      "end": 55
    }
  ],
  "processingTimeMs": 142,
  "normalization": { "applied": [], "originalText": "" }
}

normalization.applied, girdi üzerinde çalışan kaçınma çözücülerini listeler — rot13, base64, leetspeak, unicode, case — ve hiçbiri uygulanmadığında boş bir dizidir. normalization.originalText her zaman boş bir dizedir: denetleyici bu alanı boşaltır, böylece ham girdi asla geri verilmez.

Tespit edilen varlık alanları

source şu değerlerden birini alır:

filterName, tetiklenen kuralı değil, tespit motorunu veya filtre grubunu bildirir. Bir regex tespiti Regex Detector bildirir ve tohum kuralının adını dahili olarak taşır; bir toksisite tespiti filtre grubunu bildirir, örneğin Content Safety (HAP Model - 13 Categories).

Tespit eylemleri

Sohbet yüzeyinde bir reddetme HTTP hatası değildir. Akış, engellenen bir prompt için {"type":"content_rejected"}, engellenen bir yanıt için {"type":"output_content_rejected"} yayınlar ve ardından [DONE] gelir.

KKV varlık türleri

Tohumlanan KKV filtre grubu 17 kural içerir. ONNX NER modeli 21 yerel etiket üretir; regex katmanı modelin taşımadığı Türkçe formatları ve doğrulayıcıları ekler. İkisi aynı aralıkta tetiklendiğinde tespitler birleştirilir.

Sır ve kimlik bilgisi tespiti

Ayrı bir DLP filtre grubu sırları ve kimlik bilgilerini kapsar. Kurallarından dokuzu yalnızca regex tabanlıdır.

Güvenlik kategorileri

KKV'nin ötesinde üç tespit motoru içeriği sınıflandırır: 13 etiketli bir toksisite modeli, 2 etiketli bir saldırı modeli ve deterministik bir enjeksiyon taraması.

Toksisite ve saldırı modellerinin her biri sekiz dili kapsar: en, tr, de, fr, es, ar, it ve nl. Enjeksiyon taraması dilden bağımsızdır — sınıflandırmak yerine dizeyi ayrıştırır — ve saldırı modelinden gelen düşük bir saldırı niyeti puanı, kararını reject'ten flag'e düşürür.

Toksisite eşikleri etiket başınadır, üç düzeylidir (block, flag, log-only) ve tek bir küresel değer yerine etiket bazında ayarlanmış olarak gelir. Saldırı modeli eşikleri de aynı şekilde etiket başına ve üç düzeylidir. Her iki küme de kendi servis imajına gömülüdür ve ortam değişkeniyle geçersiz kılınamaz; değiştirmek imajı yeniden derlemek demektir.

Güven puanları

Her tespit 0 ile 1 arasında bir güven taşır. Regex tespitleri sabit olarak 0.95'tir, çünkü derlenmiş bir desen ya eşleşmiştir ya da eşleşmemiştir. Model tespitleri modelin kendi puanını taşır.

Bir tespit, varlık türü için kayıtlı bir bağlam anahtar kelimesi aralığın 50 karakter yakınında göründüğünde 0.1 artırılır ve 1.0'da sınırlanır. Artırım bağlam anahtar kelimesine dayanır; iki tespit motorunun aynı fikirde olması için verilmez.

Doğrulanan bir varlık yalnızca nihai güveni 0.6'ya ulaştığında geçer. Hiç güven değeri olmadan gelen bir tespit 0.8 varsayılır.

Kaydedilmiş tespitleri sorgulama

GET /admin/detections ve GET /admin/detections/stats, hattın kaydettiklerini okur. İkisi de admin_user veya auditor rolünü ve detections.view yetkisini gerektirir; ikisi de çağıranın zaten okuyabildiği kiracılarla sınırlıdır.

curl -X GET "https://<appliance-fqdn>/admin/detections?entity_type=EMAIL&action_taken=masked" \
  -H "Authorization: Bearer <admin-jwt>"

Yanıt sayfalanmıştır:

{
  "data": [],
  "meta": { "total": 42, "page": 1, "limit": 10, "totalPages": 5 }
}

İlgili sayfalar

• İçerik güvenliği hattı — ne, hangi sırayla çalışır ve eylemi ne belirler.
• KKV tespiti — varlık kapsamı, doğrulayıcılar ve maskeleme.
• Sohbet API'si — bir tespitin akışta nasıl göründüğü.