İsteğe bağlı servisler ve her birinin maliyeti

Bir CID222 paketi, temel cihaz artı lisansınızın ve kurulumunuzun ona eklediği her şeydir. Her ekin kendi gereksinim satırı vardır. Bu sayfa bileşen başına bir bölüm verir: ne olduğu, ne zaman gerektiği, nasıl açıldığı, boştayken ve yük altında neye mal olduğu ve zaten boyutlandırılmış bir makineye eklendiğinde ne olduğu.

ölçülen olarak işaretlenen rakamlar, geliştirme sunucusunun 2026-09-08 tarihli cgroup ölçümünden gelir. beyan edilen olarak işaretlenenler compose bellek sınırlarıdır; bunlar kapsayıcının tutulduğu bir tavandır, kullanacağı miktarın tahmini değil. İkisinin de olmadığı yerde bölüm bunu söyler ve neyin ölçülmesi gerektiğini belirtir.

Eklenti tablosu

Code Safety

Nedir. Kaynak kodu ve ikili dosyaları denetleyen ayrı bir yığın: bir PostgreSQL zafiyet kataloğu, onun üzerinde salt okunur bir veritabanı API'si, denetçinin kendisi, bir ikili yetenek tarayıcısı ve dosyalar arası erişilebilirlik çizgesi kuran iki veri akışı servisi. Ağ geçidi yalnızca bir istemci tutar.

Ne zaman gerekir. Geliştirici trafiğinin — tarayıcı eklentisi, uç nokta ajanı ya da izlenen bir depo — PII ve zararlı içerik açısından değil, güvensiz ya da kötücül kod açısından değerlendirilmesi gerektiğinde.

Nasıl etkinleştirilir. Lisansın Enterprise codesafety anahtarını taşıması gerekir. Ağ geçidinde CODE_SAFETY_SERVICE_ENABLED=true ayarlayın ve CODE_SAFETY_SERVICE_URL'yi denetçiye yöneltin; denetçinin başka donanımda olması beklendiğinden bu değer varsayılan olarak 8018 portundaki yönlendirilebilir bir adı gösterir. CODE_SAFETY_SERVICE_TOKEN, denetçinin kabul ettiğiyle eşleşmelidir. Depo izleme ikinci ve ayrı bir anahtardır: REPO_TRACKING_ENABLED.

Gereksinim satırı. Kendine ait bir ana makine. Bağlayıcı kısıt çizge motorudur: aksi hâlde tüm makineyi alacağı için tam olarak 2.0 vCPU ve 4 GB ile sınırlanmıştır ve diskte 10 GiB'a kadar bir çizge önbelleği tutar. Denetçi yığınının tamamı için 8 GB ve 4 vCPU ayırın; çizge motoruna ise ana makinenin yaptığı her şeyin üzerine 2 vCPU'sunu verin.

Boşta değerine karşı yük. Katalog veritabanı okuma ağırlıklı ve sessizdir. Çizge motoru bunun tersidir: 641 dosyalık bir TypeScript deposu onu on beş dakikadan uzun süre boyunca, işi bitirmeden, kabaca %980 CPU ve 2 GiB'a sürdü. Bu, motorun tasarlandığı gibi çalışmasıdır — sorgu tüm çiftler için bir erişilebilirlik aramasıdır — ve sınır, büyük bir denetimi başarısız değil yavaş kılar.

GPU. Derin yolun modeli OpenAI uyumlu bir uç nokta üzerinden sunulur; dolayısıyla herhangi bir motor iş görür. Amaçlanan nicemleme merdiveni şudur: 16 GB'lık bir kartta kabaca 4.7 GB artı KV önbelleği, 32 GB'lık bir kartta kabaca 8.5 GB ve bellek artıyorsa 8.5 ila 15 GB. Yalnızca CPU ile sunum çalışır ve düşük başarımlı olarak belgelenmiştir.

Zaten boyutlandırılmış bir makineye eklemek. Eklemeyin. Katalog kabaca 150 bin satırlık okuma ağırlıklı veridir ve çizge motoru çekirdekleri dakikalarca doyuran bir JVM'dir; ikisini de tespit motorlarının yanına koyarsanız yavaşlayan şey tespit motorları olur. Code Safety tasarımı gereği ikinci bir ana makinedir.

LLM Risk Analisti

Nedir. İki kapsayıcı — analist ve sorguladığı MCP sunucusu — artı bunların parçası olmayan bir model uç noktası. Yinelenen jailbreak ve PII tespitleri bir kayan pencereyi doldurur ve bu pencere kullanıcı başına tek bir inceleme açar; analist araç çağrıları üzerinden kanıt üzerinde akıl yürütür ve bir karar döndürür.

Ne zaman gerekir. Mesaj başına bir karar yerine, kullanıcı başına yazılı ve kanıta dayalı bir değerlendirme istediğinizde.

Nasıl etkinleştirilir. Lisansın Enterprise risk.llm_review anahtarını taşıması gerekir. Her iki kapsayıcıyı da ayağa kaldıran llm-analyst compose profilini başlatın ve analiste LLM_BASE_URL, LLM_MODEL, LLM_ENGINE ve LLM_API_KEY üzerinden bir model uç noktası verin. Ağ geçidi tarafındaki anahtar RISK_ANALYST_SERVICE_ENABLED'dır.

Gereksinim satırı. Profil 4 GB beyan eder — analist için 3 GB, MCP sunucusu için 1 GB — ve yığına eklenen anonim bellek 1.5 GiB ölçüldü. Ölçülen boşta değerleri: analist 882 MiB, MCP sunucusu 594 MiB. İkisinin de GPU'ya ihtiyacı yoktur. Motorun vardır.

Motor seçimi

Üçü de aynı OpenAI uyumlu yüzeyi konuşur ve araç çağırma isteğe bağlı değildir: bir inceleme model bir araç çağrısı ürettiğinde biter; dolayısıyla araç çağrısı üretemeyen bir uç nokta, daha kötü kararlar değil, hiç karar üretmez.

Model, nicemleme ve bellek

Asgarinin geldiği yer olan 20 GB hesabı: int4 ağırlıklar yaklaşık 10 GB tutar; LLM_GPU_MEMORY_UTILIZATION 20 GB'lık bir kartın 0.90'ında yaklaşık 18 GB bırakır; etkinleştirmeler ve CUDA çizgeleri 1 ila 2 GB alır; dolayısıyla anahtar-değer önbellek havuzu 6 ila 7 GB'dır. Modelin önbelleği jeton başına yaklaşık 160 KiB'a mal olur; yani 32768 jetonluk tam bir dizi yaklaşık 5 GiB tutar. Bellekte bir tam uzunlukta dizi bulunur, iki değil.

Daha büyük bir kart neyi satın alır. Hızı değil koltukları. 20 GB'ta ayarlar LLM_MAX_NUM_SEQS 2 ve LLM_MAX_BATCHED_TOKENS 4096'dır — bir inceleme artı kısa bir yönetici sorusu — ve bunlara LLM_MAX_CONCURRENCY 1 ile ANALYST_REVIEW_CONCURRENCY 2 eşlik eder. 48 GB'lık bir kart 8 ve 8192 alır; bu, inceleme başına aynı gecikmeyle uçuşta dört kat inceleme demektir. Aynı 20 GB'lık kartta LLM_KV_CACHE_DTYPE değerini fp8 yapmak, sonrasında kabul sınaması hâlâ geçiyorsa havuzu kabaca ikiye katlar.

Referans kartta ölçülen, 2026-09-05: 20475 MiB bildiren bir RTX 4000 SFF Ada, bellekte 9.36 GiB ağırlık, kabul edilen 32768 jetonluk bağlam ve doğru ayrıştırılan araç çağrılarıyla tek akışta saniyede 26.7 jeton.

Disk. Kurulum programının ön denetimi hem çalışma dizininde hem Docker kökünde en az 40 GB boş alan ister. Motoru ve ağırlıkları taşıyan çevrimdışı paket yaklaşık 20 GB'dır; çevrimiçi sürüm manifestosu ise aynı baytları taşımak yerine indirdiği için yaklaşık 150 KB'dır.

Zaten boyutlandırılmış bir makineye eklemek. İki analist kapsayıcısı, ölçülen 1.5 GiB'lık paya sığar. Motor ise asgari boyutlandırılmış, yalnızca CPU'lu bir cihazın hiçbir yerine sığmaz — bir GGUF dilimi, temel yığının kendi 10 GiB boşta değerinin üzerine kendisi için 16 GB ana makine RAM'i ister. Motoru kendi ana makinesine koyun ya da CPU dilimini düşünmeden önce cihazı 64 GB'a yükseltin.

MCP sunucusu

Nedir. CID222 veritabanı üzerinde salt okunur bir sunucu ve analistin kanıta ulaşmasının tek yolu. PostgreSQL tam metin aramasını, başvuru bilgi tabloları üzerindeki süreç içi yoğun bir dizinle birleştirir.

Ne zaman gerekir. LLM Risk Analisti her çalıştığında. Ayrıca mcp.server anahtarı altında Professional ve üzerinde kendi başına da lisanslanır.

Nasıl etkinleştirilir. llm-analyst profili onu başlatır. Analist ona MCP_SERVER_URL üzerinden ulaşır ve MCP_SHARED_TOKEN ile kabul edilir.

Gereksinim satırı. Beyan edilen 1 GB, ölçülen boşta değeri 594 MiB. Tek bir gömme modeli yüklüyken tepe yerleşik bellek yaklaşık 560 MiB'dır; 1 GB sınırının içindedir. Gömme modeli yaklaşık 112 MB'dır ve imaja gömülüdür; bu nedenle kapsayıcı hiçbir zaman bir model sunucusuna ulaşmaz.

Halüsinasyon koruması

Nedir. Modelin yanıtı üzerinde, İngilizce ve Türkçe çalışan bir dayanaklılık denetimi. Yanıtın önünde değil arkasında çalışır.

Ne zaman gerekir. Yanıtın, alıntıladığı belgelerce desteklenip desteklenmediğinin sorulduğu, erişimle zenginleştirilmiş kurulumlarda.

Nasıl etkinleştirilir. Temel profille başlar. Kapatma anahtarı HALLUCINATION_SERVICE_ENABLED'dır.

Gereksinim satırı. Beyan edilen 4 GB, ölçülen boşta değeri 474 MiB, yalnızca CPU — bir GPU yolu yoktur. Yük altındaki davranışı ölçülmemiştir. Boyutlandırmak için gerçekçi bir dayanaklı iş yükü çalıştırın ve ONNX tespit motorlarının ölçüldüğü gibi, kapsayıcının anonim belleğini öncesinde ve sonrasında okuyun.

GPU OCR

Nedir. Aynı OCR servisinin CPU yerine CUDA üzerinde çalışan hâli: görüntü başına kabaca 3 ila 8 kat hızlı.

Ne zaman gerekir. Görüntü ve belge yolu darboğaz olduğunda. CID222'nin GPU ile hızlanan tek parçası budur — PII, zararlı içerik, jailbreak ve enjeksiyon tespit motorları CPU üzerinde ONNX'tir ve değişmezler.

Nasıl etkinleştirilir. Tek bir servis tanımından çıkan iki bağımsız yol:

Gereksinim satırı. 530 veya üzeri sürücüye sahip tek bir NVIDIA kartı. CUDA derlemesinin ihtiyaç duyduğu VRAM ölçülmemiştir. Boyutlandırmak için aynı üç görüntüyü — bir A4 metin sayfası, bir kimlik kartı ve seyrek bir fotoğraf — CUDA kapsayıcısına karşı çalıştırın ve her adımda kartın bellek kullanımını okuyun.

Önce ucuz yanıt. Kart almadan önce CPU servisinin hangi çıkarım çalışma zamanını kullandığını denetleyin. ONNX Runtime motoru gömülü varsayılandır ve karşılaştırılan 121 metin kutusunda bayt düzeyinde aynı çıktıyla, yarısı kadar CPU saniyesi ve %40 daha az anonim bellekle, diğerinden 1.5 ila 2.8 kat hızlı ölçülmüştür. Bellek alanı kapalı kalmalıdır: alan açıkken anonim bellek üç görüntüde 2999.6 MiB'a tırmandı ve 4 GiB sınırının içinde hâlâ yükseliyordu; kapalıyken aynı dizi hiçbir gecikme bedeli olmadan 423.9 MiB'da bitti.

Satır içi vekil ve ICAP denetimi

Nedir. İstemci tarayıcı trafiğinin şifresini çözen ve onu ağ geçidinin ICAP dinleyicisine sunan bir iletme vekili; böylece API ağ geçidine hiç uğramayan trafik de denetlenir. Dinleyicinin kendisi ayrı bir kapsayıcı değil, ağ geçidinin bir parçasıdır.

Ne zaman gerekir. Yönlendirilecek bir API anahtarının olmadığı, tarayıcıdan sağlayıcıya giden trafikte — yani gölge yapay zeka durumunda.

Nasıl etkinleştirilir. inline-proxy compose profili vekil kapsayıcısını başlatır. Ağ geçidinin içindeki dinleyiciyi ICAP_ENABLED ve ICAP_PUBLISH denetler. Paketlenmiş vekili çalıştırmak yerine üçüncü taraf bir güvenli web ağ geçidi de aynı dinleyiciyi çağırabilir.

Gereksinim satırı. Vekil kapsayıcısı hiç bellek sınırı beyan etmez ve ölçülen kapsayıcı kümesinde yer almadı; dolayısıyla ona ait bir rakam yoktur. Güvenilir biçimde neye mal olduğu ise başka yerdedir: denetlenen her istek aynı tespit motorlarına düşer; bu nedenle CPU'yu bu satırda değil temel yığının gereksinim satırında bütçeleyin ve tespit satırlarının yalnızca ağ geçidi kipindekinden hızlı büyümesini bekleyin.

Boyutlandırmak için profili gerçek tarayıcı nüfusunuza karşı başlatın ve bir iş günü boyunca vekil kapsayıcısının anonim belleğini ve CPU saniyelerini okuyun.

Kullanıcı kimliği ajanı

Nedir. Trafiği Active Directory kullanıcılarına atfeden bir ajan; böylece denetlenen bir istek bir adres değil bir kişi taşır.

Ne zaman gerekir. Tespitlerin bir kullanıcıyı adlandırması gereken satır içi denetim kurulumlarında.

Nasıl etkinleştirilir. userid-agent compose profili. Ağ geçidi ona USERID_AGENT_URL üzerinden danışır.

Gereksinim satırı. Beyan edilmiş bellek sınırı olmayan, ölçülen kümede yer almayan derlenmiş bir Go servisi. Bir etki alanı denetleyicisine erişebilmesi gerekir. Ölçülmüş bir rakam yoktur; bir günlük gerçek atıf trafiğinin ardından cgroup'unu okuyun.

DeepTeam

Nedir. Filtre testi çerçevesinin arkasındaki kırmızı takım test servisi.

Ne zaman gerekir. Kabul testleri ve dönemsel güvence için; sürekli işletim için değil.

Nasıl etkinleştirilir. Temel profille başlar; kapatma anahtarı DEEPTEAM_ENABLED'dır.

Gereksinim satırı. Beyan edilen 2 GB, ölçülen boşta değeri 103 MiB. Asıl maliyet kendi ayak izi değildir — bir kırmızı takım koşusu tespit motorlarını sert biçimde zorlar ve hissettiğiniz şey korumalar olur. CPU tavanında eşzamanlı olarak üretim trafiği taşıyan bir makineye karşı koşu yapmayın.

Rapor oluşturucu

Nedir. Uyumluluk ve maliyet raporlarını PDF ve HTML'e dönüştüren servis.

Ne zaman gerekir. Bir rapor her dışa aktarıldığında. Temel profille başlar.

Nasıl etkinleştirilir. REPORT_RENDERER_ENABLED ve yığın içi servis değilse REPORT_RENDERER_URL.

Gereksinim satırı. Beyan edilen 512 MB, ölçülen boşta değeri 62 MiB — yığındaki en küçük beyan edilmiş sınır. Oluşturma işi ani ve kısadır; yük altında bir rakam ölçülmemiştir.

Belge ve görüntü hattı

Nedir. Dosyaları tespit motorlarının okuyabileceği metne dönüştüren dört servis: OCR, belge ayrıştırıcısı, belge sınıflandırıcısı ve maskeleyici.

Ne zaman gerekir. Kullanıcıların dosya eklediği her kurulumda. Hiç eklemiyorlarsa grubu OCR_SERVICE_ENABLED, DOCUMENT_PARSER_SERVICE_ENABLED ve REDACTOR_SERVICE_ENABLED ile kapatın.

Gereksinim satırı.

Etrafında plan yapılacak servis OCR'dır ve bellek değil CPU sınırlıdır. İlk istekten önce bellekte hiçbir şey yoktur; dolayısıyla boşta değeri, çalıştırmanın maliyeti hakkında hiçbir şey söylemez. Yeniden başlatmanın ardından gelen ilk kullanıcı, ilk dili yüklemek için yaklaşık 4.5 saniye ve 1.7 GiB öder.

İstem sıkıştırma

Nedir. Sağlayıcı çağrısından önce girdi jetonlarının azaltılması; cost.token_reduction anahtarı altında Professional ve üzerinde lisanslanır.

Nasıl etkinleştirilir. Temel profille başlar; kapatma anahtarı PROMPT_COMPRESSOR_ENABLED'dır ve ağ geçidinin onu çağırıp çağırmayacağına lisans anahtarı karar verir.

Gereksinim satırı. Beyan edilen 3 GB, ölçülen boşta değeri 633 MiB. GPU yok. Ana makinede olağandışı bir maliyet çıkarmak yerine kendini sağlayıcı jetonlarında amorti eder.

İşlenmiş örnek: temel, Code Safety ve yerel bir model

Bir Enterprise paketinin açabildiği her şeyi taşıyan tek makinelik bir kurulum. Hesap, RAM ile karşılanması gereken şey olan anonim bellek üzerindendir:

Bu, 64 GB RAM, 16 vCPU ve 200 GB disk demektir ve rahat bir 32 GB makine değildir: 32 GB'lık bir misafirde 24 GiB anonim bellek, model dosyalarının istediği sayfa önbelleğine hiçbir şey bırakmaz ve balonlanmış bir misafir belleği tükenmeden önce swap kullanmaya başlar.

Bunlara ek olarak:

• Kendisine verilen her çekirdeği kullanacak olan kod çizge motoru için, temel yığının istediği 8 vCPU'nun ve tek bir OCR sayfasının kısa süreliğine aldığı tüm makinenin üzerine 2 vCPU ayrılmış olmalıdır.
• Disk: cihaz için 100 GB, çizge önbelleği için 10 GiB, yaklaşık 10 GB model ağırlığı ve katalog veritabanı. Gerçekçi taban 200 GB'dır.
• Analistin modeli için, iki motor koltuğuyla 32768 jetonluk bağlam sunan bir adet 20 GB kart. Code Safety modeli dağıtıldığında o kartta kendine ait bellek isteyecektir — en küçük nicemlemede kabaca 4.7 GB artı önbelleği — dolayısıyla 16 GB'lık bir kart ikisini birden tutamaz. İkinci bir kart planlayın ya da denetçinin tasarlandığı ikinci ana makineyi.

İlgili

• Gereksinimler ve boyutlandırma — dağıtım kipi başına temel cihaz.
• Kaynak boyutlandırma — kapsayıcı başına ölçülmüş tablolar ve kendi toplamınızı hesaplama tarifi.
• Servisler, portlar ve profiller — servis başına üretilen tablo.
• Compose profilleri ve komut satırı — bir profilin nasıl başlatıldığı.