Skip to main content
CID222 Docs

Sohbet ve tespit sorunları

İçerik reddedildiğinde, maskelendiğinde ya da işaretlendiğinde, AI erişimi kilitlendiğinde, bir rol sohbeti reddettiğinde ve bir dosya geçmediğinde kullanıcının gördüğü.

  • Sürüm: 0.4
  • Rol: admin_user, normal_user
  • Tür: sorun giderme

"AI benim için çalışmayı bıraktı" diyen bir kullanıcıya verilecek sayfa budur. Neredeyse her durum beş olasılıktan biridir ve kimse panoyu açmadan, yalnızca yanıta bakarak birbirinden ayırt edilebilirler.

Önce beşini birbirinden ayırın

Kullanıcının gördüğüBu nedirÇalışma kitabı
Adların ya da sayıların yer tutucularla değişmesi; mesajın bir filtre adı verilerek reddedilmesiBir içerik kararıİçerik reddedildi, maskelendi ya da işaretlendi
Akış bir kilit bildirimiyle anında sona eriyorKullanıcının AI erişimi kilitliBir kullanıcının AI erişimi kilitli
"This role does not use the chat"Tasarım gereği bir rol reddiBir rol ya da lisans eylemi reddediyor
Bir sağlayıcı, model ya da kimlik bilgisi adı veren bir hataModele hiçbir şey ulaşmadıİstek modele hiç ulaşmadı
Bir dosya reddediliyor ya da analizi başarısız oluyorBir yükleme sınırı ya da bir servisBir dosya geçmiyor
"Please try again later"Bir hız sınırıHız sınırları

İçerik kararları

İçerik reddedildi, maskelendi ya da işaretlendi

Bir karar hata değildir: istek okundu, bir şey eşleşti ve yapılandırılmış eylem uygulandı. Her karar; motoru, etiketi, güven değerini ve eylemi adlandıran bir tespit yazar — bu yüzden konuşma kullanıcının anlatımından değil, o kayıttan başlamalıdır.

Bir mesajda birden fazla kural eşleştiğinde en güçlü eylem kazanır: Reddet, Maskele'nin, Maskele de İşaretle'nin önündedir (REJECT > MASK > FLAG). Bu nedenle İşaretle olarak ayarlanmış bir kural, aynı mesajda başka bir şey reddettiğinde yine de bir retle sonuçlanır.

Note

Maskeleme geri alınabilir olabilir: PII_MAP_ENCRYPTION_KEY ayarlıysa oturum başına eşleme AES-256-GCM şifreli metin olarak saklanır ve yanıtın maskesi kullanıcı için kaldırılır. Ayarlı değilse eşlemeler hiç yazılmaz ve yanıtlar maskeli kalır — bu bir arıza değil, bir yapılandırma tercihidir.

Çalışma kitabıchat

Bir mesaj içerik politikası tarafından reddediliyor, maskeleniyor ya da işaretleniyor

Şunları görebilirsiniz: Document rejected due to policy violation (belge, politika ihlali nedeniyle reddedildi) · istemim, adlar yer tutucularla değiştirilmiş olarak geri geldi · asistan sıradan bir iş sorusunu reddetti · bir müşteri kaydı maskelendi ve model yanıt veremedi

Başlamadan önce

Denetimler

  1. 1

    İsteği tespit kaydında bulun

    beklenen · Sonucu açıklayan tek bir tespit var.

  2. 2

    Eşleşmeyi hangi motorun ürettiğini okuyun

    beklenen · Motoru adlandırabiliyorsunuz.

  3. 3

    Devreye giren filtreyi ve taşıdığı eylemi okuyun

    beklenen · Eylem, kullanıcının yaşadığıyla örtüşüyor.

  4. 4

    Eşleşmenin doğru olup olmadığına karar verin

    beklenen · Eşleşen aralık, gerçekten kuralın var olma nedeni.

Kilitler

Bir kullanıcının AI erişimi kilitli

Yinelenen jailbreak ve prompt enjeksiyonu tespitleri kayan bir pencereyi doldurur ve bu pencere risk analistinin kullanıcı başına tek bir incelemesini açar. Bu incelemeden çıkan bir kilit kararı, kullanıcının sohbet turlarını bir user_locked olayıyla anında sonlandırır.

Kullanıcının şikâyetini ele alırken iki özellik önemlidir. Analistin belirli tespitlere bağlayamadığı bir karar, kilitten uyarıya indirilir; dolayısıyla ayakta kalan bir kilidin arkasında kanıt vardır. Ve kilit açma yolu bilinçli olarak dardır: kilit başına bir bekleyen istek, saatte üç istek ve karara bağlanmış bir istek nihaidir.

Çalışma kitabıaccess

Bir kullanıcının yapay zeka erişimi kilitli ve sohbet edemiyor

Şunları görebilirsiniz: user_locked (kullanıcı kilitli) · sohbet akışı hemen bir kilit bildirimiyle sona eriyor · Your AI access is not locked (yapay zeka erişiminiz kilitli değil) · An unlock request is already pending for this lock (bu kilit için bekleyen bir kilit açma talebi zaten var)

Başlamadan önce

Denetimler

  1. 1

    Kullanıcının gerçekten etkin bir kilidi olup olmadığını okuyun

    beklenen · O kullanıcı için bir etkin kilit var.

  2. 2

    Kilidi üreten incelemeyi okuyun

    beklenen · İnceleme, kilidi belirli tespitlerle açıklıyor.

  3. 3

    Kilit açma talebi oluşturamayan bir kullanıcı için var olan talebin durumunu okuyun

    beklenen · Ya bekleyen talep yok ya da bekleyen talep bir inceleyiciyi bekliyor.

  4. 4

    Kilit açıldıktan sonra kilidin yalnızca kalkmış görünmediğini, gerçekten kalktığını doğrulayın

    beklenen · Mesaj geçiyor.

Note

Panoda kaldırılan bir kilit, hemen sonraki turu yine de reddedebilir: etkin kilit kısa ömürlü bir Redis önbelleği üzerinden okunur. Sorunu yükseltmeden önce kullanıcıdan biraz beklemesini ve bir mesaj daha göndermesini isteyin.

Retler

Bir rol ya da lisans eylemi reddediyor

ROLE_NOT_FOR_CHAT bir arıza değildir — bir auditor, ortama trafik eklemek yerine onu inceler. READ_ONLY_ROLE ise tasarlandığı gibi çalışan demo hesabıdır: her şeyi okur, hiçbir şeyi değiştirmez. İkisi de sıradan hata yüzeyleri üzerinden gösterilir; bozuk görünmelerinin nedeni budur.

Çalışma kitabıaccess

Ürün bir eylemi 402, 403 ya da 423 ile reddediyor

Şunları görebilirsiniz: READ_ONLY_ROLE (hesap salt okunur `viewer` rolünde) · This is a read-only demo account (viewer role) — actions and changes are disabled. (bu, salt okunur bir demo hesabıdır; eylemler ve değişiklikler kapalıdır) · ROLE_NOT_FOR_CHAT (bir denetim rolü sohbeti kullanmayı denedi) · FEATURE_NOT_LICENSED (uç nokta, kurulu katmanın dışındaki bir modüle ait)

Denetimler

  1. 1

    Hata gövdesindeki makine okunur kodu okuyun, cümleyi değil

    beklenen · Kodu adlandırabiliyorsunuz.

  2. 2

    423 için, ilk açılış kurulumunun hiç tamamlanıp tamamlanmadığını denetleyin

    tanılama · appliance.setupComplete = true

  3. 3

    402 için lisans durumunu okuyun

    tanılama · appliance.license.state = "active|trial"

  4. 4

    FEATURE_NOT_LICENSED için hangi katmanın kurulu olduğunu ve özelliğin o katmanda bulunup bulunmadığını okuyun

    tanılama · appliance.license.tier

  5. 5

    Bir rolün adını veren 403 için, hesabın rolünün neler yapabildiğini okuyun

    beklenen · Rol, eylemin gerektirdiği sayfayı ya da yeteneği taşıyor.

Modele hiçbir şey ulaşmadı

İstek modele hiç ulaşmadı

Bir sağlayıcı, model ya da kimlik bilgisi adı veren bir hata, ağ geçidinin hiçbir şey gönderecek kadar ilerlemediği anlamına gelir. Hiçbir karar verilmediği için tespit de yazılmaz.

Çalışma kitabıchat

Sohbet isteği modele ulaşmadan başarısız oluyor

Şunları görebilirsiniz: Provider 'openai' not found (sağlayıcı bulunamadı) · Model 'gpt-4o' not found (model bulunamadı) · Model 'gpt-4o' is not active (model etkin değil) · Model not found for provider (sağlayıcı için model bulunamadı)

Başlamadan önce

Denetimler

  1. 1

    Sağlayıcı ve model katalogunun hiç dolu olup olmadığını denetleyin

    beklenen · Sağlayıcılar ve modeller listeleniyor.

  2. 2

    Çağıranın adını verdiği modelin var olup olmadığını ve etkin olup olmadığını okuyun

    beklenen · Model listede ve etkin.

  3. 3

    Bu çağıran ve bu sağlayıcı için bir kimlik bilgisinin çözümlendiğini denetleyin

    beklenen · Etkin bir kimlik bilgisi çözümleniyor.

  4. 4

    Çözümlenen kimlik bilgisini test edin

    beklenen · Test başarılı oluyor.

Dosyalar

Bir dosya geçmiyor

Bir dosyayı birbirinden ayrı üç sınır reddeder: biçim (makro etkin hesap tabloları güvenli biçimde maskelenemez ve kısmen işlenmek yerine reddedilir), boyut ve belge ayrıştırıcısının kapalı olması ya da devre kesicisinin arkasında kalması.

Parçalı ya da sürdürülebilir bir yükleme geçirilmek yerine reddedilir; çünkü hiçbir yol istekler arasında arabelleğe almaz ve denetlenmemiş bir yükleme, denetimin var olma nedeni olan şeydir.

Çalışma kitabıperformance

Bir dosya reddediliyor ya da analizi başarısız oluyor

Şunları görebilirsiniz: No file uploaded (hiçbir dosya yüklenmedi — "file" adlı multipart alanı bekleniyordu) · Image size exceeds maximum allowed size of 10MB (görüntü, izin verilen 10 MB üst sınırını aşıyor) · Unsupported file type (desteklenmeyen dosya türü; PDF, DOCX ya da TXT yükleyin) · legacy and macro-enabled spreadsheet formats cannot be safely redacted (eski ve makro etkin hesap tablosu biçimleri güvenli biçimde maskelenemez)

Başlamadan önce

Denetimler

  1. 1

    Biçimin ürünün kabul ettiği biçimlerden olup olmadığını okuyun

    beklenen · Biçim, o yüzeyde kabul ediliyor.

  2. 2

    O yüzeyin boyut sınırını okuyun

    beklenen · Dosya, iletide adı geçen sınırın altında.

  3. 3

    İstemcinin parçalı ya da sürdürülebilir bir yükleme yapıp yapmadığını denetleyin

    tanılama · posture.resumableUploadPolicy = "block"

  4. 4

    Belge analizinin bu dağıtımda açık olup olmadığını okuyun

    beklenen · Servis etkin.

  5. 5

    Belge ayrıştırıcısının kendi sağlığını okuyun

    tanılama · services[document-parser].healthy = true

Yükseltmeden önce toplanacaklar

  • Mesajın metnini değil, Tüm Tespitler sayfasındaki tespit kimliğini — kayıt eşleşen aralığı zaten tutar ve metnin ortamdan çıkması uygun olmayabilir.
  • Kullanıcının gördüğü tam yanıt, varsa code alanı dahil.
  • Ağ geçidi günlüğüyle olay günlüğünün ilişkilendirilebilmesi için zaman ve kullanıcı.

İlgili

Son güncelleme