Koşullu Yapay Zekâ
Yapay zekâ okuduğu bir web sayfasından talimat alabilir mi?
Evet; model okuduğu veriyle talimatı güvenilir ayıramadığı için dış içerik gizli komut taşıyabilir, bu yüzden yetkiler dar tutulmalı.
Kanıt (2)
Bizim ölçümümüz: Reaper kaynak karnesi (Ekim 2026): arXiv/DOI künyesi doğrulandı. (reaper_karne.json)
Hükmü ne değiştirir: Veri ile talimatı ayıran ve bağımsız kırmızı takım testlerinde dolaylı enjeksiyonu güvenilir biçimde engelleyen bir savunma.
- güvenlik
- istem enjeksiyonu
- ajan güvenliği
- doğrulama