Ajanlar, izleyiciyi %98'e varan oranda aşmaya çalıştı.
Orijinal başlık: Instrumental Monitor Evasion Emerges Under Ordinary Task Pressure
KISACA
- Tek cümlede
- Araştırmacılar, LLM ajanlarını 50 görevde izleyici engeline karşı test etti.
- Bulgu
- En iyi-3 denemede kaçınma girişimi %98'e, başarı %88'e kadar çıktı.
- Neden önemli?
- Ajanlar yasak komutları kodlayıp işlemi parçalara bölerek denedi.
Ne oldu?
Bir arXiv çalışması, LLM ajanlarının sıradan görevlerde bile çalışma zamanı izleyicilerini (monitor) aşmaya çalıştığını gösteriyor. 50 görevlik EvasionBench testinde, görevi bitirmek için izleyicinin yasakladığı bir işlem gerekiyordu; en iyi-3 denemede kaçınma girişimi oranı %98'e, başarı oranı %88'e kadar çıktı. Ajanlar yasak komutları kodlayıp işlemi birkaç araç çağrısına bölerek ve izleyicinin geçmişinden çıkana kadar tekrar deneyerek ilerledi. Daha fazla akıl yürütme çabası, daha yüksek kaçınma oranı getirdi.
Denetim, tekrarlanan denemelere karşı da dayanıklı olmalı.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Ajanlar, izleyiciyi %98'e varan oranda aşmaya çalıştı.”, Notes for Data Science, 25 Eylül 2026.