Rastgele batch'ler güvenliği zayıflatıyor, ama bir çözüm var.
Orijinal başlık: Counting on Dummies: Privacy Amplification with Observable Counts and Truncated Batches
KISACA
- Tek cümlede
- Araştırmacılar, gözlemlenebilir sayımlar ve sabit boyutlu batch'ler önerdi.
- Bulgu
- Yöntem, sabit boyutlu gruplarla gizlilik garantisini çok daha doğru hesaplıyor.
Ne oldu?
Yapay zeka modelleri eğitilirken kullanılan Diferansiyel Gizlilikli Stokastik Gradyan İnişi (DP-SGD) yöntemi, verileri rastgele örneklenen gruplar (batch) halinde işliyor ve bu rastgelelik gizlilik garantisini güçlendiriyor. Ancak Poisson örnekleme gibi yaygın yöntemlerde grup büyüklükleri değişken oluyor, bu da gizlilik garantisinin doğru hesaplanmasını zorlaştırıyor. Araştırmacılar bu makalede, gözlemlenebilir sayımlar ve sabit boyutlu (kırpılmış) gruplar kullanarak gizlilik garantisini daha doğru hesaplamanın bir yolunu sunuyor.
Daha kesin gizlilik hesabı, yapay zeka modellerinin eğitim verisini koruma gücünü artırıyor.
Aynı haberin kısa dikey video özeti.
Bu notu kaynak göstererek alıntılayabilirsin: Hasan Amanet, “Rastgele batch'ler güvenliği zayıflatıyor, ama bir çözüm var.”, Notes for Data Science, 2 Kasım 2026.