Önbaskı raporlarının dil modeli çıktıları bağlamda tutulan sırları sızdırabilir
Bir arXiv ön baskısı, dil modellerinin, doğrudan çıkarma isteklerini reddettikten sonra bile bağlama yerleştirilmiş hassas verileri açığa çıkarabileceğini bildiriyor. Yazarlar, kontrollü deneylerde uyarlanabilir saldırıların sıradan çıktılardan kısa sırları kurtardığını ve üretim tarzı bir temsilciden tam Sosyal Güvenlik numaralarını çıkardığını söylüyor.