EN ▸ AI Data Poisoning: Understanding the Supply Chain Risk Behind Machine Learning Models
Veri Zehirlenmesi: Yapay Zeka Modellerindeki Tedarik Zinciri Riski
AI Insider ·
Veri zehirlenmesi, saldırganların eğitim verilerini manipüle ederek yapay zeka modellerinin davranışını etkilemesi anlamına geliyor. Bu makalede, zehirlenmiş verilerin yapay zeka süreçlerine nasıl girdiği ve standart model değerlendirmelerinin neden hedefli saldırıları gözden kaçırdığı inceleniyor. JFrog’un araştırma ekibi, Hugging Face'de bulunan modeller arasında 100'den fazla kötü niyetli model tespit etti. Bu durum, birçok kuruluşun bu tür risklere karşı yeterli önlemler almadığını ortaya koyuyor. Eğitim verilerinin güvenilirliğini sağlamak ve modelin geçmişini doğrulamak gibi pratik savunma yöntemleri öneriliyor.