EN ▸ Discord admits AI moderation bug wrongfully banned users over harmless images
Discord, AI Moderasyon Hatasıyla 8,000 Kullanıcıyı Yanlışlıkla Yasakladı
TechCrunch ·
Discord, AI moderasyon sistemindeki bir hata nedeniyle son iki ayda 8,000'den fazla kullanıcının yanlışlıkla yasaklandığını kabul etti. Zararsız içerikler, örneğin tablo ve oyun dokuları, yanlışlıkla zararlı olarak işaretlendi. Şirket, sorunun Mayıs ayından beri devam ettiğini ve bu hafta sonu 200 kullanıcının daha yasaklandığını bildirdi. Tüm etkilenen hesapların geri yüklenme süreci devam ediyor.
Bu olay, otomatik sistemlerin illegal veya kötüye kullanım içeriğini belirlemedeki zorluklarını gözler önüne seriyor. Discord, içerikleri zararlı materyal veritabanlarıyla eşleştirerek işaretliyor, ancak bu süreç bazen yanlış pozitif sonuçlar verebiliyor. Kullanıcılar, otomatik tespit sistemlerinin aşırı hassasiyetinin ciddi sonuçlar doğurabileceğini ve bu durumun özellikle iş veya sosyal bağlantılar için sorun yarattığını dile getiriyor.