EN ▸ Hugging Face is being used to easily undress women and children
Hugging Face: Kadın ve Çocukların Gizliliği Tehlikede
https://www.theverge.com/rss.xml ·
Hugging Face, izinsiz derin sahte görüntüler oluşturmak için kullanılıyor. Avrupa merkezli AI Forensics tarafından yayımlanan bir rapora göre, platformdaki popüler görüntü düzenleme modelleri, kadınları giydirme taleplerine kolayca yanıt veriyor. Çoğu büyük yapay zeka modeli, bu tür talepleri engelleyen koruma mekanizmalarına sahipken, Hugging Face'in bu konuda yeterli önlem almadığı belirtiliyor.
Raporda, yapılan denemelerde kullanıcıların basit taleplerle kadınların giyinme durumlarını değiştirebilecekleri ortaya kondu. AI Forensics, platformda cinsel içerikli taleplerin oranının yüksek olduğunu ve bu durumun çocukları da hedef aldığını vurguladı. Hugging Face'in, zararlı içerik üretimini engelleyen politikalarına rağmen, yeterli önlemleri almadığı ifade ediliyor.