EN ▸ New method aims to keep kids safe from illegal AI-generated content
Yeni Yöntem, Çocukları Yasa Dışı AI İçeriklerinden Koruma Amacı Taşıyor
MIT News ·
Üretken yapay zekanın artan popülaritesi, yasa dışı içerik üretimi için kötü niyetli aktörler tarafından kullanılma riskini artırıyor. MIT'den bir araştırma ekibi, çocukların cinsel istismar materyallerinin (CSAM) üretimini önlemek amacıyla yeni bir denetim yöntemi geliştirdi. Bu yöntem, bir modelin zararlı içerik üretip üretemeyeceğini, modelin iç işleyişini inceleyerek belirliyor ve herhangi bir içerik üretmeden çalışıyor. Araştırma, bu tekniğin %100 doğruluk oranıyla CSAM üreten modelleri tespit edebildiğini gösterdi. Bu buluş, açık kaynaklı modellerin barındırıldığı platformlar için güvenlik önlemlerini artırma potansiyeline sahip.