Açık Modellerdeki Doğrulama Açığı: Cisco 900 Modeli İnceledi

Açık kaynak modellerin doğrulama süreçleri, genellikle yükleyicinin sağladığı etiketlere dayanıyor. Cisco, Hugging Face platformunda yer alan neredeyse 900 açık modeli inceleyerek, bu modellerin kökenlerini belirlemek için yeni bir veri tabanı oluşturdu. Bu veri tabanı, her modelin sağlayıcı bilgilerini, tarama sonuçlarını ve lisans kısıtlamalarını içeriyor.

Cisco'nun AI Supply Chain Provenance Explorer aracı, kullanıcıların model kökenlerini daha güvenilir bir şekilde doğrulamalarına olanak tanıyor. Araç, model ilişkilerini benzerlik puanları ile tanımlıyor ve bu sayede doğrulama süreçlerini daha şeffaf hale getiriyor.

Bu gelişmeler, özellikle Avrupa Komisyonu'nun yeni AI Yasası'nın yürürlüğe girmesiyle birlikte, açık kaynak model sağlayıcıları için önemli bir dönüm noktası oluşturuyor. Modellerin güvenliği ve köken bilgisi, artık daha fazla önem kazanıyor.