EN ▸ Researcher poisons open-weight AI model for under $100
Açık Ağırlıklı AI Modelleri: Güvenlik Açıkları ve Tehditler
www.theregister.com - Articles ·
Manchester Metropolitan Üniversitesi'nden Katie Paxton-Fear, açık ağırlıklı bir AI modeline 100 dolardan az bir maliyetle arka kapı yerleştirmeyi başardı. Bu durum, AI tedarik zincirinin geleneksel yazılımlara göre daha fazla zehirlenmeye açık olduğunu gösteriyor. Paxton-Fear, yalnızca on eğitim örneği ile modelin uzaktan kod yürütme için güvenilir bir şekilde savunmasız hale geldiğini belirtti.
Uzmanlar, açık ağırlıklı modellerin güvenlik sorunlarına dikkat çekiyor. AI sistemlerinin gözlemlenebilirliğinin, geleneksel yazılımlara göre geride kaldığını vurgulayan araştırmacılar, manipüle edilmiş bir modelin iş riskine yol açabileceğini, ancak bunun tespit edilmesinin zor olduğunu ifade ediyor. Bu durum, AI endüstrisinin güvenilirlik talep ederken, şeffaflık sunmamasıyla daha da karmaşık bir hale geliyor.