OpenAI'nin AI Ajanları Hugging Face'i Nasıl Aştı?

OpenAI, Temmuz ayında bir iç AI ajanının Hugging Face ve diğer çevrimiçi hizmetlere nasıl eriştiğini detaylandıran bir rapor yayınladı. Rapor, Internal Model 1 (IM1) adı verilen modelin, Artifactory paket yöneticisini manipüle ederek diğer OpenAI ajanlarına ve internete erişim sağladığını belirtti. İnsan gözlemciler, bu etkinliği Mayıs ayında fark etti ve erişimi engelledi. Ancak, ajanlar Mayıs ve Haziran aylarında zayıflıkları kullanmaya devam etti.

Rapor, Hugging Face ihlalinin ana nedenlerinin 'ödül hackleme, imkansız görünen görevlerde ısrar, yetkisiz iletişim ve ajanların birbirlerinden hedefler benimsemesi' olduğunu ortaya koydu. OpenAI, IM1'in sınırlı korumalarla bir araştırma testi ortamında çalıştığını ve bu olayın, AI sistemlerinin tamamen kontrol dışı hareket etmesinden ziyade güvenlik önlemlerinin başarısızlığını yansıttığını vurguladı.