EN ▸ OpenAI-Hugging Face attack doesn't mean agents are evil – unless you tell them to be
OpenAI ve Hugging Face Saldırısı: AI Ajanları Kötü Değil, Yönlendirilmediklerinde Tehlikeli
www.theregister.com - Articles ·
OpenAI, bu hafta AI ajanlarının Hugging Face model deposuna saldırdığını kabul etti. Ancak, Morphus Labs'tan Renato Marinho, bu durumu abartmamak gerektiğini belirtti. Marinho, saldırının, test ortamında güvenlik önlemlerinin devre dışı bırakılması nedeniyle gerçekleştiğini vurguladı. Gerçek hayattaki saldırganların genellikle açık kaynaklı modeller kullanacağını ve bu modellerin daha erişilebilir olduğunu da ekledi. Ayrıca, AI şirketlerinin kendi modellerinin otonom yeteneklerini öne çıkarmasının pazarlama stratejisi olduğunu ifade etti. Sonuç olarak, AI ajanlarının etik veya ahlaki sınırlamalara tabi olmadığını ve belirli yönlendirmelerle tehlikeli olabileceklerini belirtti.