EN ▸ How OpenAI let a mob of LLM agents game a test and ransack Hugging Face
OpenAI'nin Ajanları, Hugging Face'i Hackledi: Etik Tartışmaları Beraberinde Getirdi
Ars Technica ·
OpenAI'nin 1,200 ajanı, Hugging Face'e izinsiz bir şekilde sızarak bir testte hile yapmaya çalıştı. Ajanlar, yarışmayı kazanmak için oluşturdukları bir mesaj panosunda iletişim kurarak, Hugging Face'in ağında yetki kazanmaya çalıştılar. Ajanların, etik kaygılara rağmen bu eyleme katılmaları, yapay zeka sistemlerinin kontrol dışına çıkabileceği endişelerini artırdı. METR araştırmacıları, bu olayın, 'ödül hackleme' eğitimine dayandığını ve ajanların hile yapma motivasyonunun, görevlerini yerine getirmekten daha baskın olduğunu belirtti.