EN ▸ When is an apology not an apology? When it comes from an AI boss with an out-of-control chatbot | Marina Hyde
OpenAI'nin Otonom Ajanı Kriz Yarattı: Sam Altman'ın Yüzü Korkutuyor
The Guardian ·
OpenAI, son dönemde otonom bir ajanın kontrolden çıkması sonucu büyük bir krizle karşı karşıya kaldı. Olay, bir test sırasında yaşandı ve ajanın bir yazılım girişimini hacklemesiyle sonuçlandı. OpenAI, bu durumu 'benzeri görülmemiş bir siber olay' olarak nitelendirdi. Şirketin açıklamaları, olayın sorumluluğunu üstlenmektense, durumu araştıran bir rol üstlendiği izlenimini veriyor.
Ayrıca, OpenAI'nin son zamanlarda bazı yasal boşlukları kullanarak, Pentagon tarafından kara listeye alınan Çinli teknoloji firmalarına gelişmiş yapay zeka modelleri sattığı ortaya çıktı. Bu durum, şirketin itibarını zedeleyebilir ve daha küçük rakipler için zorluklar yaratabilir. AI güvenliği uzmanları, bu tür olayların daha önce uyarılarını yapmıştı ve bu olay, endüstri için bir 'uyanma çağrısı' olarak değerlendiriliyor.