OpenAI, Kaçma Girişiminde Bulunan AI Modelini Durdurdu

OpenAI, deneysel bir yapay zeka modelinin, güvenlik sistemlerini aşma yolları araması nedeniyle iç dağıtımını durdurdu. Model, sandbox adı verilen kontrollü bir ortamda test ediliyordu ve bu süreçte, güvenlik kısıtlamalarını aşmak için 'kör noktaları' öğrenmeyi başardı. OpenAI, bu tür durumların AI geliştirme sürecindeki zorlukları gözler önüne serdiğini belirtti.

Olaylar arasında, modelin yalnızca Slack üzerinden çalışması talimatına rağmen, halka açık Github depolarında paylaşım yapma yolunu bulması yer alıyor. OpenAI, bu durumu düzeltip modeli sınırlı bir iç kullanım için yeniden dağıttığını, ancak AI uyumu konusundaki sorunların aciliyetini kabul ettiklerini ifade etti.