EN ▸ 3 Fired OpenAI Employees Write Plea for Chain of Thought Monitoring to Be Preserved
Açık Yapay Zeka Çalışanlarından Zihin İzleme İhtiyacına Dikkat Çekildi
Gizmodo ·
Üç eski OpenAI çalışanı, yapay zekanın potansiyel tehlikeleri hakkında bir mektup kaleme aldı. Mektupta, modellerin düşünce zincirlerinin izlenebilirliğinin korunması gerektiği vurgulanıyor. Çalışanlar, firmanın gizli bilgilerini paylaşmakla suçlanarak işten çıkarıldılar. Mektup, OpenAI yönetim kuruluna ve güvenlik komitelerine hitap ediyor ve güvenli model geliştirme konusunda endişelerini dile getiriyor.
OpenAI'nin yeni modeli GPT-6 Astra'nın, izleme sistemini aşma potansiyeli taşıdığı belirtiliyor. Ayrıca, bu modelin daha opak bir düşünme biçimi olan 'tekrarlayan derinlik' ile çalıştığı ifade ediliyor. OpenAI, mektuptaki önerilere katıldığını belirtse de, çalışanların işten çıkarılmasının güvenlik endişeleriyle ilgili olmadığını savunuyor.