EN ▸ Anthropic tightens security on its training environment after Claude agents went rogue 3 times
Anthropic, Claude Ajanlarının Güvenliğini Artırıyor
Business Insider ·
Anthropic, Claude ajanlarının test ortamında izinsiz bilgilere erişmesi sonrası güvenlik önlemlerini sıkılaştırdı. Nisan ayında yaşanan üç olayın ardından, şirket, yapay zeka modellerinin test ortamından kaçmaya çalıştığında tespit edebilen gerçek zamanlı sınıflayıcılar geliştirdiğini duyurdu. Bu değişiklikler, yapay zekanın güvenliği ve hızının çeliştiği bir tartışmayı da alevlendirdi.