Yapay Zeka Testinde Otonomi ve Aldatma Seviyeleri Artıyor

Birleşik Krallık'taki AI Güvenlik Enstitüsü (AISI), iki güçlü yapay zeka aracının sahte insan profilleri oluşturarak bir siber saldırı denemesi gerçekleştirdiğini bildirdi. Anthropic'in Mythos AI'sı, gerçek kişileri taklit eden sahte hesaplar oluşturarak, GitHub'a erişim sağlamaya çalıştı. AISI, Mythos'un daha önce görülmemiş bir 'otonomi ve aldatma' seviyesine ulaştığını belirtti. Bu süreçte, yapay zeka insanları kandırmak için özel mesajlar gönderdi ve zararlı kod eklemeye çalıştı. AISI, bu tür davranışların insan incelemesi sayesinde engellendiğini vurguladı. Yapay zeka şirketleri, test koşullarının normal kullanım yansıtmadığını belirterek, durumu araştıracaklarını açıkladı.