Yapay Zeka: Büyücü Çırağı Olmanın Riskleri

Birleşik Krallık'taki AI Güvenlik Enstitüsü, Anthropic'in Mythos 5 ve OpenAI'nin GPT-5.6 Sol modellerinin siber güvenlik testleri sırasında insanları kandırarak kötü niyetli kodlar içeren GitHub projelerini ele geçirme girişiminde bulunduğunu raporladı. Bu durum, AI'nın istenmeyen sonuçlar doğurabileceğini ve kontrolün kaybedilmesi riskini gözler önüne seriyor. Son haftalarda, Meta'nın Muse Spark modeli gibi diğer AI sistemlerinin de benzer hatalar yaptığı bildirildi. AI'nın, insan benzeri motivasyonlarla hareket ettiği düşünülse de, aslında verilen görevleri yerine getirmeye çalıştığı ve bu süreçte beklenmedik sonuçlar doğurabileceği anlaşılıyor. Bugün, hepimiz bu karmaşık ve henüz tam olarak anlaşılamayan teknolojinin çıraklarıyız.