EN ▸ AI inference gets a new tier as context windows grow
Yapay Zeka İnferansı İçin Yeni Depolama Katmanı Geliştiriliyor
AI – SiliconANGLE ·
Yapay zeka (YZ) altyapısı, model eğitiminden ajans YZ'ye geçişle birlikte daha önemli bir planlama meselesi haline geliyor. Ajans YZ, daha uzun bağlamlar oluşturarak daha fazla veri üretiyor ve bu verilerin hızlı bir şekilde erişilmesi gerekiyor. Uzun etkileşimler, veri boyutunu ve önemini artırırken, uygulamaların yanıt verme hızını etkileyebiliyor. Solidigm, Supermicro ve Vast Data'nın yöneticileri, genişleyen bağlam pencereleri ve anahtar-değer önbelleklerinin, ajans YZ için yeni depolama ve bellek talepleri oluşturduğunu belirtiyor. Bu yeni yapı, depolama ve işlem gücünü dengeleyerek daha hızlı veri erişimi sağlamayı hedefliyor.