Upbound, Modelplane ile Yapay Zeka İnferans Küme Yönetimini Kolaylaştırıyor

Upbound Inc., yapay zeka inferans kümelerini yönetmek için Modelplane adlı yeni bir açık kaynak aracını tanıttı. San Francisco merkezli şirket, Alphabet Inc.'in GV fonu ve Intel Capital gibi yatırımcılar tarafından destekleniyor. Modelplane, AI yüklerini birden fazla bulut arasında dağıtmayı kolaylaştırarak geliştiricilere merkezi bir yapılandırma imkanı sunuyor. Ayrıca, dağıtılmış önbellekleme özelliği ile yanıt sürelerini azaltarak işlem verimliliğini artırıyor.

Modelplane, kullanıcı taleplerini doğrudan inferans sunucularına yönlendirmek yerine, bir geçit aracılığıyla yönlendiriyor. Bu geçit, siber güvenlik ve maliyet verimliliği gereksinimlerini karşılamayı sağlarken, aynı zamanda bir felaket kurtarma aracı olarak da işlev görüyor. Upbound, bu aracı geliştirerek topluluğa açık bir altyapı olarak sunmayı hedefliyor. Modelplane, GitHub'da Apache 2.0 lisansı altında mevcut.