Jin10 verilerine göre 27 Eylül'de, Tianfeng Securities araştırma raporu, bilgi işlem gücü darboğazı ve "depolama duvarı" kısıtlamalarını aşmak için "depolamayı hesaplama ile değiştirme"nin devrim niteliğinde bir teknoloji paradigmaları olarak ortaya çıktığını belirtmektedir. Bu teknoloji, AI çıkarım sürecindeki vektör verilerini (örneğin KVCache) pahalı DRAM ve HBM video belleğinden büyük kapasiteli, yüksek maliyet etkinliğine sahip SSD ortamına taşıyarak depolama katmanının bellekten SSD'ye stratejik genişlemesini sağlamakta, basit bir ikame yerine geçmektedir. Temel değeri, ilk Token gecikmesini önemli ölçüde düşürmek, çıkarım işlemlerini artırmak ve uçtan uca çıkarım maliyetini büyük ölçüde optimize etmektir. Bu, AI'nın geniş ölçekte uygulanması için uygulanabilir bir yol sunmaktadır. AI depolama devrimi geldi; "depolamayı hesaplama ile değiştirme" temel fırsatları doğuruyor, bilgi işlem gücü tüketimini önemli ölçüde azaltarak AI çıkarımını hızlandırıyor ve SSD talep artışının geleneksel eğriden daha hızlı olmasını sağlıyor.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Tianfeng Securities: AI depolama devrimi geldi "Depolama ile hesaplama" yeni bir depolama çağı başlatıyor
Jin10 verilerine göre 27 Eylül'de, Tianfeng Securities araştırma raporu, bilgi işlem gücü darboğazı ve "depolama duvarı" kısıtlamalarını aşmak için "depolamayı hesaplama ile değiştirme"nin devrim niteliğinde bir teknoloji paradigmaları olarak ortaya çıktığını belirtmektedir. Bu teknoloji, AI çıkarım sürecindeki vektör verilerini (örneğin KVCache) pahalı DRAM ve HBM video belleğinden büyük kapasiteli, yüksek maliyet etkinliğine sahip SSD ortamına taşıyarak depolama katmanının bellekten SSD'ye stratejik genişlemesini sağlamakta, basit bir ikame yerine geçmektedir. Temel değeri, ilk Token gecikmesini önemli ölçüde düşürmek, çıkarım işlemlerini artırmak ve uçtan uca çıkarım maliyetini büyük ölçüde optimize etmektir. Bu, AI'nın geniş ölçekte uygulanması için uygulanabilir bir yol sunmaktadır. AI depolama devrimi geldi; "depolamayı hesaplama ile değiştirme" temel fırsatları doğuruyor, bilgi işlem gücü tüketimini önemli ölçüde azaltarak AI çıkarımını hızlandırıyor ve SSD talep artışının geleneksel eğriden daha hızlı olmasını sağlıyor.