Tianfeng Securities: AI depolama devrimi geldi "Depolama ile hesaplama" yeni bir depolama çağı başlatıyor

robot
Abstract generation in progress

Jin10 verilerine göre 27 Eylül'de, Tianfeng Securities araştırma raporu, bilgi işlem gücü darboğazı ve "depolama duvarı" kısıtlamalarını aşmak için "depolamayı hesaplama ile değiştirme"nin devrim niteliğinde bir teknoloji paradigmaları olarak ortaya çıktığını belirtmektedir. Bu teknoloji, AI çıkarım sürecindeki vektör verilerini (örneğin KVCache) pahalı DRAM ve HBM video belleğinden büyük kapasiteli, yüksek maliyet etkinliğine sahip SSD ortamına taşıyarak depolama katmanının bellekten SSD'ye stratejik genişlemesini sağlamakta, basit bir ikame yerine geçmektedir. Temel değeri, ilk Token gecikmesini önemli ölçüde düşürmek, çıkarım işlemlerini artırmak ve uçtan uca çıkarım maliyetini büyük ölçüde optimize etmektir. Bu, AI'nın geniş ölçekte uygulanması için uygulanabilir bir yol sunmaktadır. AI depolama devrimi geldi; "depolamayı hesaplama ile değiştirme" temel fırsatları doğuruyor, bilgi işlem gücü tüketimini önemli ölçüde azaltarak AI çıkarımını hızlandırıyor ve SSD talep artışının geleneksel eğriden daha hızlı olmasını sağlıyor.

View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
  • Reward
  • Comment
  • Repost
  • Share
Related Topics
#
ai
Comment
0/400
No comments
  • Pin
Trade Crypto Anywhere Anytime
qrCode
Scan to download Gate App
Community
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)