Повідомлення Gate News, 23 квітня — DeepSeek відкрив вихідний код TileKernels під ліцензією MIT: бібліотека GPU-ядр для обчислень, написана на TileLang для тренування та інференсу великих мовних моделей. TileLang — це предметно-орієнтована мова, розроблена командою tile-ai для вираження високопродуктивних GPU-ядр у Python. DeepSeek зазначив, що більшість ядер у цій бібліотеці вже наблизилися до граничних можливостей апаратного забезпечення за обчислювальною щільністю та пропускною здатністю пам’яті, причому частини коду вже розгорнуті у внутрішніх операціях тренування та інференсу.
Бібліотека містить шість категорій ядер: MoE (mixture of experts) gating і маршрутизація, включно з вибором експертів Top-k, відображенням токен—експерт і злитими операціями expand/shrink із нормалізацією ваг; квантування, що підтримує формати FP8, FP4 і E5M6 із квантуванням для кожного токена, для кожного блока та для кожного каналу, включно зі злитими операціями SwiGLU+квантування; batch transpose; Engram gating із злитим поширенням уперед/назад RMSNorm і зведенням градієнта ваг; Manifold HyperConnection із нормалізацією Sinkhorn і змішаним split/apply; а також високорівневі інтерфейси autograd, які обгортають низькорівневі ядра в навчальні шари.
Engram і Manifold HyperConnection є власницькими компонентами модельної архітектури DeepSeek, причому деталі реалізації вперше були розкриті публічно. Бібліотека вимагає GPU архітектури NVIDIA SM90 або SM100 (H100/H200 або серії Blackwell), CUDA Toolkit 13.1 або новішу версію, і PyTorch 2.10 або новішу версію.
Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до
Застереження.
Пов'язані статті
Bakkt завершує придбання DTR на тлі зростання доходів і стратегічної перебудови
Bakkt завершила придбання Distributed Technologies Research — крок, покликаний інтегрувати інфраструктуру для стейблкоїнів, зручних для роботи з штучним інтелектом (AI), у свої базові фінансові сервіси.
Оновлення глобального клірингу
Bakkt Inc. завершила придбання Distributed Technologies
Coinpedia2год тому
Користувачі Wasabi Protocol тепер можуть безпечно взаємодіяти з контрактами та виводити кошти
Згідно з Wasabi Protocol, користувачі тепер можуть безпечно взаємодіяти з контрактами протоколу, щоб вивести залишкові кошти. Команда розслідує інцидент і заявила, що наразі не може розкрити додаткові деталі, але надасть оновлення спільноті, щойно з’являться відповідні умови
GateNews2год тому
Пол Сторц еCash Fork Піднімає занепокоєння розробників
Розробники та представники індустрії висловили занепокоєння щодо пропозиції eCash, посилаючись на ризики для користувачів, нерівномірний розподіл і філософські суперечності, повідомляє наданий матеріал.
Занепокоєння розробників
Пропозицію описують як таку, що вводить для користувачів кілька категорій ризику, хоча конкретні т
CryptoFrontier3год тому
AI-агент Manfred формує компанію та готується торгувати криптовалютою до кінця травня
AI-агент Manfred створив власну компанію та вже має криптогаманець і бізнес-документи для найму співробітників, здійснення платежів і проведення операцій. Планується, що агент розпочне торгівлю криптовалютою до кінця
GateNews3год тому
AI-агент Менфред створює компанію, отримує криптогаманць і підтвердження для найму перед стартом біржових торгів у кінці травня
AI-агент Manfred створив власну компанію та отримав криптогаманець разом із обліковими даними для найму персоналу, здійснення платежів і ведення бізнесу, повідомляють у звітах. Агент планує розпочати торгівлю криптовалютою до кінця
GateNews9год тому
Хоскінсон обговорює роль Midnight в екосистемі Cardano на The Breakdown
Чарльз Хоскінсон, засновник Cardano та співзасновник Ethereum, з’явився як гість на 701-му епізоді подкасту "The Breakdown", який веде Девід Гокштайн, щоб обговорити проєкт Midnight, виклики з користувацьким досвідом у криптовалюті та його бачення майбутнього блокчейну. Під час інтерв’ю Хоскінсон
CryptoFrontier11год тому
