⚡️ DeepSeek перенесла DeepGEMM на Huawei Ascend и выжала из железа 99,8% DeepSeek выложила DeepGEMM-Ascend, порт своей библиотеки матричных ядер на NPU Huawei Ascend 950. API остался тем же, что у оригинального DeepGEMM, а сами ядра переписаны под особенности Ascend. Поддерживаются GEMM в FP4, FP8 и BF16, grouped GEMM для MoE, MQA logits и слитые операторы MegaMoE. Плотный GEMM почти упирается в теоретический потолок: FP4 даёт 1701 TFLOPS (98,3% от пика), FP8 861 TFLOPS (99,5%), BF16 431 TFLOPS (99,8%). Внутри JIT-компиляция, конвейеризация на корутинах и тонкая обёртка над матричными инструкциями Ascend. Нужны CANN 9.20, torch_npu и Python 3.10+. Лицензия MIT. https://github.com/deepseek-ai/DeepGEMM-Ascend @ai_machinelearning_big_data
Материал агрегирован из первоисточника:
Telegram — AI Machine Learning Big Data
Читать полностью в Telegram — AI Machine Learning Big DataDeepSeek перенесла DeepGEMM на Huawei Ascend и выжала из железа 99,8%
DeepSeek перенесла DeepGEMM на Huawei Ascend и выжала из железа 99,8%.
Кратко от AI: Главные тезисы
- DeepSeek перенесла DeepGEMM на Huawei Ascend и выжала из железа 99,8%.
DeepSeek перенесла DeepGEMM на Huawei Ascend и выжала из железа 99,8%
Похожие материалы
Для Blender создали ИИ-агента, который управляет 3D-сценами через чат
🧊 Для Blender создали ИИ-агента, который управляет 3D-сценами через чат Разработчики представили Loopcut — модифицированную версию Blender со встроенным ИИ-помощником. Теперь вместо ручной настройки сцены можно просто описать задачу словами, а агент выполнит необходимые…
Meta наращивает ставку на ИИ: повышает расходы и готовит выпуск нового класса акций
Технологический гигант и его дальнейшие планы могут стать важным индикатором для рынка
n8n: если бизнес-процесс можно нарисовать стрелочками
Автоматизация бизнес-процессов существует десятилетиями. n8n позволяет автоматизировать те этапы бизнес-процесса, которые выполняются в цифровых системах: связывать сервисы, данные, условия и отдельные действия. В эту же схему можно добавлять API-вызовы, скрипты и ИИ-модели —…
Счет за скрытое хранилище ИИ: какие выводы остаются после себя
Попросите большинство руководителей представить себе стоимость искусственного интеллекта, и они, скорее всего, увидят графические процессоры — стойки ускорителей с гигаваттной мощностью — и список ожидания для кремния. Но эта картина упускает кое-что: затраты на хранение данных. Что происходит с данными после ответа модели? Большая часть исходных данных…

