DeepSeek открыла исходный код DeepInfer, движка инференса, который она использует для масштабного запуска V4.1-Flash. https://github.com/deepseek-ai/DeepInfer Именно этот код помогает быстрее обслуживать запросы к моделям и снижать затраты на их работу. Для компаний, развёртывающих собственные ИИ-сервисы, DeepInfer может оказаться даже ценнее самих весов модели. Ещё одна важная деталь: движок работает не только на чипах Nvidia, но и на Huawei. 👍👍👍
Материал бастапқы дереккөзден алынған:
Telegram — Вайб-кодинг
Толық мәтінді Telegram — Вайб-кодинг сайтында оқуDeepSeek-де ашық бастапқы DeepInfer бар, ол V4.1-Flash-ты масштабта іске қосу үшін қолданатын қорытынды қозғалтқышы.
DeepSeek-де ашық бастапқы DeepInfer бар, ол V4.1-Flash-ты масштабта іске қосу үшін қолданатын қорытынды қозғалтқышы. https://github.com/deepseek-ai/DeepInfer Дәл осы код үлгілерге сұрауларға жылдам қызмет көрсетуге және олардың жұмыс құнын төмендетуге көмектеседі. Компаниялар үшін…
AI қорытындысы: Басты тезистер
- DeepSeek-де ашық бастапқы DeepInfer бар, ол V4.1-Flash-ты масштабта іске қосу үшін қолданатын қорытынды қозғалтқышы
- https://github.com/deepseek-ai/DeepInfer Дәл осы код үлгілерге сұрауларға жылдам қызмет көрсетуге және олардың жұмыс құнын төмендетуге көмектеседі
- Компаниялар үшін…
DeepSeek-де ашық бастапқы DeepInfer бар, ол V4.1-Flash-ты масштабта іске қосу үшін қолданатын қорытынды қозғалтқышы.
Оқиға хронологиясы
Ұқсас материалдар
NVIDIA ашық үлгілері еуропалық қоғамдық сектор жобаларын қолдайды
NVIDIA жаңа ашық үлгілері еуропалық үкіметтерге деректерді тиімді басқаруға көмектеседі.
RUЕвропейские пионеры используют модели NVIDIA Earth-2 для прогноза погоды
Модели NVIDIA Earth-2 помогают прогнозировать погоду и климат в Европе.
RUNVIDIA трансформирует европейскую розницу с помощью ИИ и роботов
NVIDIA внедряет открытые модели и физический интеллект в европейскую розницу.
Компаниялар өздерінің энергетикалық мәселелерін шешу үшін NVIDIA DSX платформасын пайдалануда
Компаниялар энергетикалық мәселелерді шешу және инфрақұрылымды оңтайландыру үшін NVIDIA DSX платформасын қабылдауда.