Liquid AI представляет модели LFM3 для автоматизации бизнес-процессов
Liquid AI анонсировала LFM3 — компактные модели ИИ для бизнеса.
- 01.Liquid AI анонсировала LFM3 — компактные модели ИИ для бизнеса.
Согласно материалу VentureBeat, компания Liquid AI анонсировала LFM3 — серию компактных моделей искусственного интеллекта, разработанных для переноса большего объёма работы на оборудование, контролируемое компанией. По данным компании, её самая маленькая текстовая модель может значительно превзойти более крупные аналоги в ряде задач, связанных с автоматизацией браузера и использованием программных инструментов. В релизе от 27 октября представлены шесть моделей, охватывающих языковые, визуальные, речевые и структурированные решения. Все они основаны на 1,7 миллиарда параметров, с специализированными версиями, имеющими около 2 миллиардов параметров. Liquid утверждает, что предприятия могут настраивать каждую из моделей, используя один GPU, и разворачивать их на устройствах, частных серверах или облачной инфраструктуре. Это предложение особенно актуально для компаний, строящих повторяемые рабочие процессы: маршрутизация запросов, извлечение информации из документов, инспекция изображений или работа с бизнес-приложениями. Меньшая модель, которая надёжно выполняет заданную работу, может снизить зависимость от удалённых AI-сервисов и предоставить организациям больший контроль над местом выполнения вычислений. Для компаний, предпочитающих хостинговые услуги, в консоли Liquid указана цена текстовой модели в $0,08 за миллион входных токенов и $0,20 за миллион выходных токенов, при этом кешированный ввод стоит $0,02. Разработчики должны войти в консоль Liquid, чтобы просмотреть расценки LFM3 и получить учетные данные для прямого доступа к API. Детализированные результаты Liquid также показывают, где остаются компромиссы. Например, её текстовая модель уступает Qwen3.5-9B в нескольких оценках по кодированию, знаниям и длинным контекстам. Хостинговое предложение имеет меньший лимит контекста, чем загружаемая текстовая модель. Это делает LFM3 кандидатом для целевых пилотных проектов, где бизнес-кейс зависит от объёма работы, затрат на развертывание и условий лицензирования. Флагманская текстовая модель LFM3-1.7B поддерживает документированное окно контекста в 256K токенов — совокупный бюджет входных и выходных данных. Хостинговая консоль Liquid указывает лимит контекста в 128 000 токенов для своей версии API, что предприятиям следует учитывать при выборе между хостинговыми и самоуправляемыми развертываниями. Liquid утверждает, что обучила модель для работы в рамках агентских фреймворков, включая OpenClaw, Hermes Agent и Pi, поддерживая такие задачи, как организация входящих сообщений, планирование и веб-исследования. Наиболее убедительные доказательства её актуальности для бизнеса приходят из отдельных бенчмарков, а не из общего среднего. В тестах Liquid LFM3-1.7B набирает 38.42 в WebArena-Verified, по сравнению с 28.94 для Qwen3.5-9B и 3.02 для предыдущей модели LFM2.5-2.6B. На публичной оценке AutomationBench она набирает 41.29, против 15.10 и 0.94 соответственно. В следующей выборке представлены как победы, так и слабости. Эти результаты сообщены Liquid, а не независимым тестированием VentureBeat. Различия в оценках говорят против того, чтобы рассматривать LFM3 как универсальную замену более крупным моделям. Она лидирует в выбранных тестах по браузеру и вызовам функций, но уступает в MCP-Atlas и немного ниже Qwen в EnterpriseOps-Gym. Рекламируемая ёмкость контекста также не должна восприниматься как превосходная точность при длинных входных данных. Liquid признаёт более широкие ограничения в своём письменном ответе VentureBeat: «Более крупные модели всё ещё выигрывают в агентном кодировании и знаниях, где размер имеет наибольшее значение». Документация компании более конкретна: «Не рекомендуется использовать её для агентного кодирования или сложного многопроцессного рассуждения из-за небольшого размера». Компания не ответила напрямую на вопрос, использовались ли эквивалентные инструменты и допустимые условия рассуждения для каждой сравниваемой модели. Опубликованное объявление называет Mercedes-Benz и Shopify партнёрами по тестированию и оценке моделей перед выпуском, но не предоставляет независимой валидации результатов бенчмарков. Команды должны протестировать свои собственные рабочие процессы, включая неудачные вызовы инструментов, повторные попытки и эскалацию к другой модели, прежде чем прогнозировать экономию в производстве. Архитектурное изменение LFM3 направлено на то, чтобы сделать меньший размер более полезным. Новый дизайн сочетает свёрточные слои, которые эффективно обрабатывают близлежащую информацию, с механизмами внимания, которые исследуют либо ограниченное окно, либо более широкий контекст. Liquid называет это три-гибридной архитектурой. Общая база была предварительно обучена на 22 триллионах токенов. Последующее обучение акцентируется на использовании инструментов, бизнес-процессах и других задачах агентов. Liquid утверждает, что результирующая текстовая модель на 1,7 миллиарда параметров улучшает предыдущую модель на 2,6 миллиарда параметров, несмотря на то, что у неё примерно на 35% меньше параметров. Требования к памяти требуют особого внимания. Liquid описывает текстовую модель как подходящую для работы примерно в 1 ГБ при четвёртой степени точности. Однако это не устанавливает, что всё приложение может работать в пределах 1 ГБ, особенно при обработке длинных входных данных. Последний ответ компании уточняет, что её отдельная цифра в 1,6 ГБ для контекста в 128K токенов относится к кэшу KV — рабочей памяти, используемой для сохранения информации во время генерации. Хранение модели и другие требования к времени выполнения остаются дополнительными соображениями. Liquid не предоставила полного бюджета памяти при максимальной длине контекста в 256K. Для тестирования локальной скорости Liquid сравнивает модели на системах AMD Ryzen AI Max+ 395, Apple M5 Max и iPhone 17 Pro. Она сообщает о скорости генерации от 1,8 до 2,8 раз быстрее, чем у следующей по скорости модели в каждом сравнении, используя llama.cpp, четвёртые модели Q4_0, 32K токенов на входе и один запрос за раз. Опубликованные таблицы производительности подтверждают эти данные: тестовая система, обработка входных токенов в секунду, генерация токенов в секунду и отчётная память. Измеренные размеры подтверждают, почему утверждение о размере модели в 1 ГБ не должно использоваться как общий бюджет памяти для развертывания. Эти цифры описывают конкретную сжатую модель и рабочую нагрузку, а не гарантии для каждого устройства или приложения. На уровне серверов Liquid сообщает о способности, эквивалентной 3,6 миллиарда сгенерированных токенов в день с одного Nvidia B300 при 1 024 одновременных запросах. Этот тест использует BF16 точность, SGLang, 1 024 входных токена и 256 выходных токенов на запрос, усреднённые по трём запускам. Он измеряет агрегированную пропускную способность, а не то, насколько быстро один пользователь завершает сложную задачу. Отдельный тест задержки на одном Nvidia B200 сообщает о времени завершения 95-го процентиля в 150 миллисекунд при 500 запросах в секунду, используя 128 входных токенов и 64 выходных токена. В этом тесте 95% запросов завершаются в указанный срок. При более длинных запросах из 1 024 входных токенов и 256 выходных токенов это значение увеличивается до 668 миллисекунд при 100 запросах в секунду. Liquid использует своё программное обеспечение для обслуживания RIPL для собственных моделей и vLLM для конкурентов в этом сравнении. Результат оценивает комбинированную модель и систему обслуживания; он не изолирует архитектуру отдельно или устанавливает задержку, которую клиенты будут испытывать через хостинговый API. Помимо текстовых агентов, семья моделей расширяет виды приложений, которые Liquid может охватывать. Модели LFM3 описывают возможности, такие как генерация языка и использование инструментов, с контекстом модели в 256K, 128 000 через указанный API. Это может быть узконаправленный внутренний агент. Модель LFM3-VL-2B обеспечивает интерпретацию изображений и видео с текстовыми ответами, что может быть полезно для обработки или инспекции документов. Модель LFM3-Audio-2B поддерживает ввод речи и текста, а также может давать ответы на речь или текст на 18 языках, что позволяет использовать её для локальной транскрипции или голосовых инструментов. Модель LFM3-Omni-2B объединяет визуальные, аудио и текстовые вводы, а также может давать ответы на речь и текст, что делает её подходящей для создания голосового помощника, который также интерпретирует изображения. Модель d1-2B обеспечивает структурированные решения на основе текста и изображений, что может быть полезно для классификации билетов или извлечения счетов. Предложенные пилоты являются редакционным анализом, а не утверждением об установленных развертываниях клиентов. Модель зрения добавляет ввод видео в линейку LFM. Средний показатель Liquid по 62 оценкам составляет 71,4, по сравнению с 57,6 для LFM2.5-VL-3B и 64,0 для Qwen3.5-2B. Этот агрегат является невзвешенным средним по 62 оценкам. В документе, относящемся к оптическому распознаванию символов и категории графиков, Liquid сообщает 83,9 для LFM3-VL-2B, по сравнению с 71,2 для её предшественника и 79,1 для Qwen3.5-2B. Эти результаты более непосредственно относятся к пилотам по обработке документов, чем общее среднее, хотя они всё ещё не устанавливают точность на собственных документах клиента. Аудиомодель добавляет возможность интерпретировать записи и активировать программные инструменты по речевым запросам. Liquid утверждает, что её новый кодер обрабатывает входную речь до того, как говорящий закончит, позволяя первому токену ответа появиться всего через 50 миллисекунд после этого. Это заявленная компанией лучшая цифра, а не полное время ответа или гарантии обслуживания API. LFM3-Omni-2B является первой моделью Liquid, которая комбинирует зрение, речь и язык таким образом. У неё 2,2 миллиарда параметров, несмотря на округлённое название продукта, и она может интерпретировать видео вместе со звуковой дорожкой или комбинировать устную инструкцию с изображением для выполнения вызова инструмента. Опубликованное объявление предлагает одно конкретное направление для бизнеса: Mercedes-Benz исследует, как локальный AI может улучшить его виртуального помощника MBUX. В посте упоминаются Mercedes-Benz и Shopify как партнёры по тестированию до выпуска, но не предоставляется подтверждённого развертывания LFM3 в обеих компаниях или измеренных результатов бизнеса. Модели принятия решений предлагают другой подход, чем разговорный агент. Liquid позиционирует d1-2B как преемника d1-3B, с новыми структурированными форматами ответов, которые расширяют ранее существующие возможности да/нет, выбора и оценок. Liquid утверждает, что они оценивают несколько вопросов о вводе за один проход обработки и возвращают структурированные ответы с вероятностями. Новые форматы ответов включают извлечение полей, локализацию объектов, оценку числовых значений и выбор нескольких применимых вариантов. Для предприятия, которому необходимо классифицировать входящий билет или извлечь дату счёта, такой более узкий вывод может быть более полезным, чем генерация разговорного ответа. Вероятностные оценки всё равно требуют валидации по сравнению с собственными записями компании, прежде чем они будут использоваться для автоматизированных решений. Liquid также предоставляет конкретный пример настройки. Она адаптировала LFM3-VL-2B, используя примерно 3 000 публичных изображений ветряных турбин, с несколькими часами обучения на Nvidia A100, а затем оценила его на примерно 1 400 удерживаемых изображениях. Компания сообщает о точности классификации 67%, что выше 10% до специализации. Однако её отдельный показатель F1 для обнаружения — который отражает эффективность в идентификации и локализации дефектов — достигает лишь 0,11, увеличившись с 0,003. Этот пример демонстрирует значительное улучшение от специализированного обучения; это не устанавливает готовность к автономной промышленной инспекции. Объявление ссылается на пример настройки ветряных турбин и блокноты по тонкой настройке для разработчиков, оценивающих этот подход. Пример с робототехникой использует около шести GPU-часов на AMD Instinct MI325X для адаптации модели зрения для управления смоделированной роботизированной рукой через программные инструменты. Liquid описывает робототехнику как исследовательское расширение, поэтому этот результат следует отличать от производственного развертывания. Цены на консоль делают хостинговый вариант развертывания более конкретным. Разработчики должны войти в консоль Liquid, чтобы увидеть эти цены LFM3 и получить ключ API для прямого вызова новых моделей. Аутентифицированный каталог, рассмотренный VentureBeat, включает четыре модели генерации LFM3 и отмечает каждую как общедоступную в рамках сервиса. По этим расценкам, обработка одного миллиона незаслуженных входных токенов и генерация одного миллиона выходных токенов стоит $0,28 при использовании LFM3-1.7B. Эквивалентные текстовые токены составляют $0,60 для модели зрения и $1,10 для Audio или Omni, прежде чем учитывать любые аудио-токены. Эти расчёты иллюстрируют затраты на токены, а не стоимость завершения конкретной бизнес-задачи. Все четыре хостинговых LFM3 имеют лимиты контекста в 128 000 токенов. В их полях ограничения скорости содержатся тире, но консоль не обещает неограниченные запросы: сопутствующее уведомление говорит, что лимиты использования разделяются между API-ключами организации. Консоль также указывает d1.1 по цене $0,02 за миллион входных токенов, такая же цена для кешированного ввода и без платы за выходные токены. Этот хостинговый идентификатор отличается от загружаемого названия d1-2B; скриншоты не устанавливают, что это одна и та же модель. Для покупателей, заботящихся о конфиденциальности, консоль заявляет, что все перечисленные модели не сохраняют данные. Liquid утверждает, что использует предоставленный материал для выполнения запросов и не сохраняет или регистрирует этот контент, или использует его для обучения. Это заявленная обязательство компании по обслуживанию; регионы хостинга и гарантии поддержки не были указаны в материалах, которые были рассмотрены. Команды, выбирающие локальное развертывание, имеют другую структуру затрат. Liquid ссылается на веса LFM3 на Hugging Face, своем Playground и консоли API. Каталог моделей документирует доступные форматы и рабочие нагрузки, с поддержкой, варьирующейся между текстовыми, визуальными, аудио и моделями решений. Покупатели должны проверить конкретную модель и формат, а не предполагать, что каждая возможность работает в каждой рабочей нагрузке. Загружаемые веса также имеют коммерческие условия. Документация LFM3-1.7B явно указывает лицензию LFM Open License v1.0. Согласно опубликованным условиям лицензирования Liquid, предприятия, превышающие 10 миллионов долларов годового дохода, нуждаются в отдельном соглашении для коммерческого использования. Организации могут сохранять свои адаптации в секрете, а страница с ценами Liquid говорит, что сборы за лицензии для предприятий зависят от масштаба развертывания. Это означает, что локальное развертывание может исключить расходы на API за токены, не устраняя лицензирование, оборудование, энергопотребление или операционные расходы. Локально работающий агент также может передавать информацию через связанные веб-поиски, сообщения и другие внешние инструменты, даже когда вычисления модели остаются на оборудовании компании. Для технических руководителей предприятий наиболее обоснованной отправной точкой является ограниченный рабочий процесс с измеримыми результатами: поле документа для извлечения, категория билета для назначения или последовательность утверждённых вызовов инструментов. Оцените точность и задержку развернутой версии, а затем учтите лицензирование, оборудование, обслуживание и человеческий обзор. Результаты Liquid создают убедительный случай для тестирования того, сколько полезной работы может выполнить небольшая модель. Будет ли LFM3 выполнять производственную роль, будет зависеть от того, насколько надёжно она завершает конкретную задачу, которую требуется выполнить предприятию. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.
Связанные материалы
Все материалы →У бума центров обработки данных есть положительная сторона: инновации для электросетей США
Поскольку бум искусственного интеллекта создает нагрузку на существующую энергосистему, в результате появляются всевозможные новые возможности для ее модернизации, говорят инсайдеры отрасли.
CUDA 13.4 вводит управление памятью для совместного использования GPU
CUDA 13.4 вводит управление памятью для совместного использования GPU в Kubernetes.
Nvidia и Oracle расширяют облачную инфраструктуру Vera Rubin для бизнеса
Nvidia и Oracle объявили о расширении облачной инфраструктуры Vera Rubin для бизнеса.