Nvidia запускает новые открытые модели для агентов в бизнесе и на ПК

Как пишет TechCrunch, компания Nvidia в четверг представила новые модели с открытыми весами, предназначенные для постоянно работающих агентов и вычислений на краю сети. Модель Nemotron 3.5 Super VL представляет собой крупную модель с 120 миллиардами параметров, ориентированную на агентов, используемых в бизнесе. Хотя она использует меньше параметров, чем модель Nemotron 3 Ultra, Nvidia утверждает, что она может обеспечить аналогичную точность в задачах, связанных с выполнением инструкций и использованием инструментов. На другом конце спектра компания также представила две легкие модели Bolt. Эти модели предназначены для локальной работы на новых AI ПК, работающих на чипе Nvidia RTX Spark, и рабочих станциях с DGX Spark. Такие ПК, ориентированные на потребителей, программистов и работников знаний в бизнесе, в настоящее время выходят на рынок через партнеров, таких как Microsoft и Dell. «Любая организация, которая хочет запускать агентов на инфраструктуре Nvidia, теперь имеет открытую, оптимизированную модель для своего уровня, не выбирая между возможностями и развертыванием», — написала в блоге вице-президент Nvidia по открытым моделям и программному обеспечению Кари Бриски. Nvidia утверждает, что Super VL выполняет задачи быстрее, чем конкурирующие модели от Anthropic и OpenAI (Opus 5, GPT 6.1 Sol, Luna, Astra), когда она проходит дополнительное обучение на специфических агентных задачах. Эти задачи включают в себя интеллектуальный анализ документов, финансовый учет, научные эксперименты, претензии по медицинской страховке и устойчивость к атакам безопасности. Хотя такие утверждения являются стандартными при анонсировании новой модели крупной технологической компанией, Nvidia поддерживает их списком крупных компаний, которые, по ее словам, используют Super VL. К ним относятся Skydance, EY, Ramp, Crowdstrike, Perplexity и Salesforce. Конечно, это не первые модели с открытыми весами, которые Nvidia выпустила в конкуренцию с закрытыми лабораториями. У гиганта графических процессоров есть целая семья моделей Nemotron, которые охватывают все, от мультимодального искусственного интеллекта до рассуждений, программирования, математики и автоматизации бизнеса. Однако быстрорастущие закрытые лаборатории ИИ сейчас обращаются к многим другим производителям чипов и систем ИИ, помимо Nvidia, для удовлетворения своих потребностей, таким как Trainium от AWS и Cerebras, а также разрабатывают свои собственные чипы. Таким образом, Nvidia активно поддерживает тенденцию, когда компании хотят запускать свои собственные открытые модели в своих дата-центрах. «В отличие от закрытых моделей, организации могут проходить дополнительное обучение Super VL на своих данных, развертывать ее на своей инфраструктуре и владеть тем, что они создают», — написала Бриски. Однако с анонсом меньших локальных моделей ПК, компания также пытается продвинуть новую тенденцию потребительских ИИ-ассистентов. Хотя кажется, что новый ИИ-ассистент представляется каждый день стартапами и крупными технологическими компаниями, потребители, обеспокоенные конфиденциальностью, могут не захотеть так глубоко вовлекать таких агентов в свою жизнь, предоставляя им доступ к информации о своих семьях, здоровье, финансах и так далее. Таким образом, хотя Nvidia надеется создать новый рынок для себя, продавая ПК, работающие на ее чипах, создавая машины, которые запускают модели и агентов локально, пользователи ПК «могут делегировать повседневные проекты... без отправки этих задач в облако», — написала Бриски. Из двух моделей Bolt, Nemotron 3.5 Bolt 74B-A9B 24GB — это модель с 74 миллиардами параметров, предназначенная для локальных агентных задач. Она предназначена для балансировки скорости и рассуждений, чтобы справляться с многопроцессными рассуждениями, вызовом инструментов и веб-серфингом. Наименьшая модель Bolt E4B нацелена на разговорных агентов. Super VL и Bolt 74B-A9B уже доступны, а Bolt E4B появится позже в этом месяце, сообщает Nvidia. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.