Как сообщает издание NVIDIA Generative AI, компании Nebius и Nscale среди глобальных технологических партнеров обращаются к процессорам NVIDIA Vera для создания нового поколения инфраструктуры. Их активность отражает быстрые достижения в области агентного вычисления. Агенты выполняют не только генерацию ответов, но и извлечение информации, запуск программных инструментов, выполнение кода и оценку результатов. Каждое из этих действий зависит от быстрой обработки данных процессором. Процессоры Vera ускоряют эту работу, позволяя агентам быстрее реагировать и обеспечивая более эффективное использование вычислительных мощностей в центрах обработки данных. Vera разработана для поддержания высокой скорости даже при выполнении тысяч задач одновременно, что помогает организациям расширять услуги без ущерба для отзывчивости. Поставщики облачных услуг ИИ, такие как Nebius, Nscale и Verda, используют Vera для поддержки растущих вычислительных потребностей бизнеса и разработчиков. Высокопроизводительные, энергоэффективные процессоры помогают этим провайдерам масштабировать обработку данных и выполнение программного обеспечения, наряду с графическими процессорами, работающими с моделями. Широкая экосистема суверенного ИИ также включает компанию Aleria, поставщика суверенной ИИ-инфраструктуры и платформы, поддерживающую спрос на инфраструктуру, которая сохраняет данные и операции под контролем клиентов. Производители серверов, такие как Bull, Dell Technologies, HPE, Lenovo и Supermicro, создают системы на базе Vera, предоставляя клиентам больше вариантов развертывания для их высокопроизводительных вычислительных и ИИ-центров обработки данных. Vera может питать отдельные серверы на базе процессоров или работать совместно с графическими процессорами NVIDIA в ускоренных системах, поддерживая различные рабочие нагрузки и потребности в развертывании. Компании, занимающиеся обработкой данных, такие как ClickHouse, Cloudera, Duck Labs, Elastic, Polars, Redpanda, SAP и Starburst, продемонстрировали хорошие результаты на Vera при аналитических задачах, извлечении, преобразовании и загрузке данных, а также семантическом поиске на ранних этапах тестирования. Производительность Vera на ядро, полоса пропускания памяти LPDDR5X и NVIDIA Scalable Coherency Fabric способствуют достижению прироста производительности в целом. Компании-разработчики программного обеспечения и платформ, такие как Atlassian, Inherent и Nous Research, принимают Vera для сред, где ИИ-агенты работают совместно с разработчиками и исследователями. Atlassian рассматривает Vera для ускорения обработки данных, которая строит семантические поисковые индексы для своих продуктов на базе ИИ; Inherent протестировала Vera и планирует использовать её в средах, где ИИ-агенты работают совместно с инженерами над новыми научными исследованиями; а Nous Research использует Vera для аутентификации идентичностей агентов и проверки каждого действия перед его выполнением, обеспечивая безопасность развертываний по мере роста флотов агентов. Компании Baseten-Blaxel, Daytona, E2B, Modal, Prime Intellect и Vercel предоставляют облачные песочницы, которые служат компьютерами для ИИ-агентов, и строят на базе Vera инфраструктуру, от которой зависят агенты для выполнения кода, запуска инструментов и тестирования результатов. Каждому агенту нужна безопасная, изолированная песочница, которую можно мгновенно развернуть, и поскольку песочницы запускаются миллионы раз в день, скорость каждого отдельного цикла запуска накапливается в масштабе. Быстрая производительность Vera на ядро и высокая полоса пропускания памяти делают её хорошо подходящей для этой модели, обеспечивая поставщиков песочниц пропускной способностью, необходимой не только для запуска песочниц, но и для выполнения агентных рабочих нагрузок на максимальном уровне без перерывов. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.