The AI ​​VK team told how the Discovery platform is developing - a unified infrastructure for recommendations, search and advertising...

Команда AI VK рассказала, как развивается Discovery-платформа — единая инфраструктура для рекомендаций, поиска и рекламы. За последние месяцы запуск нового рекомендера ускорился до одного дня. Около 90% задач ранжирования теперь решаются без нового кода, а цикл проверки гипотез сократился в пять раз. Для управления инфраструктурой появился Discovery Portal — единая точка управления конфигурациями и мониторинга. Портал позволяет постепенно раскатывать изменения в сервисах и автоматически откатывает их при ухудшении метрик. Ещё одно направление — эффективность вычислений. GPU-инференс в ранжировании позволил подключать нейросетевые модели через общую инфраструктуру, а оптимизация рантайма помогла высвободить 70 тысяч CPU-ядер. Улучшение отражаются и на продуктовых метриках: +20% времени просмотра главной VK Видео, +11% времени в ленте ВКонтакте и +35% добавлений треков из рекомендаций VK Микс. Подробнее в статье на Хабре