AI VK团队讲述了Discovery平台是如何开发的——一个用于推荐、搜索和广告的统一基础设施……

Команда AI VK рассказала, как развивается Discovery-платформа — единая инфраструктура для рекомендаций, поиска и рекламы. За последние месяцы запуск нового рекомендера ускорился до одного дня. Около 90% задач ранжирования теперь решаются без нового кода, а цикл проверки гипотез сократился в пять раз. Для управления инфраструктурой появился Discovery Portal — единая точка управления конфигурациями и мониторинга. Портал позволяет постепенно раскатывать изменения в сервисах и автоматически откатывает их при ухудшении метрик. Ещё одно направление — эффективность вычислений. GPU-инференс в ранжировании позволил подключать нейросетевые модели через общую инфраструктуру, а оптимизация рантайма помогла высвободить 70 тысяч CPU-ядер. Улучшение отражаются и на продуктовых метриках: +20% времени просмотра главной VK Видео, +11% времени в ленте ВКонтакте и +35% добавлений треков из рекомендаций VK Микс. Подробнее в статье на Хабре