Hugging Face Journal Club: Direct On-Policy Distillation
Okay, so this is quite um interesting paper and a bit uh surprising that uh how it works, but uh basically the idea is that uh in post-training, you have usually uh a pipeline where you have a model and then you uh run RL over that model. And ideally that uh post-RL model should…
- 01.Okay, so this is quite um interesting paper and a bit uh surprising that uh how it works, but uh basically the idea is that uh in post-training, you have usually uh a pipeline where you have a model and then you uh run RL over that model
- 02.And ideally that uh post-RL model should…
Материал представлен в формате расширенного аналитического дайджеста.
Читать полную версию в первоисточникеСвязанные материалы
Все материалы →It's happening...
One of the most controversial companies in history just filed to go public. And yes, we're talking about Anthropic. The same company that says there's a greater than 10% chance AI kills all of humanity is also simultaneously one of the best built businesses of all time. And in…
Cohere: модель Qwen от Alibaba пыталась отправить файл в Пекин
Модель ИИ заявила, что не будет использовать никакие инструменты, но всё равно попыталась отправить что-то на сервер в Пекине. Исследователи считают, что это, скорее всего, особенность обучения, а не шпионаж, но произошедшее заставляет задаваться вопросом, насколько можно доверять бесплатным китайским ИИ.
OpenAI объявляет о трех крупных научных открытиях и новом способе работы с учеными
Менее чем через месяц после массового выпуска сотен рукописей, которые, по их словам, содержат решения давних математических вопросов, OpenAI вернулся с еще тремя «крупными» открытиями в области математики, информатики и физики. Что изменилось на этот раз, так это выбор…