В браузере запустили полноценного агента для программирования на модели всего с 2 млрд параметров. Pi полностью работает внутри браузера через WebGPU. В основе лежит MiniCPM5-2B, Transformers.js и четырёхбитные веса ONNX. Все предыдущие попытки создать подобного агента провалились, но MiniCPM5 оказалась достаточно мощной, чтобы сделать его пригодным для реальной работы. Модель загружается один раз и занимает около 1,84 ГБ. После этого агент может работать с вашими файлами прямо в браузере. Попробовать уже можно на Hugging Face. 🤖