Похоже, у Jev появилась открытая локальная альтернатива — Laya. Laya - локальная открытая модель принятия решений на 421 млн параметров. Она работает со структурированными решениями (быстрые ответы да/нет, оценка или выбор из вариантов). > работает менее чем с 1 ГБ памяти > бесплатно доступна на Hugging Face > запускается на ноутбуке и даже на телефоне В тесте Laya сравнили с облачным Jev. Обе системы играли в одну и ту же змейку с одинаковым форматом решений в течение 30 секунд. > Laya — счёт 46, длина 52, 86,5 решений в секунду, P50 около 9 мс > Jev — счёт 1, длина 7, 3,2 решения в секунду, полный цикл запроса к API 317 мс На M5 Pro медианное время составило 15,3 мс для локальной Laya и 298,1 мс для облачного Jev. Это почти 20-кратная разница в этом тесте. Главное отличие здесь в том, что Laya принимает каждое решение локально, тогда как Jev на каждом шаге ждёт ответ от облачного API. При этом у проекта есть два ограничения, о которых заявляется прямо: 1) контекст всего 512–1024 токена, поэтому некоторые задачи просто не поместятся 2) без дополнительной настройки Laya хуже обобщает, чем Jev GitHub - https://github.com/NandhaKishorM/laya
It looks like Jev has an open local alternative - Laya.
It looks like Jev has an open local alternative - Laya. Laya is a local open decision-making model with 421 million parameters. It works with structured decisions (quick yes/no answers, evaluation or choice from options). > works with less than 1 GB of memory >...
AI Summary & Key Takeaways
- It looks like Jev has an open local alternative - Laya
- Laya is a local open decision-making model with 421 million parameters
- It works with structured decisions (quick yes/no answers, evaluation or choice from options)
It looks like Jev has an open local alternative - Laya.
Related stories
AI has learned to anticipate user thoughts. And it seems it will soon be able to control even the agents that control other agents...
🤯 AI has learned to anticipate user thoughts. And it appears it will soon be able to control even the agents that control other agents. A curious feature has appeared in OpenAI Codex. The neural network analyzes conversations, work results, and independently suggests what…
Meta helps University of Pittsburgh advance robotics for people with disabilities
Meta and the University of Pittsburgh are developing robotics for people with disabilities.
Paragon is in touch - summing up the results of the day!
Paragon is in touch - summing up the results of the day! The main thing for the day🟠25.10 🟠Rippling - left Claude for OpenAI because of the price 🟠Uber - ChatGPT Work for 30 thousand employees 🟠Claude and Theorem - 123 libraries verified with proof 🟠NVIDIA OpenShell - the agent will be stopped in milliseconds...
Anthropic sued for allegedly using 274 Elvis Presley songs to train AI models
The owners of Elvis Presley's music catalog have sued Anthropic for allegedly using 274 songs to train its AI models without permission. This lawsuit represents a significant legal challenge for the AI developer from the artist's heirs, which…