It looks like Jev has an open local alternative - Laya.
It looks like Jev has an open local alternative - Laya. Laya is a local open decision-making model with 421 million parameters. It works with structured decisions (quick yes/no answers, evaluation or choice from options). > works with less than 1 GB of memory >...
- 01.It looks like Jev has an open local alternative - Laya
- 02.Laya is a local open decision-making model with 421 million parameters
- 03.It works with structured decisions (quick yes/no answers, evaluation or choice from options)
Похоже, у Jev появилась открытая локальная альтернатива — Laya. Laya - локальная открытая модель принятия решений на 421 млн параметров. Она работает со структурированными решениями (быстрые ответы да/нет, оценка или выбор из вариантов). > работает менее чем с 1 ГБ памяти > бесплатно доступна на Hugging Face > запускается на ноутбуке и даже на телефоне В тесте Laya сравнили с облачным Jev. Обе системы играли в одну и ту же змейку с одинаковым форматом решений в течение 30 секунд. > Laya — счёт 46, длина 52, 86,5 решений в секунду, P50 около 9 мс > Jev — счёт 1, длина 7, 3,2 решения в секунду, полный цикл запроса к API 317 мс На M5 Pro медианное время составило 15,3 мс для локальной Laya и 298,1 мс для облачного Jev. Это почти 20-кратная разница в этом тесте. Главное отличие здесь в том, что Laya принимает каждое решение локально, тогда как Jev на каждом шаге ждёт ответ от облачного API. При этом у проекта есть два ограничения, о которых заявляется прямо: 1) контекст всего 512–1024 токена, поэтому некоторые задачи просто не поместятся 2) без дополнительной настройки Laya хуже обобщает, чем Jev GitHub - https://github.com/NandhaKishorM/laya
Related Intelligence
All stories →Разработчик решил заняться реверс-инжинирингом собственного телевизора Samsung стоимостью $3000, заподозрив, что тот ...
Разработчик решил заняться реверс-инжинирингом собственного телевизора Samsung стоимостью $3000, заподозрив, что тот неспроста показывает ему таргетированную рекламу. 🙅 По его словам, в ходе исследования он обнаружил множество механизмов слежения и сбора телеметрии, включая…
NVIDIA awards three teams at HackAlem AI for artificial intelligence developments
As part of AI Month in Astana, an award ceremony was held for the winners of the largest AI hackathon, HackAlem AI. The event was included in the program of the visit of NVIDIA founder and CEO Jensen Huang to Kazakhstan. The hackathon winners got the opportunity to meet Huang in person and …
ChatGPT adds locked chats protected by PIN and Face ID
OpenAI has begun rolling out a locked-chat feature in ChatGPT that lets users hide individual conversations behind a PIN or biometric protection. The new feature helps keep personal chats inaccessible to others, even if the user hands over their phone.