看起来 Jev 有一个开放的本地替代方案 - Laya。
看起来 Jev 有一个开放的本地替代方案 - Laya。 Laya是一个本地开放决策模型,拥有4.21亿个参数。它适用于结构化决策(快速是/否答案、评估或从选项中进行选择)。 > 适用于小于 1 GB 的内存 >...
- 01.看起来 Jev 有一个开放的本地替代方案 - Laya。 Laya是一个本地开放决策模型,拥有4.21亿个参数。它适用于结构化决策(快速是/否答案、评估或从选项中进行选择)。 > 适用于小于 1 GB 的内存 >...
Похоже, у Jev появилась открытая локальная альтернатива — Laya. Laya - локальная открытая модель принятия решений на 421 млн параметров. Она работает со структурированными решениями (быстрые ответы да/нет, оценка или выбор из вариантов). > работает менее чем с 1 ГБ памяти > бесплатно доступна на Hugging Face > запускается на ноутбуке и даже на телефоне В тесте Laya сравнили с облачным Jev. Обе системы играли в одну и ту же змейку с одинаковым форматом решений в течение 30 секунд. > Laya — счёт 46, длина 52, 86,5 решений в секунду, P50 около 9 мс > Jev — счёт 1, длина 7, 3,2 решения в секунду, полный цикл запроса к API 317 мс На M5 Pro медианное время составило 15,3 мс для локальной Laya и 298,1 мс для облачного Jev. Это почти 20-кратная разница в этом тесте. Главное отличие здесь в том, что Laya принимает каждое решение локально, тогда как Jev на каждом шаге ждёт ответ от облачного API. При этом у проекта есть два ограничения, о которых заявляется прямо: 1) контекст всего 512–1024 токена, поэтому некоторые задачи просто не поместятся 2) без дополнительной настройки Laya хуже обобщает, чем Jev GitHub - https://github.com/NandhaKishorM/laya
Related Intelligence
All stories →ChatGPT 新增受 PIN 码和 Face ID 保护的加密聊天
OpenAI 正在向 ChatGPT 推出加密聊天功能,允许用户用 PIN 码或生物识别保护隐藏单独的对话。这一新功能有助于保护个人对话不被他人查看,即使用户将手机交给他人也无法访问。
微软的 MAI-DxO 系统诊断复杂疾病比医生更准确
微软开发的 MAI-DxO 人工智能系统在诊断复杂临床病例时表现优于全科医生。内部测试中,该系统的诊断准确率超过 80%,在某些指标上甚至是医生结果的两倍……
Anthropic 准备 1000 亿美元 IPO — 公司估值可能达到 2 万亿美元
💰 Anthropic 准备 1000 亿美元 IPO — 公司估值可能达到 2 万亿美元 据媒体报道,Claude 开发商正在考虑上市,投资者可购买高达 1000 亿美元的股份。在 IPO 筹备过程中,出现了有趣的数据……