Джевтің ашық жергілікті баламасы бар сияқты - Лая.

Джевтің ашық жергілікті баламасы бар сияқты - Лая. Laya - 421 миллион параметрі бар жергілікті ашық шешім қабылдау моделі. Ол құрылымдық шешімдермен жұмыс істейді (жылдам иә/жоқ жауаптары, бағалау немесе нұсқалардан таңдау). > 1 ГБ-тан аз жадпен жұмыс істейді > Hugging Face қолданбасында тегін қолжетімді > ноутбукта және тіпті телефонда жұмыс істейді. Сынақта Лая Джев бұлтымен салыстырылды. Екі жүйе де 30 секунд бойы бірдей шешім пішімі бар бір жылан ойынын ойнады. > Laya - санау 46, ұзындығы 52, секундына 86,5 шешім, P50 шамамен 9 мс > Jev - санау 1, ұзындығы 7, секундына 3,2 шешім, API сұрауының толық циклі 317 мс M5 Pro жүйесінде орташа уақыт жергілікті Laya үшін 15,3 мс және Jev бұлтты үшін 298,1 мс болды. Бұл сынақта шамамен 20 есе айырмашылық. Мұндағы басты айырмашылық - Лая әрбір шешімді жергілікті түрде қабылдайды, ал Джев әр қадамда бұлттық API-ден жауап күтеді. Бұл ретте жобаның екі шектеуі бар, олар тікелей көрсетілген: 1) контекст тек 512–1024 таңбалауыш, сондықтан кейбір тапсырмалар жай ғана сәйкес келмейді. 2) қосымша конфигурациясыз, Laya Jev GitHub-қа қарағанда нашар жалпылайды - https://github.com/NandhaKishorM/laya