Объяснение моделей принятия решений AI: Jev против GLiDE и GLiNER2.5-Decide

По данным MarktechPost, модели принятия решений AI представляют собой новый класс моделей, которые возвращают решение, а не текст. Вы отправляете текст с заданными вопросами, а модель возвращает выборы, оценки или вероятности «да/нет», на основе которых ваш код может принимать решения. Эта категория стала популярной после запуска Jev компанией TypeSafe AI, которая два года находилась в режиме скрытого развития. TypeSafe называет свою модель «моделью системы 1», ссылаясь на быстрое интуитивное мышление Даниэля Канемана. Всего через три недели после запуска Fastino Labs выпустила две конкурирующие модели, а разработчики с открытым исходным кодом опубликовали несколько репродукций в стиле Jev. Статья охватывает, как работает эта категория, где она может быть применена и как различные варианты моделей сравниваются друг с другом. Модель Jev принимает «состояние» (строку, массив или набор пар имя-значение) и один или несколько вопросов. Согласно документации TypeSafe, она поддерживает три примитива: выбор (Choice), оценка (Score) и вероятность (Noul). Выбор позволяет выбрать один вариант из списка с вероятностями и уверенностью. Jev поддерживает до 255 вариантов. Оценка позволяет оценить состояние по шкале упорядоченных уровней с вероятностями и уверенностью. Вероятность — это значение от 0 до 1, указывающее, насколько утверждение истинно. Каждому вопросу дается оценка параллельно и изолированно по отношению к одному и тому же состоянию, и добавление новых вопросов практически не увеличивает время ответа. Поскольку Jev никогда не генерирует строки, TypeSafe утверждает, что она не может вернуть ошибку типа. Под капотом TypeSafe описывает новую архитектуру, параллельный выборщик и метод обучения, называемый «Обучением с подкреплением для откалиброванных решений» (RLCD). RLHF оптимизирует предпочтения человека, а RLCD оптимизирует откалиброванные вероятности, где более высокая уверенность должна означать более высокую точность. Важным аспектом является цена: Jev стоит $0.042 за миллион входных токенов, а выходные данные бесплатны. OpenRouter предлагает 32K контекстное окно. TypeSafe сообщает о времени отклика от 70 до 500 миллисекунд. TypeSafe провела оценку рабочих процессов по четырем задачам: инциденты безопасности, наблюдаемость следов агентов, обработка счетов и обслуживание клиентов. Эталонные метки были получены путем усреднения результатов GPT-6 Astra и Claude Fable 5.1. Jev продемонстрировал среднюю точность 67.8% при стоимости $0.0004 за случай и времени отклика 0.4 секунды. Claude Sonnet 5 (та же рабочая нагрузка) показал 67.8% точности, но стоимость составила $0.1174 за случай и время отклика 78.1 секунды. Лучший сравнительный модель (OpenAI “sol”) продемонстрировала 74.1% точности при стоимости $0.0836 за случай и времени отклика 23.3 секунды. Jev сравнялся с Sonnet 5 по точности при значительно меньшей стоимости и задержке, но все же отставал от топовой конфигурации на 6.3 пункта. По задачам Jev набрал 76.0% на обслуживании клиентов, но лишь 61.8% на обработке счетов. Правило простое: если вашему коду нужен ограниченный ответ, на основе которого он будет принимать решение, модель принятия решений является подходящим вариантом. Если человеку нужно прочитать вывод, используйте языковую модель. Примеры использования моделей принятия решений включают выбор следующего инструмента или подагента, управление потоком агентов, маршрутизацию моделей, поддержку в обработке заявок и детекцию намерений. Модель Jev стала самой быстро принимаемой моделью в истории AI Gateway компании Vercel. В течение 24 часов почти 13% платных команд начали её использовать, что в два раза больше, чем доля семейства GPT-5.6 и более чем в шесть раз превышает долю Fable 5.1. Модель Jev также использовалась для повторной оценки поиска, замещая дорогую языковую модель дешевыми параллельными вопросами оценки. В новом исследовании arXiv была использована модель Jev для интерпретации сервисных контрактов на границе сети, что позволило сократить среднюю задержку принятия решений на 22.4% по сравнению с DeepSeek и на 61.9% по сравнению с Gemini. Модели принятия решений AI возвращают типизированные ответы с вероятностями, а не генерируемый текст. Jev стоит $0.042 за миллион входных токенов с бесплатным выходом. В оценках TypeSafe модель Jev сопоставила точность Sonnet 5 при 0.4 секунды на случай. Конкуренты Fastino с моделями GLiDE и GLiNER2.5-Decide составляют быстро развивающееся поле соперников. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.