Towards рассказывает, что ограниченное декодирование и подсказки имеют разные функции в искусственном интеллекте. Подсказки изменяют вероятности с помощью контекста, но не могут принудительно исключить недопустимые токены, тогда как ограниченное декодирование применяет маску токенов для устранения вариантов, которые нарушают формальные правила, такие как грамматика или схема JSON. В статье рассматривается простой механизм маскирования и обсуждаются реальные проблемы реализации, особенно то, что создание маски разрешённых токенов является сложной и иногда дорогостоящей задачей. Упоминаются исследования, направленные на более быстрое предварительное обработку и генерацию масок, удобных для работы с графическими процессорами. Авторы предупреждают, что «допустимый» не всегда означает «вероятный» или «истинный», так как жадное локальное маскирование может исказить распределение модели и снизить качество вывода или производительность рассуждений при строгих ограничениях. Также обсуждаются предложенные решения, такие как ASAP, и приводятся данные из исследований, сравнивающих методы ограничения. В заключение, статья рекомендует практические подходы, такие как свободное мышление перед наложением ограничений, корректировку строгости в зависимости от задачи, предостерегает от вводящих в заблуждение метрик, которые становятся тривиально положительными, и даёт советы о том, когда стоит использовать ограниченное декодирование и как интерпретировать его гарантии. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.