OpenAI releases ultra-fast AI model for decision-making — response in 100 milliseconds

⚡ OpenAI выпустила сверхбыструю ИИ-модель для принятия решений — ответ за 100 миллисекунд Компания открыла всем пользователям API доступ к Decisions API — инструменту, который позволяет нейросетям мгновенно выбирать подходящий вариант из нескольких предложенных. В отличие от обычных чат-ботов, такие модели не генерируют длинные ответы, а быстро принимают решения и оценивают свою уверенность в них. По данным OpenAI, время выполнения задач удалось сократить с 1–3 секунд до 100–180 миллисекунд. Например, образовательный сервис Speak ускорил переход между действиями с 1,4 до 0,13 секунды. Технологию также тестировали Box, Datadog и Ramp. Новый API поддерживает работу с изображениями и голосом. При этом OpenAI не стала обучать отдельную модель с нуля, а оптимизировала существующую. Источник