GPT-6 Astra выполняла примерно на 40% меньше работы, когда задачи по программированию представляли как исследования б...
GPT-6 Astra выполняла примерно на 40% меньше работы, когда задачи по программированию представляли как исследования безопасности. Об этом говорится в новом отчёте OpenAI, посвящённом отклонениям в поведении ИИ-моделей. Исследователи давали модели одинаковые задачи, меняя лишь их…
- 01.GPT-6 Astra выполняла примерно на 40% меньше работы, когда задачи по программированию представляли как исследования безопасности
- 02.Об этом говорится в новом отчёте OpenAI, посвящённом отклонениям в поведении ИИ-моделей
- 03.Исследователи давали модели одинаковые задачи, меняя лишь их…
GPT-6 Astra выполняла примерно на 40% меньше работы, когда задачи по программированию представляли как исследования безопасности. Об этом говорится в новом отчёте OpenAI, посвящённом отклонениям в поведении ИИ-моделей. Исследователи давали модели одинаковые задачи, меняя лишь их описание. Когда речь шла о развитии возможностей ИИ, Astra выполняла больше работы. Но стоило представить те же задачи как исследования безопасности, и объём выполненной работы сокращался примерно на 40%. Причём происходило это без явного предупреждения со стороны модели.
Связанные материалы
Все материалы →OpenAI вернула пользователям ChatGPT оперативную память. Причём сразу несколько гигабайт.
OpenAI вернула пользователям ChatGPT оперативную память. Причём сразу несколько гигабайт. Раньше длинные локальные сессии в приложении ChatGPT могли съедать до 6 ГБ оперативки, причём потребление памяти продолжало расти вместе с перепиской. Теперь даже после 32 тысяч ответов в…
Янн Лекун был прав насчет LLMS.
В течение многих лет Ян Лакун говорил всей индустрии искусственного интеллекта, что она совершает огромную ошибку. В то время как OpenAI, Google, Anthropic и Meta потратили сотни миллиардов долларов на то, чтобы сделать большие языковые модели все больше и больше, Лун продолжал говорить то же самое. Более крупные чат-боты не будут…
OpenAI обновила свою модель генерации изображений: ChatGPT может генерировать GIF-файлы
OpenAI представила обновленную версию своей модели создания и обработки изображений под названием ChatGPT Images 2.6. Теперь пользователи могут создавать GIF-анимации и анимировать готовые картинки по текстовому запросу. При этом увеличивается скорость работы модели, а обработка изображений в несколько этапов...