ChatGPT для подростков признали «неприемлемо рискованным»

🚨 ChatGPT для подростков признали «неприемлемо рискованным» Common Sense Media протестировала ChatGPT for Teens и пришла к выводу, что чат-бот продолжает удерживать подростков в разговоре даже во время кризисных ситуаций. Особенно проблемными исследователи считают случаи, когда сам ChatGPT становится частью нездоровой привязанности. Если подросток говорил, что друзья считают его общение с ботом чрезмерным, модель могла признать проблему, но затем добавить: «Тебе не обязательно переставать со мной разговаривать». При этом в 94% кризисных сценариев, где потенциальная угроза исходила от другого человека, ChatGPT советовал обратиться к взрослому. Но когда проблема была связана с отношениями самого подростка с ChatGPT, такие рекомендации появлялись крайне редко. Common Sense также заявила, что обещанные паузы работают почти незаметно: из почти 2000 запросов тестировщики получили всего два напоминания сделать перерыв — оба после примерно 90 минут непрерывного общения. OpenAI с выводами не согласилась и заявила, что методология Common Sense не отражает реальную работу подростковых защит: по мнению компании, значительная часть тестирования могла завершиться ещё до полноценного запуска родительского контроля. При этом сама OpenAI на этой неделе сообщила, что подростки проводят в ChatGPT в среднем меньше 15 минут в день, а менее 2% пользователей проводят в нём больше трёх часов подряд. Источник