微软对美国学校人工智能引入新限制

Microsoft вводит рамочные ограничения и стандарты конфиденциальности для систем искусственного интеллекта, используемых в школах США, передает Kazinform со ссылкой на Euronews. Новые правила согласованы со вторым по величине профсоюзом учителей страны. Соглашение запрещает использование ИИ-компаньонов и функций, которые могут формировать у школьников эмоциональную привязанность или зависимость, а также удерживать их внимание дольше, чем требуется для выполнения учебного задания. Стандарты имеют юридическую силу и предусматривают независимые аудиты. Microsoft также обязалась не использовать данные учащихся и преподавателей для обучения своих ИИ-систем, за исключением ограниченного набора данных, необходимого для защиты учеников. Собранная информация не должна продаваться, использоваться для рекламы или разработки продуктов. Кроме того, компания должна будет в понятной форме объяснять семьям, как работают ее ИИ-инструменты и какие данные они собирают. Новые стандарты начнут применяться ко всем школьным контрактам Microsoft в США с 1 ноября. Аналогичные соглашения с американским профсоюзом учителей обсуждают OpenAI и Anthropic. Обе компании заявили о поддержке инициатив по усилению безопасности ИИ и защите данных в образовательной среде. Ранее сообщалось, что Meta обязали выплатить $567 млн из-за вреда детям в соцсетях.