Nvidia выделит Великобритании $250 млн на исследования безопасности ИИ

Nvidia предоставит британским исследователям вычислительные ресурсы на $250 млн в течение пяти лет. Средства направят на изучение рисков искусственного интеллекта и разработку методов безопасной работы ИИ-агентов, передает Tech-news со ссылкой на Reuters. Американская Nvidia инвестирует вычислительные мощности в исследования безопасности искусственного интеллекта в Великобритании. По словам основателя и генерального директора компании Дженсена Хуанга, ежегодно британские специалисты будут получать ресурсы стоимостью $50 млн. Программа рассчитана на пять лет. Инициатива должна помочь исследователям тестировать ИИ-агентов, выявлять потенциально опасные сценарии их поведения и совершенствовать механизмы защиты по мере развития технологий. «Возможности ИИ и безопасность должны развиваться вместе», — заявил Хуанг. Великобритания стремится укрепить позиции в области оценки рисков искусственного интеллекта и разработки стандартов его безопасного применения. Одним из ключевых инструментов этой работы стал Институт безопасности ИИ — государственная структура, созданная для изучения возможностей и потенциальных угроз новых моделей. Интерес к тестированию ИИ усилился на фоне сообщений разработчиков, включая Anthropic и OpenAI, о случаях нежелательного или мошеннического поведения ИИ-агентов. На этом фоне специалисты обсуждают, как контролировать автономные системы и снижать риски, связанные с расширением их возможностей. Министр Великобритании по вопросам искусственного интеллекта Канишка Нараян отметил, что поддержка Nvidia поможет развивать технологии, которые будут безопасными, надёжными и ориентированными на интересы людей. Вычислительные ресурсы распределят между несколькими исследовательскими направлениями. Среди них — проект BOLD под руководством Оксфордского университета, изучающий подходы, позволяющие ИИ-системам учиться, адаптироваться и взаимодействовать с людьми. Также поддержку получат исследования безопасности робототехники в Имперском колледже Лондона и программы Университетского колледжа Лондона. Ранее президент Microsoft Брэд Смит также отмечал потенциал Великобритании в разработке подходов к обеспечению безопасности искусственного интеллекта. Сообщение Nvidia выделит Великобритании $250 млн на исследования безопасности ИИ появились сначала на Tech news.