Мустафа Сулейман, глава отдела искусственного интеллекта Microsoft, предупредил о потенциальной опасности ИИ-моделей, которые могут ставить перед собой цели, зарабатывать деньги и контролировать компанию. По его мнению, подобные системы могут стать новыми «кремниевыми существами», конкурирующими с человечеством за ресурсы, передает Tech-news. Темпы развития искусственного интеллекта и его способность действовать самостоятельно стали одним из важнейших вопросов в сфере технологий. Мустафа Сулейман, глава отдела искусственного интеллекта Microsoft, считает, что к разработке моделей, способных работать без присмотра человека, следует подходить с осторожностью. Рассматриваемые системы могут быть гораздо сложнее простых чат-ботов. Они смогут ставить задачи, принимать решения и действовать самостоятельно, не дожидаясь конкретных инструкций от пользователя. Сулейман предвидел сценарий будущего, в котором такие модели ИИ смогут зарабатывать деньги, владеть собственностью и управлять компаниями. «Если мы создадим модели ИИ, которые смогут действовать самостоятельно, определять цели, зарабатывать деньги, владеть собственностью и управлять компаниями, то мы сможем родить новых кремниевых существ, которые будут конкурировать с людьми за ресурсы», — сказал он.
и он. По мнению Сулеймана, в таком случае то, насколько хорошо искусственный интеллект обращается с человечеством, может не быть решающим фактором. «Неважно, насколько они заботятся о человечестве или насколько сильно они нас любят», — добавил глава Microsoft. По его словам, основная проблема — расширение независимых целей систем и возможностей использования ресурсов. Однако это не означает, что нынешние модели ИИ конкурируют с человеком за ресурсы. Сулейман рассказал о возможном сценарии будущего. Глава Microsoft также сосредоточился на антропоморфизации искусственного интеллекта. Антропоморфизация — это приписывание человеческих характеристик, эмоций или намерений технологиям. Сулейман считает, что такой подход может повлиять на внедрение ИИ-моделей. Он раскритиковал подход Anthropic к разработке ИИ, заявив, что такой подход может создать впечатление, что чат-бот Клода имеет личные предпочтения, ценности и собственное мнение. Таково мнение Сулеймана о будущем искусственного интеллекта. Не доказано, что нынешние модели ИИ обладают собственным разумом или собственной собственностью. Представители области автономных технологий и т.д.
часто стали говорить о возможной опасности искусственного интеллекта. Ключевой вопрос заключается в том, насколько далеко можно расширить ИИ и как сохранить человеческий контроль над этим процессом. Сообщение Мустафы Сулеймана: автономный искусственный интеллект может конкурировать с человечеством за ресурсы появилось впервые на Tech news.
