Платежи с помощью ИИ: кто будет отвечать за ошибки в Казахстане

Развитие ИИ-агентов, способных самостоятельно совершать покупки и платежи от имени человека, потребует новых механизмов распределения ответственности и дополнительной защиты клиентов. Об этом сообщил первый зампредседателя Агентства по регулированию и развитию финансового рынка Тимур Абилкасымов на Central Asia FinTech Summit, передает агентство Kazinform. В ходе панельной дискуссии его спросили, кто должен нести ответственность за решения, принимаемые при использовании агентских платежей, — клиент или финансовая организация. Абилкасымов отметил, что по мере развития технологии уровень самостоятельности ИИ-агентов будет возрастать. Если сегодня автоматические платежи выполняются по заранее установленным пользователем правилам, то в перспективе системы смогут самостоятельно выбирать товары и услуги, формировать корзину, бронировать гостиницы и проводить оплату. По его словам, на этапах, когда пользователь предоставляет ИИ-агенту значительную самостоятельность, ответственность может распределяться между клиентом и разработчиком соответствующей системы. В частности, разработчики должны предусматривать защитные механизмы — дополнительные проверки, биометрическую идентификацию и ограничения на суммы операций. Еще сложнее ситуация может стать при взаимодействии двух автономных систем, когда одна действует от имени покупателя, а другая — продавца. — Как только появится уровень, когда машина будет общаться с машиной, агент с агентом с обеих сторон, скорее всего, потребуется нейтральный дополнительный предохраняющий механизм, — отметил Абилкасымов. — Как только появится уровень, когда машина будет общаться с машиной, агент с агентом с обеих сторон, скорее всего, потребуется нейтральный дополнительный предохраняющий механизм, — отметил Абилкасымов. В качестве примера он привел ситуацию, когда система фиксирует нетипичное поведение — например, большое количество покупок в необычное время. Такой механизм должен иметь возможность дополнительно проверить операцию и предотвратить потенциально ошибочное или мошенническое списание. По мнению представителя регулятора, по мере развития полностью автономных платежей потребуется формирование дополнительных страхующих и арбитражных механизмов, которые также будут участвовать в системе распределения ответственности.