Who is responsible for AI decisions: the safety and ethics of technology were discussed at AI & Digital Bridge

Искусственный интеллект уже помогает управлять промышленными процессами, анализировать данные и обучать детей. Однако вместе с распространением AI растут вопросы о безопасности, защите персональных данных и ответственности за решения алгоритмов. Участники AI & Digital Bridge 2026 в Астане обсудили, как развивать технологии без ущерба для человека и не ограничивать инновации избыточным регулированием, передает Tech-news. Одной из центральных тем международного форума стала ответственная разработка и внедрение искусственного интеллекта. На панельной сессии «Ответственный AI для устойчивого развития: этика, доверие и человекоцентричное управление» представители ООН, UNICEF, Международного союза электросвязи и бизнеса рассмотрели практические риски использования AI и подходы к их контролю. В дискуссии участвовали Андрей Незнамов, член Независимой международной научной группы ООН по искусственному интеллекту; Майлз Хасти (Miles Hastie), руководитель направления ответственного AI в UNICEF; Айжан Балабатырова, генеральный директор KAZ Minerals Management; Фарид Нахи (Farid Nakhi), координатор программ Регионального отделения Международного союза электросвязи для стран СНГ. Модератором выступил Курмтолла Абдулганиев, отвечающий за направление устойчивого развития AI, этики, доверия и человекоцентричного управления. Как AI помогает промышленности, не заменяя человека Один из примеров практического применения искусственного интеллекта представила KAZ Minerals. Компания использует цифровые двойники и аналитические системы для обработки геологических данных, оптимизации добычи и повышения эффективности производства. По словам Айжан Балабатыровой, AI-системы ежедневно анализируют более 25 тысяч сигналов оборудования. Это помогает контролировать потребление воды, электроэнергии и химических реагентов, а также эффективнее управлять производственными процессами. При этом компания сохраняет человеческий контроль над решениями. «AI — это инструмент поддержки, а не принятия решений. Он анализирует данные и предоставляет рекомендации, но окончательная ответственность остаётся за человеком», — отметила Балабатырова. Для надёжной работы таких систем необходимы качественные исходные данные, подготовленные сотрудники и проверка результатов. Автоматизация ускоряет анализ, но не отменяет профессиональную оценку рекомендаций алгоритмов. Саморегулирование или закон: как контролировать развитие AI Ещё один вопрос дискуссии — где проходит граница между государственным регулированием и ответственностью самих разработчиков. Андрей Незнамов отметил, что технологии развиваются быстрее, чем формируются правовые нормы. По его мнению, чрезмерно жёсткие требования могут сдерживать инновации, поэтому технологические компании должны участвовать в разработке правил использования искусственного интеллекта. В качестве одного из подходов он привёл корпоративные этические кодексы и отраслевые механизмы саморегулирования. Однако, как подчеркнул Майлз Хасти, добровольных обязательств бизнеса недостаточно во всех случаях. Если коммерческие интересы вступают в противоречие с общественной безопасностью и правами человека, необходимы внешние механизмы контроля. Фарид Нахи обозначил четыре приоритетных направления международной стандартизации AI: безопасность и надёжность систем; прозрачность и подотчётность; защита персональных данных; совместимость технологий. Разработка единых стандартов, по его словам, требует взаимодействия государств, бизнеса и научного сообщества. UNICEF: почему детей нужно учитывать при разработке AI Отдельная часть дискуссии была посвящена безопасности детей в цифровой среде. Майлз Хасти сообщил, что, согласно исследованиям UNICEF, в некоторых странах около двух третей подростков уже взаимодействуют с AI-чатботами. Часть молодых пользователей обращается к ним не только за информацией, но и за эмоциональной поддержкой. Поэтому защиту детей необходимо учитывать ещё на этапе проектирования AI-сервисов. Среди ключевых вопросов — конфиденциальность данных, возрастные особенности аудитории и оценка потенциальных рисков. При этом эксперт выступил против универсальных запретов на использование искусственного интеллекта детьми. Вместо ограничений, не учитывающих конкретные ситуации, он предложил сочетать защитные механизмы с цифровым образованием, участием родителей и развитием критического мышления. Участники дискуссии также подчеркнули роль образования. Детям важно объяснять, как использовать AI для обучения, проверять полученную информацию и самостоятельно формировать выводы, не полагаясь полностью на ответы алгоритмов. Что необходимо для ответственного развития AI Обсуждение на AI & Digital Bridge 2026 показало, что безопасность искусственного интеллекта зависит не только от законодательства или технических ограничений. Не менее важны качество данных, подготовка специалистов, прозрачность работы систем и возможность проверить результаты их использования. При этом единый подход к регулированию должен учитывать разные сферы применения AI: требования к промышленным системам, образовательным сервисам и инструментам, взаимодействующим с детьми, могут существенно различаться. Главный принцип, обозначенный участниками дискуссии, — развитие искусственного интеллекта должно сопровождаться механизмами ответственности и сохранением человеческого контроля там, где решения затрагивают людей и их права. AI & Digital Bridge 2026 Международный форум AI & Digital Bridge 2026 прошёл в Астане с 1 по 3 октября под темой Kazakhstan is the Eurasian AI Hub. Мероприятие состоялось в рамках Года цифровизации и искусственного интеллекта и стало частью AI MONTH. Организаторами выступили международный инновационный кластер Astana Hub, Министерство искусственного интеллекта и цифрового развития Республики Казахстан и акимат Астаны. Проведение форума финансировалось за счёт средств партнёров и спонсоров. Среди них — Freedom Bank, Kaspi Bank, «Самрук-Қазына», «Казахтелеком», Halyk Bank, Beeline Казахстан, Yandex Qazaqstan, BI Group, Mastercard, Tengizchevroil, KAZ Minerals, Presight AI, BTS Digital и другие компании. Сообщение Кто отвечает за решения ИИ: на AI & Digital Bridge обсудили безопасность и этику технологий появились сначала на Tech news.