Қазақстандық студент LLM арқылы дерек таралуына тосқауыл қоятын ExoAI жүйесін жасады

Astana IT University студенті Айғаным Төлеубаева AI-Sana көрмесінде компанияларға жасанды интеллектіні қауіпсіз пайдалануға көмектесетін ExoAI жобасын таныстырды. Жүйе қызметкерлердің құпия ақпаратты сыртқы нейрожелілерге жіберуіне жол бермеуге және корпоративтік деректердің таралу қаупін азайтуға арналған, деп хабарлайды Tech-news. Бүгінде компаниялар жасанды интеллектіні құжаттармен жұмыс істеу, ақпаратты өңдеу және күнделікті міндеттерді автоматтандыру үшін жиі қолданады. Алайда ChatGPT сияқты ашық AI сервистеріне корпоративтік ақпаратты енгізу қауіпсіздік мәселелерін туындатуы мүмкін. Қызметкер байқамай жеке деректерді, банк реквизиттерін немесе компанияға қатысты құпия мәліметтерді сыртқы жүйеге жіберіп қоюы ықтимал. ExoAI осы тәуекелдің алдын алуға бағытталған. Жоба компанияның ішкі жүйесі мен сыртқы үлкен тілдік модельдердің (LLM) арасында жұмыс істейтін прокси-сервер ретінде жасалған. Ол нейрожеліге жіберілетін ақпаратты тексеріп, құпия деректерді анықтайды. Содан кейін мұндай мәліметтерді арнайы токендермен немесе шифрланған мәндермен алмастырады. Нәтижесінде бастапқы деректер ашық күйінде сыртқы AI моделіне берілмейді. Жүйеде күмәнді әрекеттерді бақылау және қауіпсіздік ережелерін айналып өту әрекеттерін анықтау мүмкіндігі де қарастырылған. Атап айтқанда, ExoAI jailbreak-шабуылдарды, яғни нейрожелінің қорғаныс шектеулерін бұзып, оны рұқсат етілмеген әрекеттерге итермелеу талпыныстарын анықтауға көмектеседі. Бұл компанияларға ықтимал қауіптерге дер кезінде назар аударып, AI құралдарын пайдалану тәртібін бақылауға мүмкіндік береді. Жобаның ерекшеліктерінің бірі — Қазақстандағы бизнеске тән деректермен жұмыс істеуге бейімделуі. Айғаным Төлеубаеваның айтуынша, әзірлеу барысында бизнес-сәйкестендіру нөмірлері мен банк деректемелері сияқты жергілікті компаниялар қолданатын ақпарат түрлерін қорғауға басымдық берілген. «Жасанды интеллект күнделікті жұмыс үдерістерінің бір бөлігіне айналып келеді. Сондықтан оны қауіпсіз пайдалану маңызды. ExoAI компанияларға үлкен тілдік модельдердің мүмкіндіктерін пайдалана отырып, деректердің құпиялығын сақтауға көмектеседі», — деді әзірлеуші. Оның сөзінше, AI-Sana көрмесіне қатысу жобаны таныстыруға, басқа технологиялық әзірлемелермен танысуға және кері байланыс алуға мүмкіндік берген. Сонымен қатар ол болашақ инвесторлар мен серіктестер табуға қызығушылық білдірген. ExoAI жобасы корпоративтік ортада жасанды интеллектіні енгізу кезінде киберқауіпсіздік талаптарын ескерудің маңызын көрсетеді. Мұндай шешімдер бизнеске AI құралдарын кеңінен қолдануға көмектесуі мүмкін, алайда олардың тиімділігі деректерді қорғау тетіктерінің сенімділігі мен нақты жұмыс жағдайларында қаншалықты дұрыс әрекет ететініне байланысты. Сообщение Қазақстандық студент LLM арқылы дерек таралуына тосқауыл қоятын ExoAI жүйесін жасады появились сначала на Tech news.