Kaspersky digital Footprint intelligence мамандары даркнетте нейрондық желіге негізделген чат-боттарды талқылайтын үш мыңға жуық хабарламаны тапты

Kaspersky digital Footprint intelligence командасы «Жасырын инновациялар: зиянкестер ЖИ-мен қалай тәжірибе жасайды»есебін ұсынды*. Сарапшылар үлкен тілдік модельдер негізінде шабуылдаушылардың ChatGPT және басқа да ұқсас шешімдерді қолдануы туралы даркнеттегі хабарламаларды талдады. 2023 жылы көлеңкелі форумдарда және мамандандырылған Telegram арналарында барлығы 2890 осындай хабарлама табылды. Шыңы сәуір айында болды-осы айда сарапшылар 509 хабарлама жазды. Көптеген талқылауларды бірнеше бағытқа бөлуге болады.

Джейлбрейктер. Тіл моделі заңсыз әрекеттерге байланысты жауаптар бере алатындай етіп, шабуылдаушылар арнайы командалар жиынтығын пайдаланады. Олар ChatGPT және ұқсас қызметтерден қосымша функционалдылықты аша алады. Мұндай жиынтықтар джейлбрейктер деп аталады. 2023 жылы «Касперский зертханасының» сарапшылары осындай командаларды тарату және сату бойынша 249 ұсыныс тапты. Айта кету керек, джейлбрейктер, соның ішінде тілдік модельдер негізінде қызметтердің жұмысын заңды түрде жақсарту үшін қолданыла алады.

Зиянды бағдарлама. Жасырын форумдарға қатысушылар зиянды әсерлерді жақсарту және жалпы кибершабуылдардың тиімділігін арттыру үшін тілдік үлгілерді пайдалану нұсқаларымен белсенді түрде алмасты. Мысалы, сарапшылар зиянды бағдарлама операторларына арналған бағдарламалық жасақтама туралы хабарламаны тапты, ол оператордың қауіпсіздігін қамтамасыз ету және пайдаланылған қақпақ домендерін автоматты түрде ауыстыру үшін нейрондық желілерді пайдаланды. Басқа талқылаудың бір бөлігі ретінде пост авторлары полиморфты зиянды кодты жасау үшін ChatGPT ұсынды, оны анықтау және талдау өте қиын.

Open Source және пентест бағдарламалары. Үлкен тілдік модельдерге негізделген шешімдерді ашық бастапқы бағдарламалық жасақтама жасаушылар жасайды, соның ішінде ақпараттық қауіпсіздік мамандарына арналған бағдарламалар туралы айтуға болады. Алайда, зиянкестер де осындай жобаларға назар аударады. Мысалы, интернетте еркін қол жетімділікте кодты бұзуға арналған генеративті модельге негізделген белгілі бір ашық бастапқы утилита бар. Обфускация бақылау жүйелерімен және қорғаныс шешімдерімен анықтаудан аулақ болады. Мұндай утилиталарды пентестерлер де, зиянкестер де қолдана алады. Даркнетте «Касперский зертханасының» мамандары авторлар осы утилитамен бөлісетін және оны зиянды мақсаттарда қалай пайдалануға болатынын айтатын жазбаны тапты.

ChatGPT-тің «Зұлым» аналогтары. Ақылды чат-боттардың танымалдығы аясында басқа жобалар да үлкен қызығушылық тудырды: WormGPT, XXXGPT, FraudGPT. Бұл қосымша функционалдығы мен шектеулері бар ChatGPT-ге балама ретінде орналастырылған тілдік модельдер. Шешімдердің көп бөлігі заңды түрде пайдаланылуы мүмкін болса да, зиянкестер оларға, мысалы, зиянды бағдарламаны жазу үшін жүгіне алады. Алайда, мұндай ұсыныстарға көбірек көңіл бөлу әрқашан оларды жасаушылардың қолында бола бермейді. Сонымен, WormGPT қауіп төндіруі мүмкін деген жаппай алаңдаушылыққа байланысты 2023 жылдың тамызында жабылды. Сонымен қатар, «Касперский зертханасының» мамандары тапқан көптеген сайттар мен WormGPT-ге кіруді сатып алу ұсынылған жарнамалар негізінен скам болды. Бір қызығы, мұндай ұсыныстардың көптігі жоба авторларын жабылғанға дейін алдау мүмкіндігі туралы ескертуге мәжбүр етті.

«Үлкен тілдік модельдерді дамыту зиянкестердің қызметін жеңілдетуге ықпал етеді деген танымал пікірге қарамастан, қазіргі уақытта біздің компанияның сарапшылары мұндай шешімдер қолданылуы мүмкін нақты оқиғаларды көрмейді. Осыған қарамастан, технологиялар дамып келеді, сондықтан мұндай тәуекелдерді елемеуге болмайды, ал бұл саланы зерттеуді жалғастыру маңызды», — деп түсіндірді Қазақстан, Орталық Азия және Моңғолиядағы «Касперский Зертханасының» басқарушы директоры Валерий Зубанов.