Abstract
<jats:p>Мақалада әлеуметтік желілер мен мессенджерлердегі мәтіндік жарияланымдардағы экстремистік контентті автоматты түрде анықтау мәселесі қарастырылады. Цифрлық коммуникациялардың жаһандануы жағдайында бұл платформалар тек ақпарат пен байланыс көзі болып қана қоймай, сондай-ақ заңға қарсы материалдарды тарату ортасына айналуда. Экстремистік контентті тану, оның ішінде зорлық-зомбылықты насихаттау, жеккөрушілікке немесе өшпенділікке шақырулар және терроризмдік қауіп-қатерлер, ақпараттық қауіпсіздікті қамтамасыз ету және қоғамдық тәртіпке қауіп-қатерлерді болдырмау үшін өте маңызды міндет болып табылады. Зерттеудің негізгі мақсаты — экстремизмнің белгілері бар мәтіндік контентті тиімді классификациялай алатын модельді әзірлеу. Мақаланың тәжірибелік бөлімінде деректерді алдын ала өңдеу кезеңдері, мысалы, шуылды тазарту, токенизация және векторизация сипатталған. Сонымен қатар, Naïve Bayes классификаторы және ансамбльді модельдер сияқты машиналық оқыту алгоритмдері қарастырылып, оңтайлы шешім таңдауға арналған тестілеуден өтті. Ұсынылған модель нақты деректерде сынақтан өтіп, әртүрлі экстремистік контент түрлерін классификациялау міндеттерінде жоғары нәтижелер көрсетті. Мұндай модельдерді қолдану әлеуметтік желілерді мониторингтеу және модерациялау жүйелерінде мәтіндерді автоматты түрде талдаудың маңызды құралына айналуы мүмкін. Мақала осындай технологияларды пайдаланудың практикалық маңыздылығын атап өтіп, пайдаланушыларды қорғау және қауіпті ақпараттың таралуын болдырмау үшін оларды енгізудің қажеттілігін көрсетеді.</jats:p>