Труды КНЦ (Технические науки вып.3/2025(16))

For citation: Dikovitsky V. V. Predictive modeling of social reactions for regional management based on explainable artificial intelligence methods. Trudy Kol'skogo nauchnogo centra RAN. Seriya: Tekhnicheskie nauki [Transactions of the Коіа Science Centre of RAS. Series: Engineering Sciences], 2025, Vol. 16, No. 3, pp. 71-79. doi:10.37614/2949-1215.2025.16.3.005. Введение В условиях динамичной цифровизации общества и повсеместного внедрения искусственного интеллекта (ИИ) в информационные системы, традиционные подходы к мониторингу и прогнозированию общественного мнения, основанные на опросах и статическом анализе данных, сталкиваются с серьезными ограничениями, такими как снижение репрезентативности и невозможность улавливать быстро меняющуюся динамику онлайн-дискурса [1]. Алгоритмы, предназначенные для предсказания социальных реакций на основе анализа социальных сетей, часто вызывают опасения как инструменты контроля, а не как средства для развития гражданского диалога [2]. Некорректное применение методов социального инжиниринга может привести к результатам, противоположным ожидаемым. Системы, стремящиеся к управлению общественными настроениями, рискуют подорвать доверие к институтам [3]. Современные парадигмы ИИ претерпевают значительные изменения, смещая акцент с чистого прогнозирования на поддержку и сопровождение рассуждений [4]. Целью становится не создание систем, которые «думают за человека», а разработка нормативно-ориентированных агентов, которые помогают человеку принимать решения с помощью объяснимого ИИ [5]. Этот переход отражает стремление к более прозрачному, подотчетному и этичному использованию ИИ в управлении, где системы не только предсказывают, но и объясняют свои выводы [6]. Настоящая статья представляет архитектуру Human-in-the-Loop [7], предназначенную для совместного управления, в которой ИИ функционирует не как автономный субъект решения, а как совместный советник. Такой подход позволяет интегрировать человеческое суждение и ценности в процесс принятия решений, используя ИИ для повышения эффективности и этичности [8]. Эта архитектура базируется на четырех взаимосвязанных компонентах: 1) каузальные агентные модели, имитирующие динамику общественных реакций. Эти модели, основанные на взаимодействии автономных агентов, позволяют исследовать возникновение таких явлений, как консенсус и поляризация, путем моделирования причинно-следственных связей [9]. Использование таких моделей позволяет не только прогнозировать, но и понимать механизмы формирования общественного мнения, а также оценивать влияние различных факторов и интервенций [10]; 2) RAG-системы (Retrieval-Augmented Generation), привязывающие рассуждения к историческим фактам [11]; 3) динамический граф знаний, связывающий социальные сигналы и события [12]; 4) деонтическая логика, предоставляющая формальный аппарат для выражения нормативных концепций, что позволяет ИИ-системам не только соблюдать этические нормы, но и объяснять свои решения в терминах дозволенного, обязательного и запрещенного [13]. Это способствует распределению моральной ответственности между человеком и ИИ [14]. Применение деонтической логики в государственном управлении позволяет повысить прозрачность, подотчетность и доверие к автоматизированным процессам и обеспечивает соответствие действий ИИ установленным нормам и ценностям [15]. Представленный подход отличается от предыдущих работ, которые преимущественно сосредоточены на выявлении сложившихся тенденций путем анализа статистики публикаций и различных вариаций тематического моделирования. Эти ретроспективные методы, несмотря на свою техническую состоятельность, позволяют обнаруживать уже произошедшие события, сложившиеся темы и доминирующие сообщения [16]. Они не приближают к пониманию причин возникновения трендов, норм и ценностей, которые их провоцировали, групп, инициировавших дискуссию, и потенциальных внешних вмешательств, способных изменить ее направление. Кроме того, модели ранжирования контента, вовлеченности или тематического моделирования не эффективны для анализа причин и не функционируют в реальном времени. Они не взаимодействуют с нормативной средой, не учитывают юридические ограничения, а также часто игнорируют семантику и контекст, что препятствует генерации конкретных сценариев и действий [17]. Труды Кольского научного центра РАН. Серия: Технические науки. 2025. Т. 16, № 3. С. 71-79. Transactions of the Kola Science Centre of RAS. Series: Engineering Sciences. 2025. Vol. 16, No. 3. P. 71-79. © Диковицкий В. В., 2025 72