ВЕСТНИК РГГУ. СЕРИЯ «ЛИТЕРАТУРОВЕДЕНИЕ. ЯЗЫКОЗНАНИЕ. КУЛЬТУРОЛОГИЯ»

Статья посвящена особенностям актуального использования современных генеративных языковых моделей для создания манипулятивных сообщений. Авторы исследовали, как нейросетевые алгоритмы могут быть применены в современном общественном дискурсе, активно трансформирующемся под влиянием технологий глубокого машинного обучения. Представлен аналитический обзор возможностей генеративных языковых моделей, таких как Claude и Gemini, в контексте медиалингвистики и их способности к порождению текстов с использованием суггестивных и семантических приемов. В рамках исследования реализован авторский эксперимент, направленный на изучение практической реализации манипулятивных техник в генерируемых текстах, а также их обратного анализа. Авторы выявили ключевые механизмы манипуляции, применяемые моделями, и предложили рекомендации для их этичного использования. Статья подчеркивает важность междисциплинарного подхода к контролю и разработке стандартов работы генеративных языковых моделей с целью минимизации общественной опасности и максимизации общественного блага. Также акцентировано внимание на необходимости повышения прозрачности алгоритмов, предотвращения социальной предвзятости в данных и внедрения механизмов обратной связи. Особое внимание уделено обучению пользователей критическому восприятию информации и развитию медиаграмотности, что становится ключевым фактором защиты от манипулятивных практик в условиях цифровой трансформации общества.

В статье представлено новое междисциплинарное проблемное поле гуманитарного знания, а именно поле манипулятивного воздействия в медиадискурсе. Акцент делается на необходимости создания интегрированного знания в данном проблемном поле. Предлагается динамическая многоуровневая когнитивная мегамодель манипуляции, которая представлена на трех уровнях когнитивной динамики. Привлекаются данные из психологии, нейронаук, искусственного интеллекта, теории подталкивания. В основе многоуровневой мегамодели лежит универсальная когнитивная операция концептуального проецирования между различными доменами знания и структурирующими их фреймами, вовлеченными в процесс манипуляции. Мы ставим вопрос о том, каков характер когнитивной обработки информации в данном процессе. Мы приходим к заключению о необходимости анализа взаимодействия между типом концептуального проецирования и типом когнитивных сбоев, возникающих в результате манипуляции. Особое внимание в статье уделяется вопросу вовлечения в процесс манипуляции искусственного интеллекта и, в частности, больших языковых моделей (LLM) – GPT-4. Предлагается также изучить роль искусственного интеллекта как манипулятора и как идентификатора манипуляции в медиадискурсе.