Риски применения алгоритмов искусственного интеллекта в социально-политической сфере: обзор современных научных работ
УДК 32.019.5
Володенков С.В., Федорченко С.Н. Риски применения алгоритмов искусственного интеллекта в социально-политической сфере: обзор современных научных работ // Дискурс-Пи. 2024. Т. 21. № 2. С. 24-48. DOI: 10.17506/18179568_2024_21_2_24.
Целью данной статьи является выявление современных значимых научных проблем, связанных с рисками применения алгоритмов искусственного интеллекта в социально-политической сфере. Актуальность работы определяется текущими технологическими трендами, приводящими к метаморфозам в обществе и государстве и характеризующимися внедрением приемов предиктивной аналитики, рейтингования, пострасовой логики, различных режимов темпоральности и рекурсивности социальных процессов. При этом последствия и системные эффекты от внедрения алгоритмов искусственного интеллекта в актуальную социально-политическую практику различных стран еще недостаточно глубоко изучены. Основной методологической оптикой был выбран критический дискурс-анализ академических исследований. Также в работе использовались принципы сравнительного анализа значимых для общества и государства явлений. Вклад работы видится в теоретическом обобщении существующих исследований по выбранной теме. Проведенный анализ позволил выделить несколько ключевых проблем, обозначенных в современном научном дискурсе и связанных с внедрением алгоритмов искусственного интеллекта в социально-политическую сферу, – алгоритмизацию власти, непрозрачность нейросетевых алгоритмов, потенциал манипуляции массовым сознанием и алгоритмическую дискриминацию. На основе анализа академических исследований в статье сформулированы потенциальные сценарии внедрения алгоритмов искусственного интеллекта в актуальную социально-политическую практику. По итогам проведенного исследования делается ключевой вывод о том, что наибольшую значимость в социально-политическом пространстве имеет проблематика, связанная с алгоритмизацией власти на основе применения технологий искусственного интеллекта и нейросетевых алгоритмов. Происходящее перераспределение власти в сфере политического управления не просто обусловлено распространением алгоритмических практик, но также связано с возрастающей ролью цифровых технологических корпораций, претендующих на собственную политическую субъектность. Наиболее критичным сценарием авторам работы видится зарождение «алгоритмически замкнутого круга» и формирование широкого спектра связанных с таким алгоритмическим кругом эффектов непрозрачности, манипуляции и дискриминации в социально-политической сфере.
*Исследование выполнено в рамках проекта «FZNF-2023-0011 – Искусственный интеллект и нейросетевые технологии как инструмент современных социально-политических коммуникаций: риски, угрозы и вызовы» при поддержке Министерства науки и высшего образования Российской Федерации и Экспертного института социальных исследований.
This article identifies contemporary significant scientific problems related to the risks of using artificial intelligence algorithms in the socio-political sphere. The relevance of this work is determined by current technological trends, leading to metamorphoses in society and the state, and characterized by the introduction of predictive analytics techniques, ratings, post-racial logic, various modes of temporality, and the recursiveness of social processes. At the same time, the consequences, and systemic effects of the introduction of artificial intelligence algorithms into the current socio-political practice of various countries have not yet been sufficiently studied. Critical discourse analysis of academic research was chosen as the main methodological lens. This study also used the principles of comparative analysis of phenomena significant for society and the state. The contribution of this work isseen in the theoretical generalization of existing research on the chosen topic. The analysis made it possible to identify several key problems identified in contemporary scientific discourse and associated with the implementation of artificial intelligence algorithms in the socio-political sphere – algorithmization of power, opacity of neural network algorithms, potential for manipulation of mass consciousness, and algorithmic discrimination. Based on an analysis of academic research, this study describes potential scenarios for the introduction of artificial intelligence algorithms into current socio-political practice. Based on the results of the study, a key conclusion is drawn that the greatest significance in the socio-political space is related to the algorithmization of power based on the use of artificial intelligence technologies and neural network algorithms. The ongoing redistribution of power in the sphere of political governance is not simply due to the spread of algorithmic practices but is also associated with the growing role of digital technology corporations claiming their own political subjectivity. The authors of this study see the most critical scenario as the emergence of an “algorithmically closed circle” and the formation of various opacity, manipulation, and discrimination effects associated with such an algorithmic circle in the socio-political sphere.
*The study was carried out within the framework of the project “FZNF-2023-0011 – Artificial intelligence and neural network technologies as a tool for contemporary sociopolitical communications: risks, threats and challenges” with the support of the Ministry of Science and Higher Education of the Russian Federation and the Expert Institute of Social Research.
искусственный интеллект, социально-политические риски, алгоритмическая дискриминация, непрозрачность алгоритмов, манипуляции массовым сознанием, алгоритмизация власти
artificial intelligence, socio-political risks, algorithmic discrimination, opacity of algorithms, manipulation of mass consciousness, algorithmization of power
