Технократический нарратив о рациональном управлении в контексте развития технологий искусственного интеллекта

Статья посвящена философскому осмыслению искусственного интеллекта (ИИ), а также социально-политических изменений, которые продуцирует внедрение технологий ИИ в практику принятия управленческих решений и научных исследований. Авторами проанализирован технократический дискурс об ИИ, для которого характерны оптимистические ожидания от его применения и претензии научно-технической интеллигенции на главенствующую роль в общественных и государственных структурах. Особое внимание уделено технократическому нарративу о рациональном управлении. Предложена классификация подходов к определению понятия «технократия». Выделены положения, характерные для классических технократических концепций. Технология ИИ на основе нейросетей рассмотрена как машина по производству феноменологических законов, рационально описывающих природные или общественные явления. В контексте настоящего исследования предложено связывать понятие «рациональное» с установленной системой мер явлений (феноменов) и соотношений (ratio) мер по отношению друг к другу, что согласуется с четырьмя правилами мышления Р. Декарта. Данный подход позволил авторам по-новому поставить вопрос о взаимодействии ИИ и эксперта. Формализованы условия, при которых рациональность феноменологического закона, записанного в конфигурации нейронной сети, становится недоступной для рационального анализа со стороны эксперта, принимающего управленческие решения. Показано, что такие условия порождают принципиально новую сложность оценки рисков, связанных с использованием данных ИИ при принятии управленческих решений. На основании проведенного исследования сделан вывод, что технократический нарратив об ИИ входит в противоречие с реальной практикой применения данных технологий.

The article presents the philosophical understanding of artificial intelligence (AI) and the socio-political changes produced by the integration of AI technologies into the practice of managerial decision-making and scientific research. It analyzes the technocratic discourse on AI, which is characterized by optimistic expectations for its application and claims of the scientific and technical intelligentsia for a dominant role in public structures. Special attention is paid to the technocratic narrative about rational management. Aclassification of approaches to the definition of the concept of “technocracy” is proposed. The provisions characteristic of classical technocratic concepts are singled out. AI technology based on neural networks is considered a machine for the production of phenomenological laws that rationally describe natural or social phenomena. In the context of this study, it is proposed to link the concept of “rational” with the established system of measures of phenomena and ratios of measures in relation to each other, which is consistent with the four rules of thinking (rules for the direction of the mind) by R. Descartes. This approach allows the authors to raise the question of AI and expert interaction in a new way. The article formalizes the conditions under which the rationality of a phenomenological law written in the neural network configuration becomes inaccessible to a rational analysis by an expert making managerial decisions. It is shown that such conditions give rise to a fundamentally new complexity of risk assessment associated with the use of AI data in managerial decisions making. Based on the conducted analysis, the authors conclude that the technocratic narrative about AI conflicts with the actual practice of using these technologies.

Полный текст>>