От кибернетического государства к алгоритмической публичной власти: историко-теоретические закономерности и пределы цифровой трансформации

• ЭРИАШВИЛИ Нодари Дарчоевичкандидат юридических наук, кандидат исторических наук, доктор экономических наук, профессор, почетный работник сферы образования РФ, лауреат премии Правительства РФ в области образования, профессор кафедры гражданского и трудового права, гражданского процесса Московского университета МВД России имени В.Я. Кикотя; профессор кафедры частного права Государственного университета управленияprofessor60@mail.ru

Постановка проблемы. Распространение искусственного интеллекта и автоматизированных систем принятия решений актуализирует вопрос о том, является ли «цифровое государство» новым историческим типом государства либо обозначает технологически изменившийся способ осуществления публичной власти. Историческая ретроспектива — от рационально-легальной бюрократии и кибернетики до советского проекта ОГАС — показывает преемственность стремления государства превратить социальную реальность в данные, обратные связи и управленческие алгоритмы. Цель исследования — выявить историко-теоретические закономерности алгоритмизации публичной власти и сформулировать правовые пределы использования алгоритмов при принятии юридически значимых решений. Методы исследования: диалектический, историко-правовой, формально-юридический, сравнительно-правовой, системно-функциональный методы, а также правовое моделирование. Результаты. Обосновано, что алгоритмическая публичная власть представляет собой не самостоятельный тип государства, а особый технологический режим реализации его функций. Предложена модель «конституционно управляемого алгоритма», включающая законность цели, прослеживаемость данных, объяснимость, оспоримость, содержательный человеческий контроль и неустранимую ответственность публичного субъекта. Сформулирован вывод о недопустимости подмены нормативно выраженного усмотрения скрытой программной дискреционностью.

Ключевые слова: алгоритмическая публичная власть, цифровое государство, теория государства, история государства и права, ОГАС, искусственный интеллект, алгоритмическое управление, цифровой суверенитет, объяснимость, право на обжалование

Постановка проблемы. В XX в. публичная власть последовательно осваивала статистику, массовый учет, средства связи и вычислительную технику. В XXI в. количественное изменение перешло в качественное: цифровая система уже не только хранит сведения и передает волю должностного лица, но ранжирует граждан, прогнозирует риски, рекомендует либо фактически предопределяет юридически значимый результат.

Возникает новая конфигурация власти, в которой правило поведения содержится одновременно в тексте нормативного акта, модели данных и программном коде. Поэтому спор о «цифровом государстве» нельзя сводить к перечню электронных услуг. Он затрагивает классические категории источника власти, государственного усмотрения, легитимности, ответственности и прав человека. Российская доктрина предлагает рассматривать цифровое государство и как теорию технологической модернизации, и как исторический этап развития государства [16, с. 32–41]. Вместе с тем государство остается организацией публичной власти людей, а не машин [18, с. 47–52]. Данное противоречие требует историко-теоретического разрешения.

Историческая логика: от бюрократического правила к кибернетической обратной связи.

Рационально-легальная бюрократия М. Вебера строилась на компетенции, иерархии, письменном документе и применении общего правила к индивидуальному случаю [7]. Ее сила заключалась в предсказуемости, а риск — в превращении формальной рациональности в самодовлеющий механизм. Кибернетика Н. Винера добавила к этой модели идею управления посредством информации и обратной связи [8]. Управляемый объект описывается набором измеримых состояний; отклонение от цели фиксируется и запускает корректирующее воздействие. Тем самым нормативная команда дополняется непрерывным контуром наблюдения. Для государства это означало возможность перехода от периодического учета к управлению, основанному на постоянно обновляемых данных.

Советский проект Общегосударственной автоматизированной системы сбора и обработки информации для учета, планирования и управления народным хозяйством (ОГАС) стал наиболее масштабной отечественной попыткой институционализировать эту логику. В. М. Глушков связывал сеть вычислительных центров, экономико-математические модели и распределенную обработку данных в единую архитектуру планирования [9]. Историческое значение ОГАС состоит не в том, что проект якобы предвосхитил современный Интернет, а в постановке государственно-теоретической задачи: может ли вычислительная инфраструктура стать частью механизма государства.

Исследования истории советской кибернетики показывают, что техническая осуществимость не устраняла ведомственную конкуренцию, различие интересов и политическую природу управленческого выбора [10]. Алгоритм не отменял аппарат; аппарат боролся за право определять данные, цели и доступ к сети. Из этой истории следует первая закономерность: всякая автоматизация публичной власти является одновременно перераспределением компетенции. В бумажной бюрократии усмотрение сосредоточено у должностного лица; при информационной системе оно перемещается к разработчику требований, владельцу набора данных, поставщику программного решения и оператору модели. Еще в начале цифровизации государственного управления был зафиксирован переход от «уличной бюрократии» к «системной бюрократии», при котором индивидуальное усмотрение фронт-офиса сокращается, но возрастает невидимая дискреция проектировщика системы [11, p. 174–184]. Следовательно, алгоритмизация не устраняет субъективность, а переносит ее во времени — на стадию проектирования — и делает менее заметной для адресата решения.

Алгоритмическая публичная власть как теоретико-правовая категория. В современной литературе алгоритмическое управление понимается как использование вычислительных процедур для организации, направления и ограничения поведения [12; 13]. Для юриспруденции этого определения недостаточно: рекомендации навигатора и автоматизированное назначение социальной выплаты обладают различной властной природой. Алгоритмической публичной властью следует считать такой технологически опосредованный режим осуществления государственных и муниципальных функций, при котором сбор и классификация данных, прогнозирование, подготовка или принятие юридически значимого решения выполняются по программно закрепленной модели, а результат обеспечивается авторитетом и принуждением публичного субъекта. Определяющим признаком выступает не сложность искусственного интеллекта, а включенность алгоритма в юридический состав властного решения.

Предложенное понятие позволяет отделить цифровизацию формы от алгоритмизации содержания. Электронное заявление воспроизводит прежнюю процедуру в иной коммуникационной среде. Алгоритмическая система меняет внутреннюю механику решения: устанавливает показатели, веса, пороги, исключения, формирует профиль риска. Современные исследования справедливо указывают, что цифровое государство выходит за рамки электронного правительства и затрагивает саму организацию публичного администрирования [17, с. 76–85]. Алгоритмизация права, в свою очередь, ведет к параллельному существованию текстуального и машиночитаемого выражения правил и способна придать праву свойства закрытости и предвзятости [19, с. 9–12]. Однако данные изменения не дают основания объявлять возникновение нового исторического типа государства. Типология государства выражает устойчивую связь публичной власти с социально-экономическим строем, источником легитимности, положением личности и принципами организации общества. Цифровые технологии совместимы с демократическими и авторитарными режимами, рыночной и плановой экономикой, централизацией и федерализмом. Один и тот же класс моделей способен расширять доступ к публичным услугам либо создавать инфраструктуру тотального контроля. Поэтому «цифровое государство» корректнее определять как стадию и технологический модус развития современного государства, а алгоритмическую публичную власть — как способ реализации его функций. Такой вывод препятствует технологическому детерминизму: политико-правовая сущность государства не выводится из применяемой вычислительной техники.

Вторая закономерность состоит в нормативной двойственности алгоритма. Формально источником обязательного решения остается нормативный правовой акт или акт правоприменения. Фактически доступ гражданина к праву определяется программной реализацией: набором обязательных полей, классификатором, качеством данных и пороговым значением. Если код расходится с текстом нормы, возникает «теневое правило», которое действует массово, но не прошло процедуру правотворчества и не опубликовано. В этом проявляется угроза законности: ошибка перестает быть единичной и масштабируется на всю совокупность адресатов. Именно поэтому эффективность алгоритмической системы не равнозначна ее легитимности [13]. Легитимность требует процедурной справедливости, возможности понять основание решения и добиться его пересмотра.

Программный код при этом не следует автоматически признавать самостоятельным источником права. Его юридическое значение производно: код конкретизирует технологию исполнения нормы, но не вправе изменять ее смысл, вводить дополнительные условия или исключать предусмотренное законом усмотрение. Иной подход разрушил бы единство формы права и порядка его легитимации. Вместе с тем сведение кода к нейтральному техническому средству также ошибочно, поскольку архитектура системы способна непосредственно определять объем реализуемого права. Отсюда вытекает обязанность государства обеспечивать юридическую верификацию программной реализации до ввода системы в эксплуатацию и после каждого существенного обновления. Предметом такой проверки должны быть не только точность вычислений, но и соответствие модели целям закона, равенство адресатов, полнота исключений, сохранение дискреции в предусмотренных случаях и воспроизводимость результата. Для массовых властных решений необходим реестр версий алгоритма: без него суд не сможет установить, какое фактическое правило действовало в момент принятия оспариваемого акта [12; 19].

Конституционные пределы и модель управляемого алгоритма. Конституция Российской Федерации исходит из приоритета прав и свобод человека, непосредственного действия этих прав и судебной защиты [1]. Данные положения сохраняют силу независимо от того, кем подготовлено решение — должностным лицом или программной системой. Национальная стратегия развития искусственного интеллекта после изменений 2024 г. связывает внедрение ИИ с защитой прав, безопасностью и технологическим суверенитетом [2].

Экспериментальные правовые режимы позволяют апробировать цифровые инновации, но одновременно закрепляют информирование затрагиваемых лиц, рассмотрение жалоб и возможность обжалования [3]. Таким образом, российское регулирование уже содержит отдельные элементы процедурной защиты, хотя общая модель алгоритмического административного решения пока фрагментарна.

Сравнительно-правовое развитие подтверждает переход от общих этических деклараций к юридически проверяемым обязанностям.

Рекомендация ЮНЕСКО 2021 г. закрепляет человеческое достоинство, справедливость, прозрачность, ответственность и человеческий надзор [6]. Рамочная конвенция Совета Европы 2024 г. связывает жизненный цикл систем ИИ с правами человека, демократией и верховенством права [5]. Регламент ЕС 2024/1689 применяет риск-ориентированную модель, предусматривая для систем высокого риска требования к управлению данными, документации, журналированию, прозрачности и человеческому надзору [4]. Для российской правовой системы важен не механический перенос этих конструкций, а выделение универсального ядра гарантий.

Предлагается закрепить модель «конституционно управляемого алгоритма», основанную на шести взаимосвязанных требованиях. Первое — законность цели: автоматизация допустима лишь в пределах прямо определенной публичной функции. Второе — прослеживаемость данных:

должны быть установлены происхождение, актуальность, репрезентативность и порядок исправления данных. Третье — юридически значимая объяснимость: лицу сообщаются не технические детали модели, а факты, критерии и нормативные основания, повлиявшие на результат. Четвертое — оспоримость: обращение к человеку не может быть фиктивным повторением машинного вывода. Пятое — содержательный человеческий контроль, предполагающий компетенцию, время и полномочие изменить рекомендацию. Шестое — неустранимая ответственность публичного субъекта: закупка или аренда алгоритма у частного разработчика не переносит на него конституционную ответственность государства. Алгоритмическая подотчетность должна охватывать всю организацию, а не сводиться к раскрытию исходного кода [14].

Особое значение имеет право на мотивированное несогласие с машинным результатом. Одного «объяснения» недостаточно, если гражданин не способен указать на ошибочные данные, представить контекст и получить новое решение. Исследования легитимности алгоритмического принятия решений показывают, что непрозрачность, предвзятость, отсутствие участия и разрыв ответственности образуют самостоятельные угрозы доверию к публичной власти [15]. Поэтому процессуальная конструкция должна включать уведомление об использовании алгоритмической системы; доступ к значимым данным и критериям; приостановление неблагоприятного автоматизированного акта в предусмотренных законом случаях; пересмотр уполномоченным должностным лицом; внешний аудит и судебный контроль.

Коммерческая тайна и техническая сложность не могут полностью блокировать проверку властного решения.

Третья закономерность связана с цифровым суверенитетом. В индустриальном государстве суверенная компетенция обеспечивалась территорией, аппаратом и монополией легитимного принуждения. В алгоритмическом режиме к ним добавляется способность государства самостоятельно определять критическую архитектуру данных и моделей, проверять ее и поддерживать непрерывность функционирования. Однако цифровой суверенитет нельзя отождествлять с закрытостью. Внутренняя непрозрачность системы для граждан ослабляет государственный суверенитет, поскольку фактическая власть смещается к неподотчетному оператору или поставщику технологии. Суверенной является не система, скрытая от общества, а система, в отношении которой публичная власть сохраняет реальный контроль и несет проверяемую ответственность [20, с. 56–77]. Заключение. Проведенное исследование позволяет сформулировать следующие выводы.

Во-первых, алгоритмизация публичной власти продолжает длительную историческую линию рационализации управления — от письменного бюрократического правила к кибернетической обратной связи и управлению на основе данных. Во-вторых, опыт ОГАС показывает, что вычислительная сеть не устраняет политико-правовую природу управления: цели, показатели и доступ к информации остаются предметом властного выбора. В-третьих, цифровизация не создает самостоятельного исторического типа государства; она формирует технологический модус реализации его функций. В-четвертых, алгоритм перераспределяет усмотрение от правоприменителя к проектировщику системы и порождает риск скрытого программного нормотворчества. В-пятых, надлежащей теоретико-правовой рамкой выступает модель конституционно управляемого алгоритма, обеспечивающая законность, прослеживаемость данных, объяснимость, оспоримость, содержательный человеческий контроль и ответственность публичного субъекта. Будущее государства определяется не степенью вытеснения человека из управления, а способностью права подчинить вычислительную эффективность достоинству личности, публичной подотчетности и справедливой процедуре.

Список литературы

1. Конституция Российской Федерации (принята всенародным голосованием 12 декабря 1993 г. с изменениями, одобренными в ходе общероссийского голосования 1 июля 2020 г.) // Официальный интернет-портал правовой информации. URL: http://pravo.gov.ru (дата обращения: 17.07.2026).
2. О развитии искусственного интеллекта в Российской Федерации: Указ Президента Российской Федерации от 10 октября 2019 г. № 490 (в ред. Указа Президента Российской Федерации от 15 февраля 2024 г. № 124) // Собрание законодательства Российской Федерации. 2019. № 41. Ст. 5700; Официальный интернет-портал правовой информации. URL: https://publication.pravo.gov. ru/document/0001202402150063 (дата обращения: 17.07.2026).
3. Об экспериментальных правовых режимах в сфере цифровых и технологических инноваций в Российской Федерации: Федеральный закон от 31 июля 2020 г. № 258-ФЗ (ред. от 26 июня 2026 г.) // Собрание законодательства Российской Федерации. 2020. № 31 (ч. I). Ст. 5017.
4. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence // Official Journal of the European Union. 2024. L 2024/1689. URL: https://eur-lex.europa.eu/eli/ reg/2024/1689/oj (accessed: 17.07.2026).
5. Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (CETS No. 225). // Vilnius, 5 September 2024. URL: https://www.coe. int/en/web/conventions/full-list?module=treatydetail treatynum=225 (accessed: 17.07.2026).
6. Recommendation on the Ethics of Artificial Intelligence, adopted by the General Conference of UNESCO on 23 November 2021. // Paris: UNESCO, 2022. URL: https://unesdoc.unesco.org/ark:/48223/ pf0000381137 (accessed: 17.07.2026).
7. Вебер М. Хозяйство и общество: очерки понимающей социологии: в 4 т. Т. 1: Социология. М.: Издательский дом Высшей школы экономики, 2016. 445 с.
8. Винер Н. Кибернетика, или Управление и связь в животном и машине. 2-е изд. М.: Наука, 1983. 344 с.
9. Глушков В. М. Макроэкономические модели и принципы построения ОГАС. М.: Статистика, 1975. 160 с.
10. Gerovitch S. From Newspeak to Cyberspeak: A History of Soviet Cybernetics. Cambridge, MA: MIT Press, 2002. 369 p.
11. Bovens M., Zouridis S. From Street-Level to System-Level Bureaucracies: How Information and Communication Technology Is Transforming Administrative Discretion and Constitutional Control // Public Administration Review. 2002. Vol. 62. No. 2. P. 174–184.
12. Yeung K. Algorithmic Regulation: A Critical Interrogation // Regulation & Governance. 2018. Vol. 12. No. 4. P. 505–523.
13. Danaher J., Hogan M. J., Noone C. et al. Algorithmic Governance: Developing a Research Agenda through the Power of Collective Intelligence // Big Data & Society. 2017. Vol. 4. No. 2. P. 1–21.
14. Busuioc M. Accountable Artificial Intelligence: Holding Algorithms to Account // Public Administration Review. 2021. Vol. 81. No. 5. P. 825–836.
15. Grimmelikhuijsen S., Meijer A. Legitimacy of Algorithmic Decision-Making: Six Threats and the Need for a Calibrated Institutional Response // Perspectives on Public Management and Governance. 2022. Vol. 5. No. 3. P. 232–242.
16. Арзамасов Ю. Г., Арзамасов В. Ю. Цифровое государство: понятие, основные направления деятельности // Вестник Гуманитарного университета. 2023. № 4 (43). С. 32–41.
17. Романовская О. В. Правовые основы цифрового государства // Наука. Общество. Государство. 2024. Т. 12. № 2. С. 76–85.
18. Понкин И. В. Концепт цифрового государства: понятие, природа, структура и онтология // Государственная служба. 2021. Т. 23. № 5 (133). С. 47–52.
19. Порываева Н. Ф. Алгоритмизация права: автореф. дис.… канд. юрид. наук: 12.00.01. М., 2022. 23 c.
20. Писаревский Е. Л. Тенденции развития государства и права в условиях цифровой среды // Хозяйство и право. 2023. № 12. С. 56–77.

Скачать