От кибернетического государства к алгоритмической публичной власти: историко-теоретические закономерности и пределы цифровой трансформации

Постановка проблемы. В XX в. публичная власть последовательно осваивала статистику, массовый учет, средства связи и вычислительную технику. В XXI в. количественное изменение перешло в качественное: цифровая система уже не только хранит сведения и передает волю должностного лица, но ранжирует граждан, прогнозирует риски, рекомендует либо фактически предопределяет юридически значимый результат.

Возникает новая конфигурация власти, в которой правило поведения содержится одновременно в тексте нормативного акта, модели данных и программном коде. Поэтому спор о «цифровом государстве» нельзя сводить к перечню электронных услуг. Он затрагивает классические категории источника власти, государственного усмотрения, легитимности, ответственности и прав человека. Российская доктрина предлагает рассматривать цифровое государство и как теорию технологической модернизации, и как исторический этап развития государства [16, с. 32–41]. Вместе с тем государство остается организацией публичной власти людей, а не машин [18, с. 47–52]. Данное противоречие требует историко-теоретического разрешения.

Историческая логика: от бюрократического правила к кибернетической обратной связи.

Рационально-легальная бюрократия М. Вебера строилась на компетенции, иерархии, письменном документе и применении общего правила к индивидуальному случаю [7]. Ее сила заключалась в предсказуемости, а риск — в превращении формальной рациональности в самодовлеющий механизм. Кибернетика Н. Винера добавила к этой модели идею управления посредством информации и обратной связи [8]. Управляемый объект описывается набором измеримых состояний; отклонение от цели фиксируется и запускает корректирующее воздействие. Тем самым нормативная команда дополняется непрерывным контуром наблюдения. Для государства это означало возможность перехода от периодического учета к управлению, основанному на постоянно обновляемых данных.

Советский проект Общегосударственной автоматизированной системы сбора и обработки информации для учета, планирования и управления народным хозяйством (ОГАС) стал наиболее масштабной отечественной попыткой институционализировать эту логику. В. М. Глушков связывал сеть вычислительных центров, экономико-математические модели и распределенную обработку данных в единую архитектуру планирования [9]. Историческое значение ОГАС состоит не в том, что проект якобы предвосхитил современный Интернет, а в постановке государственно-теоретической задачи: может ли вычислительная инфраструктура стать частью механизма государства.

Исследования истории советской кибернетики показывают, что техническая осуществимость не устраняла ведомственную конкуренцию, различие интересов и политическую природу управленческого выбора [10]. Алгоритм не отменял аппарат; аппарат боролся за право определять данные, цели и доступ к сети. Из этой истории следует первая закономерность: всякая автоматизация публичной власти является одновременно перераспределением компетенции. В бумажной бюрократии усмотрение сосредоточено у должностного лица; при информационной системе оно перемещается к разработчику требований, владельцу набора данных, поставщику программного решения и оператору модели. Еще в начале цифровизации государственного управления был зафиксирован переход от «уличной бюрократии» к «системной бюрократии», при котором индивидуальное усмотрение фронт-офиса сокращается, но возрастает невидимая дискреция проектировщика системы [11, p. 174–184]. Следовательно, алгоритмизация не устраняет субъективность, а переносит ее во времени — на стадию проектирования — и делает менее заметной для адресата решения.

Алгоритмическая публичная власть как теоретико-правовая категория. В современной литературе алгоритмическое управление понимается как использование вычислительных процедур для организации, направления и ограничения поведения [12; 13]. Для юриспруденции этого определения недостаточно: рекомендации навигатора и автоматизированное назначение социальной выплаты обладают различной властной природой. Алгоритмической публичной властью следует считать такой технологически опосредованный режим осуществления государственных и муниципальных функций, при котором сбор и классификация данных, прогнозирование, подготовка или принятие юридически значимого решения выполняются по программно закрепленной модели, а результат обеспечивается авторитетом и принуждением публичного субъекта. Определяющим признаком выступает не сложность искусственного интеллекта, а включенность алгоритма в юридический состав властного решения.

Предложенное понятие позволяет отделить цифровизацию формы от алгоритмизации содержания. Электронное заявление воспроизводит прежнюю процедуру в иной коммуникационной среде. Алгоритмическая система меняет внутреннюю механику решения: устанавливает показатели, веса, пороги, исключения, формирует профиль риска. Современные исследования справедливо указывают, что цифровое государство выходит за рамки электронного правительства и затрагивает саму организацию публичного администрирования [17, с. 76–85]. Алгоритмизация права, в свою очередь, ведет к параллельному существованию текстуального и машиночитаемого выражения правил и способна придать праву свойства закрытости и предвзятости [19, с. 9–12]. Однако данные изменения не дают основания объявлять возникновение нового исторического типа государства. Типология государства выражает устойчивую связь публичной власти с социально-экономическим строем, источником легитимности, положением личности и принципами организации общества. Цифровые технологии совместимы с демократическими и авторитарными режимами, рыночной и плановой экономикой, централизацией и федерализмом. Один и тот же класс моделей способен расширять доступ к публичным услугам либо создавать инфраструктуру тотального контроля. Поэтому «цифровое государство» корректнее определять как стадию и технологический модус развития современного государства, а алгоритмическую публичную власть — как способ реализации его функций. Такой вывод препятствует технологическому детерминизму: политико-правовая сущность государства не выводится из применяемой вычислительной техники.

Вторая закономерность состоит в нормативной двойственности алгоритма. Формально источником обязательного решения остается нормативный правовой акт или акт правоприменения. Фактически доступ гражданина к праву определяется программной реализацией: набором обязательных полей, классификатором, качеством данных и пороговым значением. Если код расходится с текстом нормы, возникает «теневое правило», которое действует массово, но не прошло процедуру правотворчества и не опубликовано. В этом проявляется угроза законности: ошибка перестает быть единичной и масштабируется на всю совокупность адресатов. Именно поэтому эффективность алгоритмической системы не равнозначна ее легитимности [13]. Легитимность требует процедурной справедливости, возможности понять основание решения и добиться его пересмотра.

Программный код при этом не следует автоматически признавать самостоятельным источником права. Его юридическое значение производно: код конкретизирует технологию исполнения нормы, но не вправе изменять ее смысл, вводить дополнительные условия или исключать предусмотренное законом усмотрение. Иной подход разрушил бы единство формы права и порядка его легитимации. Вместе с тем сведение кода к нейтральному техническому средству также ошибочно, поскольку архитектура системы способна непосредственно определять объем реализуемого права. Отсюда вытекает обязанность государства обеспечивать юридическую верификацию программной реализации до ввода системы в эксплуатацию и после каждого существенного обновления. Предметом такой проверки должны быть не только точность вычислений, но и соответствие модели целям закона, равенство адресатов, полнота исключений, сохранение дискреции в предусмотренных случаях и воспроизводимость результата. Для массовых властных решений необходим реестр версий алгоритма: без него суд не сможет установить, какое фактическое правило действовало в момент принятия оспариваемого акта [12; 19].

Конституционные пределы и модель управляемого алгоритма. Конституция Российской Федерации исходит из приоритета прав и свобод человека, непосредственного действия этих прав и судебной защиты [1]. Данные положения сохраняют силу независимо от того, кем подготовлено решение — должностным лицом или программной системой. Национальная стратегия развития искусственного интеллекта после изменений 2024 г. связывает внедрение ИИ с защитой прав, безопасностью и технологическим суверенитетом [2].

Экспериментальные правовые режимы позволяют апробировать цифровые инновации, но одновременно закрепляют информирование затрагиваемых лиц, рассмотрение жалоб и возможность обжалования [3]. Таким образом, российское регулирование уже содержит отдельные элементы процедурной защиты, хотя общая модель алгоритмического административного решения пока фрагментарна.

Сравнительно-правовое развитие подтверждает переход от общих этических деклараций к юридически проверяемым обязанностям.

Рекомендация ЮНЕСКО 2021 г. закрепляет человеческое достоинство, справедливость, прозрачность, ответственность и человеческий надзор [6]. Рамочная конвенция Совета Европы 2024 г. связывает жизненный цикл систем ИИ с правами человека, демократией и верховенством права [5]. Регламент ЕС 2024/1689 применяет риск-ориентированную модель, предусматривая для систем высокого риска требования к управлению данными, документации, журналированию, прозрачности и человеческому надзору [4]. Для российской правовой системы важен не механический перенос этих конструкций, а выделение универсального ядра гарантий.

Предлагается закрепить модель «конституционно управляемого алгоритма», основанную на шести взаимосвязанных требованиях. Первое — законность цели: автоматизация допустима лишь в пределах прямо определенной публичной функции. Второе — прослеживаемость данных:

должны быть установлены происхождение, актуальность, репрезентативность и порядок исправления данных. Третье — юридически значимая объяснимость: лицу сообщаются не технические детали модели, а факты, критерии и нормативные основания, повлиявшие на результат. Четвертое — оспоримость: обращение к человеку не может быть фиктивным повторением машинного вывода. Пятое — содержательный человеческий контроль, предполагающий компетенцию, время и полномочие изменить рекомендацию. Шестое — неустранимая ответственность публичного субъекта: закупка или аренда алгоритма у частного разработчика не переносит на него конституционную ответственность государства. Алгоритмическая подотчетность должна охватывать всю организацию, а не сводиться к раскрытию исходного кода [14].

Особое значение имеет право на мотивированное несогласие с машинным результатом. Одного «объяснения» недостаточно, если гражданин не способен указать на ошибочные данные, представить контекст и получить новое решение. Исследования легитимности алгоритмического принятия решений показывают, что непрозрачность, предвзятость, отсутствие участия и разрыв ответственности образуют самостоятельные угрозы доверию к публичной власти [15]. Поэтому процессуальная конструкция должна включать уведомление об использовании алгоритмической системы; доступ к значимым данным и критериям; приостановление неблагоприятного автоматизированного акта в предусмотренных законом случаях; пересмотр уполномоченным должностным лицом; внешний аудит и судебный контроль.

Коммерческая тайна и техническая сложность не могут полностью блокировать проверку властного решения.

Третья закономерность связана с цифровым суверенитетом. В индустриальном государстве суверенная компетенция обеспечивалась территорией, аппаратом и монополией легитимного принуждения. В алгоритмическом режиме к ним добавляется способность государства самостоятельно определять критическую архитектуру данных и моделей, проверять ее и поддерживать непрерывность функционирования. Однако цифровой суверенитет нельзя отождествлять с закрытостью. Внутренняя непрозрачность системы для граждан ослабляет государственный суверенитет, поскольку фактическая власть смещается к неподотчетному оператору или поставщику технологии. Суверенной является не система, скрытая от общества, а система, в отношении которой публичная власть сохраняет реальный контроль и несет проверяемую ответственность [20, с. 56–77]. Заключение. Проведенное исследование позволяет сформулировать следующие выводы.

Во-первых, алгоритмизация публичной власти продолжает длительную историческую линию рационализации управления — от письменного бюрократического правила к кибернетической обратной связи и управлению на основе данных. Во-вторых, опыт ОГАС показывает, что вычислительная сеть не устраняет политико-правовую природу управления: цели, показатели и доступ к информации остаются предметом властного выбора. В-третьих, цифровизация не создает самостоятельного исторического типа государства; она формирует технологический модус реализации его функций. В-четвертых, алгоритм перераспределяет усмотрение от правоприменителя к проектировщику системы и порождает риск скрытого программного нормотворчества. В-пятых, надлежащей теоретико-правовой рамкой выступает модель конституционно управляемого алгоритма, обеспечивающая законность, прослеживаемость данных, объяснимость, оспоримость, содержательный человеческий контроль и ответственность публичного субъекта. Будущее государства определяется не степенью вытеснения человека из управления, а способностью права подчинить вычислительную эффективность достоинству личности, публичной подотчетности и справедливой процедуре.