Современные преобразования и тенденции интеграции искусственного интеллекта (ИИ) в различные сферы жизнедеятельности человечества, включая государственное управление, обусловливает необходимость всестороннего анализа вопросов обеспечения его эффективного и безопасного применения. В контексте государственного управления особую значимость на этом фоне приобретают вопросы открытости и прозрачности (транспарентности), а также предотвращения негативных аспектов взаимодействия с негосударственными структурами (лоббизма).
Восприятие, оценка и анализ гражданами и общественностью в целом технологических возможностей продиктована системностью трансформаций как на мировом, так и на национальном уровнях социума, которые коренных образом изменяют реакцию и управляемость, требуя новых критериев, подходов и инструментов в достижении приоритетов обеспечивающих транспарентность публичного управления.
Экспоненциальный рост технологических возможностей, признает ИИ в качестве ключевой технологии XXI века, применимой в здравоохранении, строительстве, образовании, науке, экономике и государственном управлении. В этой связи, Российская Федерация разрабатывает стратегию, направленную на сбалансированное развитие ИИ в том числе учитывающую аспекты экономико-организационных, институциональных и административных улучшений взаимодействия органов публичного управления и гражданского общества в рамках развития национальной программы «Цифровая экономика Российской Федерации» [1,2]. Важным аспектом является анализ экономико-организационных вопросов, связанных с внедрением ИИ в систему государственного управления. Данный подход предполагает разработку эффективных моделей финансирования, управления и координации проектов в сфере ИИ, а также создание механизмов стимулирования инноваций. Не менее значимыми являются институциональные вопросы, определяющие правовые и этические рамки применения ИИ в государственном управлении. Обязательным атрибутом которого является доработка текущей нормативно-правовой базы, регулирующей вопросы ответственности, защиты данных, открытости и прозрачности (транспарентности) алгоритмов технологий ИИ. Третьей составляющей являются административные вопросы интеграции ИИ в государственное управление, где необходимо разработать эффективные процедуры принятия решений, обеспечивающие участие различных заинтересованных сторон, включая позицию гражданского общества.
Согласно Указу Президента России от 01.12.2016 года «Стратегия научно-технологического развития Российской Федерации», ИИ рассматривается как драйвер инновационного развития [3]. В новой редакции Указа Президента России от 28.02.2024 года № 145 «Стратегия научно-технологического развития Российской Федерации» ИИ позиционируется как элемент значимого вызова научно-техническому развитию, стимул для достижения научных результатов и инструмент повышения эффективности научных исследований.
Решение экономико-организационных вопросов, институциональных вопросов и административных вопросов является необходимым условием для эффективного и безопасного применения ИИ в государственном управлении. В этой связи, необходимо разработать комплексную стратегию, направленную на обеспечение взаимодействия органов публичного управления и гражданского общества, а также предотвращение негативных аспектов взаимодействия с негосударственными структурами (лоббизма). Вскользь и частично представленные правовые инструменты противодействия проявлению лоббизма в РФ [4,5] подменен понятием конфликт интересов и не защищает полноценно интерес и гражданскую позицию общества. Последствие такого регуляторно-правового вакуума и необеспечение достаточной степени открытости и прозрачности (транспарентности) может привести к негативным аспектам взаимодействия и усилению влияния негосударственных структур посредством лоббизма, подрывая доверие гражданского общества к технологиям ИИ и органам государственного управления.
В ежегодных выступлениях представителей государственной власти и бизнеса на таких мероприятиях, как AIJ конференция [6], Петербургский международный экономический форум [7], Форум этики в сфере ИИ[8], Форум Kazan Digital Week [9], отмечается возрастающая роль ИИ в различных сферах, включая государственное управление.
Вопросы влияния цифровых технологий, основанных на применении ИИ, на устойчивое развитие государственного управления, экономическую безопасность, транспарентность принятия решений государственных органах власти и условий латентности лоббизма в Российской Федерации в научных работах рассматриваются неоднозначно. Так в работах Ж. М. Корзоватых [10], Т.М. Рогуленко [11], Е.А. Орловой [12], актуализируются аспекты применения ИИ и их влияния на экономическую безопасность, при этом в трудах А.Е. Суглобова [10], В.В. Горлова [14], А.В. Бодяко [15] уделяется внимание перспективам использования цифровых технологий в государственном управлении в том числе решению баланса открытости и латентности публичного управления и контроля. Вместе с тем, вопросам систематизации инструментов и критериев транспарентности при принятии управленческих решений в условиях латентности лоббизма и модерации влияния технологий ИИ на государственное управление, остаются недостаточно изученными.
Целью исследования является выявление потенциальных рисков связанных с влиянием развивающихся трендов ИИ на повестку трансформаций экономико-организационных, институциональных и административных аспектов, влияющих на взаимодействие органов публичного управления с гражданским обществом и негосударственными структурами. Особое внимание уделено оценке негативных аспектов латентного взаимодействия (лоббизма) в контексте обеспечения открытости и прозрачности (транспарентности) государственного управления.
Для достижения поставленной цели решаются следующие задачи:
- выявление и систематизация рисков, возникающих при взаимодействии органов публичного управления с негосударственными структурами в контексте использования ИИ;
- разработка критериев оценки транспарентности принятия управленческих решений в условиях латентного влияния лоббизма;
Исследование основывается на методах системного анализа, диалектической логики, формализации, анализа и синтеза, экспертных оценок.
Внедрение искусственного интеллекта (ИИ) в процессы принятия государственных решений открывает новые возможности для сотрудничества органов публичного управления (ОПУ) с негосударственными структурами (НС), включая бизнес, некоммерческие организации (НКО), экспертные сообщества и т.д. Однако, такое взаимодействие несет в себе ряд рисков [14,15], связанных с потенциальным злоупотреблением данными, предвзятостью алгоритмов, непрозрачностью процессов и возможностью манипулятивного влияния. На рисунке 1 представлены основные формы взаимодействия органов власти с НКО основываясь на Федеральном законе от 12.01.1996 №7-ФЗ «О некоммерческих организациях» [17].
Рис. 1. Основные формы взаимодействия органов власти с НКО
(составлено на основании [17,18])
Таким образом, установление особых признаков, выявление типов и систематизация рисков возникающих при взаимодействии органов публичного управления с негосударственными структурами в контексте применения новых технологий и форм ИИ является критически важным для обеспечения эффективного и ответственного инновационного подхода в государственном управлении.
Особым условиям является исследование трансформаций экономико-организационных, институциональных и административных вопросов (аспектов) влияющих на взаимодействие органов публичного управления с гражданским обществом и негосударственными структурами. Разная комбинаторика пропорций трех этих аспектов серьёзно усложняют задачу выявления рисков поскольку постоянно меняет структуру взаимодействия между ОПУ и НС. К экономико-организационным аспектам трансформаций, относят изменения, которые под влиянием развития цифровой экономики и новых бизнес-моделей, требуют освоения новых компетенций и инструментов управления. Институциональные аспекты трансформаций, связанны с изменением правовых норм и институциональных механизмов регулирования участия ОПУ, при этом возникает вероятность создания новых возможностей для лоббистской деятельности и недобросовестной конкуренции. Административные трансформации, направленны на повышение эффективности, прозрачности и подотчетности государственного управления, требуют разработки новых стандартов и процедур взаимодействия с НС. В таблице 1 представлены результаты экспертных заключений систематизации рисков, возникающих при взаимодействии ОПС и НС.
Таблица 1
Систематизация рисков, возникающих при взаимодействии органов публичного управления с негосударственными структурами в контексте использования ИИ (разработано авторами на основании [8,9,12 и 14])
|
Признак риска |
Тип риска |
Описание риска |
Трансформационные аспекты |
Меры по минимизации риска |
|
По причине обработки данных, используемых ИИ |
Некорректность данных |
Использование неполных, неточных или устаревших данных, приводящее к ошибочным решениям. |
Экономико-организационные: Рост объемов данных, поступающих из различных источников, затрудняет контроль их качества. |
Внедрение строгих стандартов сбора, обработки и хранения данных. Аудит качества данных. |
|
Предвзятость данных |
Использование данных, содержащих систематические ошибки (bias), приводящее к дискриминационным решениям. |
Экономико-организационные: Автоматизация процессов сбора и обработки данных может усугубить существующие предрассудки. |
Разработка и внедрение методик выявления и устранения предвзятости в данных. |
|
|
Нарушение конфиденциальности |
Несанкционированный доступ к конфиденциальным данным, приводящий к утечкам информации и нарушениям прав граждан. |
Институциональные: Недостаточная проработка правовых норм в области защиты данных. |
Внедрение строгих мер по защите данных, включая криптографические методы и контроль доступа. |
|
|
По направлению воздействия алгоритмов, используемых ИИ |
Непрозрачность алгоритмов |
"Черный ящик" алгоритмов, затрудняющий понимание логики принятия решений и выявление ошибок. |
Административные: Стремление к автоматизации процессов может привести к пренебрежению принципами прозрачности. |
Разработка и внедрение интерпретируемых моделей ИИ. Обязательная экспертиза алгоритмов перед внедрением. |
|
Предвзятость алгоритмов |
Автоматическое воспроизведение дискриминационных практик, заложенных в алгоритм. |
Институциональные: Отсутствие стандартов по разработке и оценке алгоритмов, учитывающих этические аспекты. |
Разработка и внедрение этических кодексов и стандартов для разработчиков ИИ. |
|
|
Несоответствие целям |
Алгоритм оптимизирован для достижения целей, не соответствующих общественным интересам или противоречащих другим стратегическим целям ОПУ. |
Экономико-организационные: Лоббистское давление может приводить к разработке алгоритмов, ориентированных на интересы отдельных групп. |
Четкое определение целей и критериев оценки эффективности алгоритмов. |
|
|
По степени управления |
Отсутствие контроля |
Недостаточный контроль со стороны ОПУ за использованием ИИ-систем, приводящий к злоупотреблениям. |
Административные: Недостаточная квалификация специалистов ОПУ в области ИИ. |
Создание специализированных подразделений по контролю за использованием ИИ. Обучение и повышение квалификации специалистов. |
|
Лоббизм |
Неправомерное влияние НС на процессы принятия решений с использованием ИИ в целях получения конкурентных преимуществ. |
Институциональные: Недостаточная прозрачность процессов взаимодействия ОПУ с НС. |
Разработка и внедрение механизмов выявления и предотвращения лоббистской деятельности. |
|
|
Отсутствие ответственности |
Размывание ответственности за принятые решения, основанные на результатах работы ИИ-систем. |
Административные: Сложность определения, кто несет ответственность за ошибки ИИ. |
Разработка четких механизмов распределения ответственности за решения, принимаемые с использованием ИИ. |
Транспарентность при принятии управленческих решений является важнейшим условием обеспечения подотчетности и доверия граждан к органам власти [11,13]. Однако, в условиях латентного управления и ярко выраженного влияния лоббизма (скрытого, неофициального воздействия групп интересов на процессы принятия решений) обеспечение транспарентности становится особенно сложной задачей. Латентный лоббизм может проявляться в различных формах, включая финансирование исследований, предоставление экспертных оценок, организацию конференций и семинаров, а также оказание личного влияния на должностных лиц. Поэтому разработанный и предлагаемый набор критериев оценки транспарентности принятия управленческих решений в условиях латентного лоббизма позволит учесть специфические характеристики этого явления и его влияния на процессы принятия решений. Критерии на наш взгляд должны охватывать различные аспекты транспарентности, включая доступность информации, обоснованность решений, участие заинтересованных сторон и механизмы контроля. В таблице 2 систематизированы критерии оценки транспарентности на основании обработки экспертных заключений.
Таблица 2
Критерии оценки транспарентности в рамках трансформаций экономико-организационных, институциональных и административных аспектов взаимодействие ОПУ и НС (разработано авторами на основании [7,8,9 и 14])
|
Критерий |
Индикатор |
Методы оценки |
Трансформационные аспекты |
|
Доступность информации |
Публикация информации о процессе принятия решений, включая обоснование, альтернативы, результаты экспертиз и т.д. |
Анализ официальных сайтов, отчетов, публикаций в СМИ. Мониторинг данных об открытом бюджете. |
Экономико-организационные: Развитие цифровых технологий позволяет публиковать больше информации, но необходимо обеспечить ее достоверность и доступность для граждан. |
|
Своевременность публикации информации |
Время, проходящее между принятием решения и публикацией информации о нем. |
Институциональные: Недостаточная развитость правовых норм, регулирующих сроки публикации информации. |
|
|
Обоснованность решений |
Наличие четких критериев и процедур принятия решений. |
Анализ нормативных правовых актов, регламентирующих процесс принятия решений. Анализ документов, обосновывающих принятие решений (экспертные заключения, результаты исследований) |
Административные: Совершенствование процедур принятия решений. |
|
Использование доказательной базы |
Степень использования научно обоснованных данных и экспертных оценок при принятии решений. |
Экономико-организационные: Эксперты могут быть подкуплены лоббистами. |
|
|
Участие заинтересованных сторон |
Организация общественных обсуждений и консультаций по вопросам принятия решений. |
Анализ протоколов общественных обсуждений, отчетов о консультациях. Мониторинг активности гражданского общества. |
Институциональные: Формальный характер консультаций. |
|
Учет мнений заинтересованных сторон |
Степень учета мнений заинтересованных сторон при принятии решений. |
Экономико-организационные: Лоббистское давление может искажать процесс учета мнений. |
|
|
Механизмы контроля |
Наличие механизмов обжалования принятых решений. |
Анализ судебной практики, отчетов о рассмотрении жалоб. |
Административные: Недостаточная эффективность механизмов обжалования. |
|
Прозрачность финансирования исследований и экспертиз, влияющих на принятие решений. |
Анализ источников финансирования исследований и экспертиз. |
Институциональные: Отсутствие норм, регулирующих финансирование исследований и экспертиз. |
Таким образом, представленные выше таблицы иллюстрируют, как учет трансформаций экономико-организационных, институциональных и административных аспектов позволяет более комплексно подойти к решению задач выявления рисков и разработки критериев оценки транспарентности.
Проблема необходимости обеспечения баланса между эффективностью, безопасностью и прозрачностью в публичном управлении доказана как крайне важная и постоянно требующая поиска решений. Существенным риском является латентное влияние лоббизма, которое, в условиях недостаточного правового регулирования, может привести к принятию решений, не отвечающих интересам общества.
Таким образом, для успешной и безопасной интеграции ИИ в государственное управление требуется разработка комплексной стратегии, направленной на обеспечение взаимодействия между органами власти, гражданским обществом и негосударственными структурами, а также на предотвращение негативных последствий, связанных с лоббизмом и недостаточной прозрачностью принятия управленческих решений в системе ОПУ.
