30.10.2026
Проверяемость решений с использованием ИИ в государственном управлении Казахстана
Акпаева Жанна Жуматаевна,
Финансовый адвокат, экс-судья, магистр права
Развитие искусственного интеллекта открывает перед государственным управлением Казахстана новые возможности. Обработка документов, поиск сведений и подготовка проектов решений могут занимать меньше времени, освобождая сотрудников для работы, требующей профессионального суждения. Однако ценность цифровых преобразований для человека определяется и тем, насколько понятным и справедливым остаётся решение, затрагивающее его права.
За отказом в выплате, выдаче разрешения или предоставлении государственной услуги стоят жизненные обстоятельства. Для гражданина важно знать, почему принято такое решение, какие сведения легли в его основу и как исправить возможную ошибку. Участие искусственного интеллекта придаёт этим привычным юридическим вопросам новое содержание.
Представим, что система рекомендует отказать в выплате из-за размера дохода семьи. Гражданин представляет документы, подтверждающие, что часть дохода ошибочно отнесена к его семье. Сотрудник государственного органа подтверждает первоначальный результат, а заявитель получает ответ о несоответствии установленным требованиям. В такой ситуации необходимо выяснить, были ли проверены представленные документы, устранена ли ошибка в данных и по какой причине возражение не повлияло на решение.
Этот условный пример показывает, почему проверяемость должна закладываться в цифровую процедуру ещё при её разработке. Если последовательность действий не сохранена, впоследствии бывает трудно установить, где возникла ошибка и кто мог её предотвратить.
Вопрос имеет значение и для банков, страховых организаций, других участников частного сектора. Вместе с тем государственное управление требует особого внимания. Принимая обязательное для человека решение, орган осуществляет предоставленное законом полномочие, пределы которого сохраняются при любом способе обработки информации.
Полезный ориентир предлагает исследование N. Levantis и соавторов об управлении искусственным интеллектом в публичном секторе. Авторы связывают нормативные требования с распределением обязанностей, контрольными процедурами и документами, подтверждающими их выполнение.
Практическая эффективность предложенной модели ещё требует эмпирической проверки. Для Казахстана представляет интерес подход, позволяющий проследить, как правовая гарантия действует в конкретной процедуре.
Казахстанское законодательство уже содержит основу для такой работы. Закон об искусственном интеллекте от 17 ноября 2025 года № 230-VIII закрепляет прозрачность, объяснимость, ответственность и подконтрольность. Статья 7 Закона предусматривает информирование пользователя, в отношении которого принимается решение, об автоматизированной обработке, её последствиях, возможности возражения и защите прав. Статья 18 Закона предусматривает управление рисками в течение жизненного цикла системы.
Дополнительные гарантии установлены статьёй 19-1 Закона о персональных данных и их защите.
Автоматизированная обработка, в результате которой возникают, изменяются или прекращаются права и законные интересы субъекта, допускается при его согласии либо в предусмотренных законом случаях. Предусмотрены разъяснение порядка и последствий обработки, возможность возражения и обязанность рассмотреть его в течение трёх рабочих дней.
АППК требует законности и обоснованности административного акта. По иску об оспаривании бремя доказывания возлагается на ответчика, принявшего обременительный акт. Таким образом, цифровой способ подготовки решения не освобождает орган от необходимости подтвердить его основания.
Основная проблема заключается в том, насколько последовательно эти положения соединены в повседневной работе. Требование объяснимости должно выражаться в понятном ответе заявителю, а подконтрольность в возможности проверить действия системы и должностного лица. Установить исполнение этих обязанностей позволяют материалы конкретного дела.
Особого внимания заслуживает подпункт 7) части 2 статьи 73 АППК. Он предусматривает возможность неприменения заслушивания при автоматизированном процессе, если административный орган или должностное лицо не наделены административным усмотрением. Здесь необходимо различать расчёт по установленным законом требованиям, вероятностную оценку и подготовку рекомендации.
Правовой характер полномочия определяется законом. Использование программы не превращает оценочное решение в механический расчёт. Если законодательство требует установить факт, а модель определяет вероятность его наличия, необходима проверка того, позволяет ли полученный результат сделать юридический вывод. Показатель риска не равнозначен доказанному нарушению.
Поэтому применение исключения из заслушивания должно опираться на установление условий, предусмотренных АППК. Органу необходимо объяснить, почему соответствующее полномочие не предполагает усмотрения и каким образом проверены юридически значимые обстоятельства. Иначе способ организации цифрового процесса способен повлиять на объём защиты, предоставленной человеку законом.
Не менее существенно содержание объяснения. Уведомления об использовании ИИ недостаточно, чтобы понять основание отказа. Человеку необходимо знать, какие сведения отнесены к нему, откуда они получены, какое условие признано невыполненным и как рассмотрены его доводы. Только тогда появляется возможность представить относящееся к делу возражение.
Защита должна охватывать и тех, кто не взаимодействует с системой непосредственно. Гражданин может не знать о внутренней модели, которой пользуется сотрудник. Отсутствие доступа к программе не должно лишать его возможности добиваться объяснения затрагивающего его решения.
Это не предполагает неограниченного раскрытия программного кода, чужих персональных данных или охраняемых сведений. Объём предоставляемой информации следует соотносить с предметом спора и установленными законом ограничениями. При этом объяснение должно позволять проверить существенные основания решения.
Человеческий контроль также нуждается в содержательном наполнении. Подпись должностного лица удостоверяет принятие документа, но не раскрывает выполненную проверку. Для её качества необходимы профессиональная подготовка, доступ к существенным материалам, достаточное время и полномочия действовать в пределах закона.
Когда сотруднику доступны только итоговый балл и кнопка подтверждения, возможности проверки ограничены устройством рабочего процесса. Исправление такой ситуации требует внимания к организации труда и интерфейсу системы.
Разумным решением представляется краткая фиксация существенных действий. Из материалов дела должно быть понятно, что проверил сотрудник, какие расхождения обнаружил, как оценил возражения и почему принял либо отклонил рекомендацию. Объём записи следует соотносить со значением решения и сложностью обстоятельств.
Для последующей судебной проверки важно сохранить исходные сведения и их происхождение, версию системы и существенные настройки, использованный результат, действия должностного лица, возражения заявителя и основания итогового акта. Такой состав материалов предлагается как ориентир для развития практики. Он не объявляется уже установленной единой обязанностью всех государственных органов.
При использовании генеративных моделей особенно важно сохранять результат, который действительно повлиял на решение. Повторный запрос через некоторое время может привести к иному ответу. Объяснение, сформированное позднее, не должно подменять исследование первоначального хода рассмотрения дела.
Требования к хранению необходимо согласовать со сроками обжалования, защитой информации и ограничениями на избыточную обработку персональных данных.
Отсутствие отдельной записи не влечёт автоматического признания акта незаконным. Значение имеет то, препятствует ли утрата сведений доказыванию обстоятельств, существенных для разрешения спора. Равным образом происхождение вывода из государственной цифровой системы не устраняет необходимости проверить его достоверность.
В Казахстане отдельного внимания требует качество работы с казахскими и русскими текстами, двуязычными документами, вариантами написания имён и адресов.
Возможные различия в точности обработки следует измерять при испытаниях. Здесь речь идёт о предупреждении риска, а не об утверждении уже установленной дискриминации.
Другой существенный вопрос связан с межведомственным обменом. Технически корректная обработка способна привести к ошибочному решению, если сведения устарели или относятся к другому лицу. Поэтому проверке подлежит и путь данных между системами, включая их исправление после обоснованного обращения гражданина.
Будущую возможность обжалования необходимо учитывать при закупке и сопровождении цифровых решений. Органу нужны предусмотренные законом и договором возможности получать документацию, устанавливать версию системы, сохранять результаты и исследовать инциденты. Техническая зависимость от поставщика требует решения до возникновения спора.
Дальнейшее развитие регулирования целесообразно связать с уточнением содержания объяснения, порядка проверки возражений и состава сохраняемых материалов. Предлагаемые меры следует апробировать в ограниченных пилотах, оценивая количество ошибок, качество пересмотра и нагрузку на сотрудников. Это позволит установить, какие процедуры действительно помогают защищать права.
При этом правовую оценку конкретного решения необходимо отличать от предусмотренного статьями 19 - 20 Закона об искусственном интеллекте аудита систем.
Проверка технологического объекта и исследование законности его применения в отдельном деле решают разные задачи и могут дополнять друг друга.
Доверие к цифровому государству складывается из опыта человека, который смог понять решение, представить возражение и добиться исправления ошибки.
Развитие ИИ будет укреплять это доверие, если за каждым юридически значимым результатом сохранятся доступные проверке основания и определённая законом ответственность.
Литература:
При подготовке использованы исследование N. Levantis и соавторов https://doi.org/10.3390/info17100962, Закон об искусственном интеллекте, Закон о персональных данных и их защите, АППК.
