13.10.2025
Правильно ли мы осуществляем правовое регулирование внедрения искусственного интеллекта?
С. Темирбулатов,
почетный юрист РК
Тема искусственного интеллекта (ИИ) стала настолько модной и распространенной, что аббревиатуру ИИ знает даже ребенок дошкольного возраста. Все это результат широкого освещения темы в средствах массовой информации и в соцсетях. Вопросы ИИ тесно связаны с цифровизацией нашей жизни, тем процессом, о котором СМИ, политики и другие говорят и пишут при каждом удобном случае.
Новый всплеск в обсуждении этой темы произошел после выступления Главы государства с Посланием народу Казахстана, в котором он поставил цель превратить Казахстан в течение трех лет в цифровое государство.
Противиться этому процессу вхождения ИИ в нашу жизнь невозможно и неразумно. Только вот насколько правильно совершается это у нас с точки зрения правовой и технологической? В связи с этим хотелось бы с читателями поделиться своими сомнениями.
Как юрист полагаю, опираясь на имеющуюся у меня информацию, что цифровизация и внедрение ИИ - это процессы взаимосвязанные. Но, по мнению большинства специалистов в этой области, правильным является такая последовательность - сначала цифровизация, а затем внедрение ИИ. При этом предложенная последовательность мотивирована тем, что цифровизацию определяют как перевод процессов, услуг и других действий, а также информации любой сферы в цифровую форму, а внедрять ИИ следует тогда, когда уже есть цифровые данные, четко определены цели (задачи,) параметры процессов. Без информации в цифровой форме для ИИ нет предмета для обработки и выдачи полезного продукта.
Вместе с тем специалисты IT-сферы не отрицают возможность параллельного внедрения цифровизации и использования ИИ в отдельных сферах (банки, медицина, транспорт), где эти процессы могут идти параллельно, но цифровизация всегда является фундаментом для внедрения систем ИИ.
Предлагаю рассмотреть мои сомнения в правильности этих процессов в правовом плане - в том, как у нас пытаются осуществить правовое регулирование внедрения ИИ. Бесспорно одно - урегулировать процесс внедрения ИИ нужно. Если мы н хотим стать цифровым государством и внедрить в нашу повседневную жизнь цифровизацию, то нам необходимы системы ИИ. Спорными и сложными могут быть только пути и сам процесс правового регулирования, точнее уровень нормативных актов, которым будут регламентированы те или иные вопросы внедрения ИИ.
При изучении практики законодательного регулирования процесса внедрения ИИ в зарубежных странах установлено, что законы об ИИ там являются рамочными, содержат принципы правового регулирования этой отрасли, основные гарантии, права и обязанности субъектов и объектов правоотношений в этой области. А порядок применения ИИ и все технические детали этого процесса за рубежом регулируются подзаконными актами.
Казахстанский законопроект об ИИ, разработанный депутатами Мажилиса и принятый палатой Парламента, направлен для рассмотрения в Сенат. Хочу поделиться с читателями своими предложениями и замечаниями по законопроекту.
Основным замечанием по законопроекту является следующее: рассмотренный и принятый нижней палатой Парламента текст проекта перегружен излишней технической детализацией процесса внедрения ИИ, что должно регулироваться подзаконными актами. В тексте законопроекта есть целые главы и отдельные статьи, которые не должны быть в рамочном законе, а некоторые статьи являются чисто декларативными. Это, например, большинство статей главы 4 «Системы искусственного интеллекта» и главы 5 «Национальная платформа искусственного интеллекта и библиотеки данных». Во многих статьях проекта имеется декларативные позиции, текст которых не несет никакой правовой нагрузки, являющиеся технической регламентацией сферы ИИ, и, по моему мнению, просто заимствованы из популярных изданий об ИИ.
Наличие названных глав и статей в законопроекте противоречит статье 61 Конституции Республики и части 3 статьи 24 Закона Республики Казахстан «О правовых актах», являющегося своеобразным правовым ориентиром для подготовки нормативных актов, в том числе и законов.
Предлагаю постатейные замечания и предложения по принятому Мажилисом законопроекту об ИИ.
Законопроект не имеет преамбулы, в котором могло быть зафиксировано положение о предмете регулирования принимаемого закона, сфере его действия. Большинство принятых за 30-летний период деятельности нынешнего Парламента законов имеют преамбулу. В обсуждаемом законопроекте нет статьи, в которой было бы зафиксирован предмет регулирования данного нормативного акта. Эти обстоятельства расцениваю как недостаток законодательной (юридической) техники, что негативно влияет на правовую определенность конкретного закона, поскольку не содержит четкого разграничения сферы действия этого акта. Следовательно, этот недостаток необходимо восполнить и включить преамбулу с соответствующим содержанием.
В статье 1 законопроекта предлагается исключить из текста те понятия, которые используются в главах 4 и 5 законопроекта, предлагаемых к исключению, поскольку необходимости в раскрытии понятий, неиспользуемых в тексте законопроекта, не усматривается. Нахождение в понятийном аппарате тех понятий, которые не используются в нормативном акте, не будет отвечать требованиям части 4 статьи 24 Закона РК «О правовых актах», определяющей что «в законе могут устанавливаться понятия, используемые в его тексте». Содержание (дефиниции) иных понятий, не используемых в законопроекте, должно быть включено в подзаконные акты, принимаемые в развитие закона об ИИ и регулирующие технические вопросы внедрения ИИ. Понятия, включенные в следующие подпункты статьи -1), 2), 4), 6), 8), 9), 11), 12), 14) и 15), подлежат исключению, поскольку дают дефиниции (содержание) технических понятий и не несут правовой нагрузки для закона.
В статье 8 предлагается исключить часть 3, поскольку ее содержание носит декларативный характер и не несет никакой правовой нагрузки (часть 3 статьи 24 Закона РК «О правовых актах»). Вопросы охраны окружающей среды для создаваемой системы искусственного интеллекта, в том числе и об ответственности за нарушения соответствующих требований, которые пытались решить или урегулировать разработчики законопроекта об ИИ, уже нашли свое решение в нормах Экологического кодекса РК, поэтому дублирование их в законе об ИИ является необоснованным.
По статье 12 имеются следующие предложения и замечания. В подпункте 1) статьи предлагается слово «разрабатывает» заменить словом «определяет», поскольку предлагаемая разработчиками проекта редакция противоречит подпункту 1 статьи 66 Конституции РК о полномочиях Правительства. В указанном подпункте названной статьи Конституции указан исчерпывающий перечень сфер, основные направления развития которых разрабатывает Правительство РК. В этот перечень сфера ИИ не входит. Вместе с тем, Правительство РК на основании принимаемого закона об ИИ при представлении уполномоченным органом в сфере ИИ соответствующих документов может определить основные направления государственной политики в сфере ИИ и организовать их осуществление.
По статье 13 проекта. С учетом высказанного по статье 12 замечания предлагается в тексте подпункта 2) статьи 13 слово «формирует» заменить словом «разрабатывает», поскольку Правительство страны определяет на основании разработанных уполномоченным органом в сфере ИИ программы или иных документов основные направления государственной политики в этой сфере. В соответствии с Конституцией РК, Правительство по согласованию с Президентом страны утверждает государственные программы развития в той или иной отрасли (сфере).
В подпункте 5) предлагается слова «на системы», заменить на словосочетание «по системам».
Статью 14 законопроекта предлагается изложить в усеченном варианте. Предлагается следующая примерная редакция статьи 14:
«Статья 14. Оператор национальной платформы искусственного
интеллекта
Правительство Республики Казахстан определяет оператора национальной платформы искусственного интеллекта, полномочия которого утверждает в установленном законодательством Республики Казахстан порядке.»
Основанием такого предложения служит то обстоятельство, что вариант разработчика, который принят Мажилисом, является излишне детализированным и противоречит части 3 статьи 61 Конституции и требованиям абзаца шестого части 1 статьи 24 Закона РК «О правовых актах. В указанном абзаце названного Закона конкретно закреплено, что «Установление компетенции и функций на уровне законов осуществляется согласно требованиям статьи 61 Конституции Республики Казахстан.»
Глава 4 проекта содержит множество декларативных и технических положений, которые, по моему убеждению, должны содержаться в подзаконных актах. Поэтому содержание этой главы рекомендовал бы значительно сократить и доработать. Наименование главы будет изменено в зависимости от содержания оставшихся в главе статей. Предлагаю следующие рекомендации по содержанию статей указанной главы.
Статью 17 рекомендовал бы изложить в следующей редакции:
«Статья 17. Правовой режим систем искусственного интеллекта
1. Системы искусственного интеллекта, в зависимости от воздействия на безопасность пользователей, общества и государства, делятся на следующие виды: минимальной, средней и высокой степени риска.
Отнесение систем искусственного интеллекта к минимальной, средней либо высокой степени риска осуществляется ее собственником или владельцем, в соответствии с Правилами классификации объектов информатизации.
Системы искусственного интеллекта высокой степени риска, отнесенные к критически важным объектам информационно-коммуникационной инфраструктуры, а также предназначенные для формирования государственных электронных информационных ресурсов, приравниваются к государственным в части соблюдения требований по обеспечению информационной безопасности.
2. Системы искусственного интеллекта, в зависимости от степени независимости в принятии решений и воздействия на пользователя, подразделяются на системы следующих видов: низкой, средней и высокой степени автономности.
Характеристика видов систем искусственного интеллекта, в зависимости от степени автономности, а также особенности создания и эксплуатации системы высокой автономности устанавливаются подзаконными актами Республики Казахстан. (Предлагаемое разработчиками законопроекта установление законами Республики особенностей создания и эксплуатации систем искусственного интеллекта высокой степени автономности противоречит требованиям части 3 статьи 61 Конституции и части 3 статьи 24 Закона РК «О правовых актах).
3. (остается в редакции, предложенной разработчиками и принятой Мажилисом)
4. Системы искусственного интеллекта, в зависимости от режима использования, подразделяются на открытые, закрытые и локальные. Характеристика, сферы использования и особенности эксплуатации таких систем определяются подзаконными актами Республики Казахстан.»
Содержание статей с 18 по 22 законопроекта предлагаю значительно сократить и оптимизировать до одной статьи со следующим содержанием:
«Статья 18. Управление рисками при эксплуатации систем искусственного интеллекта и ответственность за последствия наступления этих рисков
1. Процесс управления рисками систем искусственного
интеллекта, оценка этих рисков, определение перечня доверенных систем высокой степени риска и определение прозрачности использования систем искусственного интеллекта высокой степени риска регламентируется подзаконными актами Республики Казахстан.
2. В случае выявления рисков наступления обстоятельств, указанных в части 3 статьи 17 настоящего Закона, собственники и владельцы систем искусственного интеллекта должны принять незамедлительные меры, направленные на защиту прав граждан, общества и минимизацию возможного ущерба, в том числе путем приостановления или полного прекращения эксплуатации такой системы.
3. Аудит систем искусственного интеллекта проводится в соответствии с правилами проведения аудита информационных систем, в соответствии с требованиями статьи 50 Закона Республики Казахстан «Об информатизации».
4. Пользователи товаров, работ и услуг должны быть проинформированы о том, что они произведены или оказываются с использованием систем искусственного интеллекта. Ответственность за информирование пользователей о результатах деятельности систем искусственного интеллекта возлагается на собственников и владельцев этих систем.
5. (здесь включить содержание частей 4 и 5 статьи 21 законопроекта), а также откорректировать последующую нумерацию статей.
Статью 22 проекта предлагается исключить, так как ее содержание является предметом регулирования подзаконного акта, подтверждением чему служит сам текст в части 3 данной статьи («Порядок … определяется уполномоченным органом»).
Статью 23 предлагается существенно сократить и оставить лишь текст частей 1 и 2-ой, изменив наименование статьи на «Особенности правового регулирования авторского права в сфере искусственного интеллекта». Содержание частей 3,4 и 5 названной статьи предлагается исключить, поскольку отраженные в них вопросы урегулированы нормами Закона РК «Об авторском праве и смежных правах (в частности, ст. 7, 24 и другие).
Статью 24 предлагается изложить в измененной, более оптимальной, редакции:
«Статья 24. Возмещение и страхование ответственности за вред, причиненный системами искусственного интеллекта
Возмещение вреда и страхование ответственности за вред, причиненный системами искусственного интеллекта, и рисков, связанных с использованием систем искусственного интеллекта, осуществляется в соответствии с законодательством Республики Казахстан. При этом обязательность или добровольность страхования ответственности за причиненный вред зависит от степени риска в этой сфере.»
Статьи 25 и 26 главы 5 проекта предлагается полностью исключить, поскольку предлагаемые нормы регулируют технические вопросы деятельности систем ИИ, которые должны быть урегулированы подзаконными актами уполномоченного органа. Предложенное разработчиками содержание статей указанной главы противоречит требованиям части 3 статьи 61 Конституции РК и части 3 статьи 24 Закона РК «О правовых актах». Статью 27 предлагается переместить и расположить в проекте после статьи 15, поскольку логично расположить статью о правах и обязанностях собственников и владельцев библиотек данных после нормы о правах обязанностях собственников и владельцев систем искусственного интеллекта. При этом также предлагается наименование этой статьи изменить на «Права и обязанности собственников и владельцев библиотек данных». (С учетом внесенного предложения о перемещении статьи 27 следует также пересмотреть последующую нумерацию статей законопроекта)
Часть 1 статьи 28 предлагается изложить в следующей редакции:
«1. Меры государственной поддержки развития искусственного интеллекта осуществляется в соответствии с законодательством Республики Казахстан.»
Предложенная разработчиками законопроекта редакция указанной части статьи содержит повторения слова «законодательством», а Предпринимательский кодекс РК подлежит исключению, поскольку он является частным по отношению к общему - законодательство, и входит в это понятие.
В статье 29 проекта предлагается исключить часть 2, как не несущая никакой правовой нагрузки.
Предложив вниманию читателей изложенные выше замечания по законопроекту об ИИ, принятому Мажилисом и направленному для рассмотрения Сенату, вместе с тем прошу учесть следующее обстоятельство.
Предлагая изложенные замечания и предложения, преследую цель общими усилиями способствовать повышению качества законов и обеспечения их точного соответствия требованиям Конституции страны.
Почему разработчики законопроекта об ИИ, как и многих других законопроектов, стремятся к тому, чтобы исключительно все вопросы об ИИ регулировались законами, а не подзаконными актами? Прекрасно зная особенности прохождения законопроектов в Парламенте (длительность, сложность и многоэтапность), разработчики вместе с тем стремятся включать в проекты и правовое регулирование технических вопросов, тем самым нарушая требования соответствующей статьи Конституции. Не следует ли учесть, что норма закона, которая будет регулировать технические детали внедрения ИИ, не может быть, как это потребует быстро текущая жизнь и сам процесс внедрения ИИ, оперативно изменена или дополнена? Не загоняют ли себя таким образом разработчики законопроекта об ИИ в угол, тем самым неумышленно тормозя процесс легального внедрения ИИ в нашу жизнь? Ведь не секрет, что подзаконные акты разрабатываются и принимаются (утверждаются) в значительно короткие сроки.
В завершении статьи затрону еще один вопрос. В портфеле Мажилиса есть проект Цифрового кодекса, который инициирован депутатами Парламента и сейчас рассматривается депутатами нижней палаты. Учитывая то, что было написано в начале статьи о последовательности цифровизации и внедрения ИИ, считаю необходимым обсудить возможность пересмотра последовательности принятия Цифрового кодекса и закона об ИИ. Ведь не зря Глава государства на форуме «DIGITAL BRIDGE 2025» 2 октября 2025 г. подчеркнул, что Цифровой кодекс нельзя принимать поспешно.
Независимо от того, каково будет правовое регулирование цифровизации и внедрения ИИ, технически сами эти процессы будут идти самостоятельно и может быть стихийно, как это происходит сейчас в реальности. Будут ли такие неурегулированные процессы успешны, эффективны или нет, это другой вопрос.
Только правильное с точки зрения Конституции, законов Республики и четкое регулирование всех этих процессов обеспечит эффективный и своевременный переход Казахстана к цифровому государству, а также полноценную защиту прав и интересов граждан, вовлеченных в сферу ИИ или использующих продукцию систем ИИ.
