13.10.2026
Юридическая безопасность системы искусственного интеллекта: инструкция для собственника и владельца
Имангалиева А.Д.,
CEO Imangaliyeva Law Firm
С 18 января 2026 года действует Закон Республики Казахстан «Об искусственном интеллекте».
Он возложил на собственника и владельца системы искусственного интеллекта обязанность не просто «использовать модель», а держать под контролем систему управления рисками на всем жизненном цикле.
Нами разработана небольшая инструкция для безопасного использования системы.
Шаг 1. Определите, являетесь ли вы субъектом, на которого распространяются требования Закона
Обязанности по обеспечению безопасности системы, предусмотренные статьей 15 Закона, адресованы собственнику и владельцу системы искусственного интеллекта. На практике это:
- разработчик, который выводит систему на рынок;
- компания, которая дообучает или настраивает чужую модель и встраивает ее в свой продукт или бизнес-процесс;
- организация, которая эксплуатирует систему для собственных задач: скоринга, обработки обращений, отбора кандидатов, документооборота.
Сложнее всего провести границу между владельцем и пользователем. Компания, подключившая модель стороннего поставщика по API к своему клиентскому сервису, как правило, становится владельцем собственной системы ИИ, даже не имея доступа к весам модели. Сотрудник, работающий в публичном чат-боте, остается пользователем. Между этими полюсами много промежуточных конфигураций, поэтому распределение ролей разумно закреплять в договоре с поставщиком: кто ведет документацию, кто отвечает за библиотеки данных, кто и в какой срок сообщает об инцидентах.
Шаг 2. Проведите инвентаризацию
Составьте реестр продуктов и внутренних сервисов, которые могут подпадать под понятие системы искусственного интеллекта, то есть цифрового объекта, функционирующего на основе одной или нескольких моделей ИИ. Ориентиром служат критерии отнесения объектов информатизации к системам ИИ, утвержденные уполномоченным органом: компьютерное зрение, обработка естественного языка, распознавание и синтез речи, интеллектуальная поддержка принятия решений, генерация синтетических данных и контента, применение методов машинного обучения.
Отдельно проверьте «теневое» использование: подразделения нередко подключают ИИ-сервисы сами, без ведома юристов и службы информационной безопасности. По каждой выявленной системе зафиксируйте назначение, поставщика модели, обрабатываемые данные, круг пользователей и ответственное лицо.
Шаг 3. Исключите запрещенные функции
До классификации и подготовки документов систему нужно проверить на запрещенные функциональные возможности, перечисленные в пункте 3 статьи 17 Закона. Никакой комплект документов не легализует систему, которая:
- использует скрытые или манипулятивные методы, ограничивающие осознанный выбор человека;
- эксплуатирует уязвимость человека, связанную с возрастом, инвалидностью или социальным положением, для причинения вреда;
- оценивает или классифицирует людей по социальному поведению или личным характеристикам, кроме случаев, предусмотренных законами;
- собирает и обрабатывает персональные данные с нарушением законодательства;
- классифицирует людей по биометрическим данным в целях дискриминации;
- определяет эмоции человека без его согласия, кроме случаев, предусмотренных законами;
- создает и распространяет результаты, запрещенные законами.
Типичные зоны риска на практике: анализ эмоций клиентов в колл-центрах, автоматизированная оценка сотрудников по поведенческим данным, продающие боты, построенные на давлении и скрытых приемах убеждения. При выявлении таких признаков собственник или владелец обязан незамедлительно принять меры вплоть до приостановления или прекращения эксплуатации (пункт 2 статьи 18 Закона).
Шаг 4. Классифицируйте систему
Классификацию проводит сам собственник или владелец по правилам классификации цифровых объектов (статья 17 Закона). Система оценивается по двум независимым осям: степени риска и степени автономности. Дополнительно учитывается режим использования.
По степени риска:
- минимальная - нарушение или прекращение работы системы почти не затронет пользователя;
- средняя - возможны снижение эффективности работы пользователя, моральный вред или материальный ущерб;
- высокая - возможны чрезвычайная ситуация социального или техногенного характера либо существенные последствия для обороны, безопасности, международных отношений, экономики, инфраструктуры и жизнедеятельности людей. Система высокой степени риска, отнесенная к критически важным объектам, в части кибербезопасности приравнивается к государственной.
По степени автономности:
- низкая - система дает рекомендацию, решение принимает человек;
- средняя - решение может приниматься автономно, но человек способен его скорректировать или отменить;
- высокая - корректировка или отмена решения человеком исключена либо технически невозможна; особенности таких систем устанавливаются отдельными законами.
Режим использования (открытый, закрытый или локальный) определяет, какие данные допустимо обрабатывать и где должна функционировать система.
Поскольку классификация является самооценкой, ее следует оформлять мотивированным заключением: назначение системы, сценарии штатного и предсказуемого нецелевого использования, затрагиваемые права и категории данных, вывод о степени риска и автономности с обоснованием. Это первый документ, который запросят и проверяющий, и суд.
Шаг 5. Подготовьте комплект документации
Обязанность вести документацию установлена статьей 15 Закона, а ее состав определен перечнем, утвержденным уполномоченным органом. Перечень включает четыре документа:
1. Документ на систему ИИ - основание для создания, развития, опытной и промышленной эксплуатации: назначение, архитектура на уровне, достаточном для контроля, границы применения, роли собственника, владельца и пользователя.
2. Документ по управлению рисками - перечень направлений разработки и использования, каталог источников риска, средства контроля, относящиеся к разработке и (или) использованию, план обработки рисков.
3. Документ на библиотеки данных - по требованиям управления данными: состав, качество, происхождение, условия доступа, ограничения.
4. Документ о политике принципов искусственного интеллекта в организации - как компания обеспечивает законность, справедливость, прозрачность и объяснимость, приоритет человека, защиту данных и безопасность.
Комплект зависит от степени риска системы:
| Степень риска | Обязательный комплект |
| Минимальная | документ на систему ИИ и документ по управлению рисками |
| Средняя | то же, плюс документ на библиотеки данных |
| Высокая | весь предыдущий комплект, плюс документ о политике принципов искусственного интеллекта в организации |
Шаг 6. Запустите процесс управления рисками
Управление рисками по смыслу статьи 18 Закона представляет собой непрерывный процесс на всем жизненном цикле системы, который собственник или владелец планирует и выполняет сам. Он включает:
1. выявление и анализ известных и прогнозируемых рисков при использовании системы по назначению;
2. оценку рисков, в том числе при предсказуемом нецелевом использовании;
3. целенаправленные меры по предупреждению и устранению рисков;
4. обновление рисков не реже одного раза в год.
Во внутреннем регламенте целесообразно предусмотреть внеплановый пересмотр при смене или обновлении модели, дообучении на новых данных, расширении круга пользователей или сценариев, а также после каждого инцидента. Назначьте ответственное лицо и сохраняйте протоколы каждого цикла: именно они показывают, что процесс ведется в действительности, а не существует на бумаге.
Шаг 7. Обеспечьте безопасность и надежность
Статья 15 Закона требует защиты системы от несанкционированного доступа и сбоев. Минимальный набор мер: разграничение доступа, журналирование запросов и решений системы, резервирование, порядок реагирования на инциденты и возможность оперативно отключить систему. Если система обрабатывает персональные данные, в полном объеме применяется Закон Республики Казахстан «О персональных данных и их защите».
Шаг 8. Выстройте отношения с пользователями
Собственник или владелец обязан:
- до начала использования предоставить пользователю возможность ознакомиться с пользовательским соглашением (статья 15 Закона);
- оказывать пользователям поддержку по вопросам функционирования системы (статья 15 Закона);
- информировать пользователей о том, что товары, работы или услуги созданы или оказываются с использованием ИИ (пункт 1 статьи 21 Закона);
- распространять синтетические результаты только с машиночитаемой маркировкой и визуальным или иным предупреждением, воспринимаемым без затруднений; ответственность за такое информирование несет собственник или владелец (пункты 2 и 3 статьи 21 Закона);
- обеспечивать соответствие результатов работы системы законодательству (пункт 5 статьи 21 Закона).
Пользовательское соглашение не является формальностью. Именно на него придется ссылаться, доказывая, что вред возник из-за нецелевого использования системы самим пользователем.
Шаг 9. Для систем высокой степени риска оцените необходимость аудита
Отраслевые государственные органы формируют перечни доверенных систем ИИ высокой степени риска (статья 19 Закона). Собственник или владелец, претендующий на включение в перечень, проводит аудит системы по правилам аудита цифровых систем, в ходе которого дополнительно проверяются законность использования библиотек данных для обучения и отсутствие запрещенных функций (статья 20 Закона). Прямой обязанности проходить аудит Закон не устанавливает, однако для поставщиков, работающих с государственными и квазигосударственными заказчиками, включение в перечень может стать фактическим условием доступа к рынку.
Почему это важно: ответственность и бремя доказывания
Нарушение законодательства в сфере ИИ влечет ответственность, установленную законами, а вред, причиненный с использованием системы ИИ, возмещается по правилам Гражданского кодекса. По статье 917 ГК лицо, причинившее вред, освобождается от его возмещения, если докажет, что вред причинен не по его вине. Бремя доказывания, таким образом, лежит на собственнике или владельце, и выполнить его можно, только предъявив классификационное заключение, документацию и протоколы управления рисками, составленные до наступления вреда.
Краткое резюме для владельца системы ИИ
1. Определить свою роль и закрепить распределение обязанностей в договорах с поставщиками моделей.
2. Провести инвентаризацию систем ИИ, включая сервисы, подключенные подразделениями самостоятельно.
3. Исключить запрещенные функциональные возможности.
4. Классифицировать каждую систему и оформить мотивированное заключение.
5. Подготовить комплект документации в зависимости от степени риска.
6. Утвердить регламент управления рисками, назначить ответственного и установить основания для внепланового пересмотра.
7. Обеспечить защиту от несанкционированного доступа и сбоев, соблюдение законодательства о персональных данных.
8. Подготовить пользовательское соглашение, порядок информирования пользователей и маркировки синтетических результатов.
9. Для систем высокой степени риска решить вопрос об аудите и включении в перечень доверенных систем.
