ГОСТ Р 59276-2020
Системы искусственного интеллекта
Способы обеспечения доверия
Общие положения
Artificial intelligence systems.
Methods for ensuring trust. General
См.: Письмо Казахстанского института стандартизации и метрологии Министерства торговли и интеграции Республики Казахстан от 26 января 2026 года № ЖТ-2023-00068829 «О применении ГОСТ Р 59276-2020 на территории РК»
Содержание
Введение
1. Область применения
2. Нормативные ссылки
3. Термины и определения
4. Сокращения
5. Существенные характеристики систем искусственного интеллекта
6. Факторы снижения качества на стадиях жизненного цикла систем искусственного интеллекта
7. Доверие и качество систем искусственного интеллекта
8. Способы обеспечения доверия на стадиях жизненного цикла систем искусственного интеллекта
9. Доверие и уровни архитектуры в системах искусственного интеллекта
Введение
Доверие к системам искусственного интеллекта является важнейшим условием, определяющим возможность применения этих систем при решении ответственных задач обработки данных. Примерами таких задач являются поддержка принятия врачебных решений, беспилотное управление транспортными средствами и некоторые другие, ошибки при решении которых могут привести к тяжким последствиям, связанным с угрозой для жизни и здоровья людей, серьезным экономическим и экологическим ущербом.
В настоящем стандарте:
- определено понятие доверия к системам искусственного интеллекта;
- приведена классификация факторов, влияющих на качество и способность систем искусственного интеллекта вызывать доверие на стадиях жизненного цикла;
- формализована взаимосвязь качества и способности систем искусственного интеллекта вызывать доверие;
- приведена классификация основных способов обеспечения доверия к системам искусственного интеллекта.
1. Область применения
В настоящем стандарте рассматриваются вопросы обеспечения доверия к системам искусственного интеллекта со стороны потребителей результатов работы этих систем и, при необходимости, со стороны организаций, ответственных за регулирование вопросов создания и применения систем искусственного интеллекта, на основе подтверждения их качества, включая:
- виды существенных характеристик систем искусственного интеллекта, подтверждение значений которых установленным требованиям обеспечивает доверие к этим системам;
- виды факторов, приводящих к снижению качества систем искусственного интеллекта;
- особенности соотношения понятий «качество систем искусственного интеллекта» и доверия к этим системам;
- особенности обеспечения доверия на стадиях жизненного цикла систем искусственного интеллекта, включая стадии создания и эксплуатации этих систем;
- вопросы обеспечения доверия на различных уровнях архитектуры систем искусственного интеллекта.
Стандарт распространяется на системы искусственного интеллекта, обеспечивающие решение конкретных практически значимых задач, и не может быть использован для систем «сильного» или «общего» искусственного интеллекта.
