Краткий ответ: Искусственный интеллект должен классифицировать подтверждения инспекции, показывать пробелы и представлять эксперту предложения. Решение о соответствии, интерпретация критического замечания, принятие исключения и публикация отчёта не должны завершаться без прослеживаемого утверждения компетентного человека.
Почему правильную границу следует проводить по задачам?
Вопрос «используем ли мы искусственный интеллект?» сам по себе недостаточен. Настоящий вопрос — какую задачу выполняет система и к чему приводит ошибочный результат. Сопоставление фотографии с правильным рабочим заданием и решение о пригодности оборудования к эксплуатации не относятся к одному классу риска.
Опубликованный в марте 2026 года ISO/IEC 17020:2026основывается для инспекционных организаций на компетентности, беспристрастности и последовательной работе; в новом издании выделяются также риск-ориентированное мышление и контроль данных и информации. Технический вывод из этой рамки: результат ИИ следует проектировать не как независимое решение, заменяющее метод инспекции и компетентный персонал, а как контролируемый вход процесса.
Где искусственный интеллект создаёт безопасную ценность?
Наиболее подходящие области — поддерживающие задачи с обратимым результатом, где эксперт может легко вернуться к исходному подтверждению. Отклонение предложения системы не должно нарушать рабочий процесс; низкая уверенность, смещение данных или недостающее подтверждение должны автоматически формировать очередь на проверку.
- Проверка полноты записи: Отметить до публикации отчёта пробелы в обязательных полях, фотографиях, записи прибора, компетентности персонала и метке времени.
- Приоритизация аномалий: Ранжировать среди множества измерений или изображений подозрительные записи, на которые эксперту следует посмотреть первыми; не выносить вердикт «дефект присутствует».
- Сопоставление документов и подтверждений: Связывать полевую фотографию с оборудованием, контрольной точкой и рабочим заданием; неоднозначные соответствия передавать в очередь человеку.
- Генерация черновиков: Формировать из утверждённых полей сводку отчёта или черновик замечаний; не публиковать предложение, для которого не удаётся показать источник.
- Поддержка планирования: Предлагать маршрут или очерёдность на основе данных о нагрузке, местоположении и сроках; не обходить жёсткие правила компетентности, независимости и пригодности приборов.
Актуативное онлайн-ядро NIST AI RMF 1.0 требует разделения ролей человека и ИИ, документирования информационных границ системы, определения процессов человеческого надзора и тестирования систем до ввода в эксплуатацию и в ходе использования. В рабочем процессе VizyonTech его эквивалент — сохранение версии модели, входного подтверждения, статуса уверенности/исключения и операции человека в едином следе аудита.
На каких шагах утверждение человека должно оставаться обязательным?
Если результат влияет на безопасность, соответствие законодательству, область аккредитации, права клиента или официальный характер отчёта, человек не должен быть лишь символической кнопкой «утвердить». Уполномоченное лицо должно иметь доступ к первичным доказательствам, возможность отклонить предложение, зафиксировать обоснование и остановить процесс.
| Задача | Роль ИИ | Контрольный пункт человека | Принцип fail-closed |
|---|---|---|---|
| Классификация фото и записей | Предложение | Верификация совпадения с низкой достоверностью | При неоднозначном совпадении запись не закрывается |
| Сканирование на аномалии | Приоритизация | Интерпретация первичных данных и формирование заключения | Результат модели сам по себе не считается дефектом |
| Приёмка измерений | Предупреждение о согласованности и пределах | Оценка соответствия метода, прибора и условий | При неполной прослеживаемости результат непригоден |
| Решение о соответствии | Сводка доказательств | Компетентное техническое решение | Без утверждения человеком решение не формируется |
| Исключение или отклонение | Сигнал риска | Авторизованное мотивированное принятие или отклонение | Без ограниченного по времени и зафиксированного утверждения процесс останавливается |
| Публикация отчёта | Контроль черновика и полноты | Техническое утверждение и, при необходимости, подпись | Неутверждённая версия не может быть опубликована наружу |
Регламент ЕС по искусственному интеллекту 2024/1689, статья 14, предусматривает, что в системах высокого риска лицо, осуществляющее надзор, должно понимать возможности и ограничения системы, проявлять осторожность в отношении склонности к автоматизации, уметь интерпретировать результаты, отменять их и останавливать систему. Эта статья не утверждает, что любое применение ИИ при инспекции юридически является «высоким риском»; она использует эти требования как надёжный контрольный список проектирования для критических инспекционных решений.
Как сделать человеческое утверждение реальным контролем?
Просто указать имя на экране утверждения недостаточно. Для эффективного контроля задача, полномочия и доказательства должны соединяться в одном месте:
- Заранее определите роль: Свяжите с записью о компетентности, кто и в каком методе, области и типе решения может давать утверждение.
- Покажите первичные данные: Специалист должен видеть не только сводку ИИ, но и фотографию, необработанные измерения, прибор, метод и предыдущие редакции.
- Не скрывайте неопределённость: Версия модели, время оценки, порог достоверности и причина низкой достоверности должны фиксироваться в журнале аудита.
- Сделайте отклонение возможным: Полномочия изменить предложение, отклонить его, направить на повторную проверку и экстренно остановить процесс должны быть реальными.
- Измеряйте склонность к автоматизации: Периодически анализируйте, как часто люди принимают предложение без проверки доказательств, а также примеры пропущенных замечаний и ложных тревог.
Для инспекционных органов ILAC P15:05/2020 — действующий документ ILAC, разъясняющий применение ISO/IEC 17020:2012 при аккредитации. Хотя издание ISO 2026 года уже опубликовано, план перехода организации и актуальные требования её органа по аккредитации необходимо проверять дополнительно. Поэтому ПО не должно жёстко фиксировать версию стандарта; метод, область и правило перехода должны быть настраиваемыми.
Как обеспечиваются безопасность данных и конфиденциальность?
Полевые фотографии, сведения о клиенте, кадровые записи и содержание отчётов не должны бесконтрольно передаваться в модель общего назначения. В изданном KVKK 24 ноября 2025 года Руководстве по генеративному искусственному интеллекту и защите персональных данныхподчёркивается человекоцентричный, прозрачный и проверяемый подход и необходимость оценки на протяжении всего жизненного цикла обработки персональных данных.
В технической реализации следует совместно настроить минимизацию данных, доступ на основе ролей, фиксацию получателя передачи, срок хранения, оценку сторонних поставщиков и процесс удаления/обезличивания. Входные и выходные данные модели не должны образовывать теневой архив, ускользающий от контроля доступа.
Пример архитектуры контроля в рабочем процессе VizyonTech
Vizyon Periyodik в ориентированном на полевые работы процессе слой ИИ может после рабочего задания и проверок компетентности и приборов формировать оценку полноты доказательств и приоритеты аномалий. Однако техническое решение, блокировка версии и публикация отчёта должны оставаться в существующей цепочке авторизованных утверждений. Аналогично в управлении отчётами НК первичные данные конкретного метода должны сохраняться независимо от сводки ИИ.
Минимальный журнал аудита должен включать идентификатор рабочего задания, источник данных, версии модели и правил, время, предложение, сведения о достоверности или исключении, просмотренные человеком доказательства, действие принятия или отклонения, обоснование и версию опубликованного отчёта. Если модель недоступна, критический процесс решений должен продолжаться вручную и безопасно; автоматическая публикация при неполных доказательствах недопустима.
Матрица доказательств
| Утверждение | Источник | Дата / версия | Реализация в VizyonTech | Технический результат |
|---|---|---|---|---|
| Доверие к инспекции основано на компетентности, беспристрастности и последовательной эксплуатации | ISO, ISO/IEC 17020 | 2026, 3-е издание; исправленная версия 2026-06 | является вспомогательным слоем ИИ | Решение о соответствии блокируется за компетентной ролью |
| Роли человека и ИИ, границы и надзор должны документироваться | Основная структура NIST AI RMF | AI RMF 1.0, 2023; доступ к онлайн-ресурсу 2026 | Роль, модель, входные данные и журнал действий | Предложение можно отклонить и подвергнуть проверке |
| При критическом надзоре человек должен уметь отменить результат и остановить систему | ЕС 2024/1689, статья 14 | 2024; график применения зависит от использования и области | Переопределение, остановка и повторная проверка | Вместо символического утверждения выстраивается эффективный контроль |
| Применение ISO/IEC 17020 при аккредитации дополнительно разъясняется | ILAC P15 | 05/2020 | Настраиваются версии и правила перехода | Переход между старым и новым стандартом не предполагается по умолчанию |
| Влияние на персональные данные должно оцениваться на всём жизненном цикле ИИ | Руководство KVKK по генеративному ИИ | 24.11.2025 | Контроль минимизации, доступа и хранения | Полевые данные не передаются в модель бесконтрольно |
Итоговое решение
Хороший дизайн ИИ в инспекции конкретнее лозунга «держать человека в контуре»: он ускоряет низкорисковые подготовительные операции, оставляет критическое решение за компетентным лицом и связывает каждое действие обеих сторон доказательствами. Для первого пилота выберите одну задачу; до перехода в промышленную эксплуатацию письменно зафиксируйте стоимость ошибки, условия отказа, полномочия человека и критерии успеха.
Источники
- ISO — ISO/IEC 17020:2026, Оценка соответствия — Требования к органам, проводящим инспекцию (март 2026; исправленная английская версия — июнь 2026).
- ILAC — ILAC P15:05/2020, Применение ISO/IEC 17020:2012 для аккредитации инспекционных органов.
- NIST — Структура управления рисками искусственного интеллекта (AI RMF 1.0), NIST AI 100-1 (26 января 2023).
- NIST AIRC — Основная структура AI RMF: руководство, определение контекста, измерение и управление рисками.
- EUR-Lex — Регламент (ЕС) 2024/1689, в частности статья 14 (13 июня 2024).
- Управление по защите персональных данных — Руководство по генеративному искусственному интеллекту и защите персональных данных (в 15 вопросах) (24 ноября 2025).