الجواب المختصر: ينبغي للذكاء الاصطناعي أن يصنف دليل الفحص ويُظهر النواقص ويقدم اقتراحًا للخبير. أما قرار المطابقة وتفسير الملاحظة الحرجة وقبول الاستثناء ونشر التقرير فلا تكتمل دون موافقة بشرية مؤهلة قابلة للتتبع.
لماذا ينبغي رسم الحد الصحيح على أساس كل مهمة؟
سؤال «هل نستخدم الذكاء الاصطناعي؟» وحده لا يكفي. السؤال الجوهري هو: أي مهمة يؤديها النظام وإلى ماذا يؤدي ناتجه الخاطئ. فمطابقة الصورة بأمر العمل الصحيح ليس في فئة الخطر ذاتها مع قرار صلاحية المعدات للاستخدام.
المعيار الذي نشره ISO في مارس 2026، ISO/IEC 17020:2026، يؤسس لمنشآت الفحص على الكفاءة والحياد والتشغيل المتسق؛ وتبرز في الطبعة الجديدة التفكير القائم على المخاطر وضبط البيانات والمعلومات. والنتيجة الفنية المستنبطة من هذا الإطار: يجب تصميم ناتج الذكاء الاصطناعي ليس كقرار مستقل يحل محل طريقة الفحص والعاملين المؤهلين، بل كمدخل عملية منضبط.
أين ينتج الذكاء الاصطناعي قيمة آمنة؟
الأنسب هي مهام الدعم ذات الناتج القابل للاسترجاع والتي تمكّن الخبير من العودة بسهولة إلى الدليل الأصلي. فرفض اقتراح النظام لا ينبغي أن يعطل سير العمل؛ والثقة المنخفضة أو انحراف البيانات أو الدليل الناقص يجب أن يولّد تلقائيًا قائمة فحص.
- فحص اكتمال السجل: وضع إشارة على نواقص الحقول الإلزامية والصور وسجل الجهاز وكفاءة العاملين والطابع الزمني قبل نشر التقرير.
- ترتيب أولويات الحالات الشاذة: ترتيب السجلات المشبوهة التي ينظر إليها الخبير أولًا ضمن كمٍّ كبير من القياسات أو الصور؛ دون إصدار حكم «يوجد عيب».
- مطابقة الوثائق والأدلة: ربط صورة الميدان بالمعدات ونقطة الفحص وأمر العمل؛ وترك المطابقة الغامضة لقائمة بشرية.
- توليد المسودات: إنشاء ملخص تقرير أو مسودة ملاحظات من الحقول المعتمدة؛ وعدم نشر أي جملة لا يستطيع النظام إظهار مصدرها.
- دعم التخطيط: اقتراح مسار أو ترتيب باستخدام بيانات عبء العمل والموقع والمدة؛ دون تجاوز القواعد الصارمة مثل الكفاءة والاستقلال وملاءمة الأجهزة.
يتطلب الجوهر الإلكتروني الحالي لـ NIST AI RMF 1.0 فصل الأدوار بين الإنسان والذكاء الاصطناعي، وتوثيق حدود معرفة النظام، وتحديد عمليات الرقابة البشرية، واختبار الأنظمة قبل التشغيل وأثناء الاستخدام. ويقابل ذلك في تدفق عمل VizyonTech إبقاء إصدار النموذج ودليل المدخلات وحالة الثقة/الاستثناء والعملية البشرية في مسار التدقيق نفسه.
في أي خطوات يجب أن تبقى الموافقة البشرية إلزامية؟
إذا كان الناتج مؤثرًا في السلامة أو المطابقة التشريعية أو نطاق الاعتماد أو حق العميل أو الصفة الرسمية للتقرير، فلا يجوز أن يكون الإنسان مجرد زر «موافقة» رمزي. فيجب أن يتمكن الشخص المؤهل من الوصول إلى الدليل الأصلي ورفض الاقتراح وتسجيل المبرر وإيقاف العملية.
| المهمة | دور الذكاء الاصطناعي | بوابة الإنسان | السلوك المغلق تلقائيًا عند الفشل |
|---|---|---|---|
| تصنيف الصور والسجلات | اقتراح | التحقق من المطابقة منخفضة الثقة | لا يُغلق السجل إذا غمضت المطابقة |
| مسح الحالات الشاذة | ترتيب الأولويات | تفسير الدليل الخام وبناء الملاحظة | لا تُعد نتيجة النموذج وحدها عيبًا |
| قبول القياس | تنبيه الاتساق/الحدود | تقييم ملاءمة الطريقة والجهاز والظروف | لا تُستخدم النتيجة عند نقص التتبع |
| قرار المطابقة | ملخص الأدلة | القرار الفني المؤهل | لا يتشكل القرار دون موافقة بشرية |
| الاستثناء أو الانحراف | إشارة المخاطر | قبول/رفض مبرر من صاحب الصلاحية | تتوقف العملية إن لم توجد موافقة محددة المدة ومسجلة |
| نشر التقرير | الموافقة الفنية وفحص الاكتمال | الموافقة الفنية والتوقيع عند اللزوم | لا يُنشر إصدار غير موافق خارجيًا |
المادة 14 من لائحة الاتحاد الأوروبي للذكاء الاصطناعي 2024/1689، تفترض في الأنظمة عالية المخاطر أن يفهم مسؤول الرقابة قدرات النظام وحدوده، وأن يكون حذرًا من الانحياز إلى الأتمتة، وأن يفسر الناتج ويستطيع إبطاله وأن يوقف النظام. ولا تدّعي هذه المقالة أن كل استخدام للذكاء الاصطناعي في الفحص «عالي المخاطر» قانونًا؛ بل تستخدم هذه القدرات كقائمة تحكم تصميمية قوية للقرارات الحرجة في الفحص.
كيف تصبح الموافقة البشرية ضبطًا حقيقيًا؟
لا يكفي كتابة اسم في شاشة الموافقة. فلكي يكون الضبط فعالًا يجب أن تجتمع المهمة والصلاحية والدليل في المكان نفسه:
- حدّدوا الدور مسبقًا: اربطوا بكفاءة السجلات من يمكنه الموافقة في أي طريقة ونطاق ونوع قرار.
- اعرضوا الدليل الأصلي: ليتمكن الخبير من رؤية ليس ملخص الذكاء الاصطناعي فقط، بل الصورة والقياس الخام والجهاز والطريقة والمراجعات السابقة.
- لا تخفوا الغموض: ليوجد في مسار التدقيق إصدار النموذج ووقت التقييم وعتبة الأداء وسبب الثقة المنخفضة.
- اجعلوا الرفض ممكنًا: يجب أن تكون صلاحيات تعديل الاقتراح ورفضه وإرساله إلى مراجعة ثانية والإيقاف الطارئ حقيقية.
- قيسوا الانحياز إلى الأتمتة: تُفحص دوريًا نسبة قبول البشر للاقتراح دون دليل، والملاحظات المُغفلة وأمثلة الإنذارات الخاطئة.
الوثيقة الموجهة إلى منشآت الفحص، ILAC P15:05/2020، هي وثيقة ILAC السارية التي تشرح تطبيق اعتماد ISO/IEC 17020:2012. وحتى لو نشرت ISO طبعة 2026 فيجب التحقق بشكل منفصل من خطة انتقال المنشأة والترتيبات الحالية لجهة اعتمادها. لذلك لا ينبغي للبرمجيات أن تفترض إصدار معيار ثابتًا؛ بل تجعل الطريقة والنطاق وقاعدة الانتقال قابلة للتهيئة.
كيف يُحمى أمن البيانات والخصوصية؟
لا يجوز إرسال صور الميدان ومعلومات العملاء وسجلات العاملين ومحتويات التقارير دون ضبط إلى نموذج لأغراض عامة. ويؤكد دليل KVKK المؤرخ 24 نوفمبر 2025 حول الذكاء الاصطناعي التوليدي وحماية البيانات الشخصية، على النهج المحور حول الإنسان والشفافية والقابلية للتدقيق؛ وعلى تقييم معالجة البيانات الشخصية عبر دورة حياتها بأكملها.
في التطبيق التقني يجب إنشاء معًا تقليل البيانات والوصول القائم على الدور وتسجيل وجهة النقل ومدة الحفظ وتقييم مقدم الخدمة الخارجي وتدفق الحذف/إخفاء الهوية. ولا يجوز لمدخلات النموذج ونواتجه أن تشكل أرشيفًا ظلّيًا منفصلًا يفلت من ضبط الوصول.
بنية ضبط نموذجية في تدفق عمل VizyonTech
Vizyon Periyodik وفي تدفق ميداني كهذا يمكن لطبقة الذكاء الاصطناعي، بعد أمر العمل وبوابتي الكفاءة والأجهزة، أن تنتج فحص اكتمال الدليل وأولوية الحالات الشاذة. لكن ينبغي أن يبقى القرار الفني وقفل الإصدار ونشر التقرير ضمن سلسلة الموافقات المخوّلة القائمة. وبالمثل، في إدارة تقارير الفحص غير الإتلافي (NDT) يجب حفظ الدليل الخام الخاص بالطريقة بشكل مستقل عن ملخص الذكاء الاصطناعي.
يجب أن يتضمن الحد الأدنى من مسار التدقيق هوية أمر العمل ومصدر البيانات وإصدار النموذج والقاعدة والوقت والاقتراح ومعلومات الثقة/الاستثناء والدليل الذي عرضه الإنسان وعملية القبول/الرفض والمبرر وإصدار التقرير المنشور. وإذا تعذر الوصول إلى النموذج فيجب أن يستمر مسار القرار الحرج يدويًا وبشكل آمن؛ ولا يجوز النشر التلقائي بدليل ناقص.
مصفوفة الأدلة
| الادعاء | المصدر | التاريخ / الإصدار | المقابل لدى VizyonTech | النتيجة الفنية |
|---|---|---|---|---|
| يستند ثقة الفحص إلى الكفاءة والحياد والتشغيل المتسق | ISO، ISO/IEC 17020 | 2026، الطبعة 3؛ الإصدار المصحح 2026-06 | طبقة دعم بالذكاء الاصطناعي | يُقفل قرار المطابقة لدى الدور المؤهل |
| يجب توثيق أدوار الإنسان والذكاء الاصطناعي وحدودهما والرقابة | NIST AI RMF Core | AI RMF 1.0، 2023؛ وصول إلى المصدر الإلكتروني 2026 | الدور والنموذج والمدخل وأثر العمليات | يصبح الاقتراح قابلًا للرفض والاختبار |
| في الرقابة الحرجة يجب أن يستطيع الإنسان إبطال الناتج وإيقاف النظام | المادة 14 من لائحة الاتحاد الأوروبي 2024/1689 | 2024؛ يختلف جدول التطبيق حسب الاستخدام والنطاق | التجاوز والإيقاف والمراجعة الثانية | يُبنى ضبط فعال بدلًا من موافقة رمزية |
| يُفسَّر تطبيق اعتماد ISO/IEC 17020 بشكل منفصل | ILAC P15 | 05/2020 | تُهيّأ قواعد الإصدار والانتقال | لا يُفترض الانتقال بين المعيار القديم والجديد |
| يجب تقييم آثار البيانات الشخصية عبر دورة حياة الذكاء الاصطناعي | دليل KVKK للذكاء الاصطناعي التوليدي | 24.11.2025 | ضوابط تقليل البيانات والوصول والحفظ | لا تُنقل بيانات الميدان إلى النموذج دون ضبط |
القرار النهائي
التصميم الجيد للذكاء الاصطناعي في الفحص أكثر تحديدًا من شعار «إبقاء الإنسان في الحلقة»: فهو يسرّع أعمال التحضير منخفضة المخاطر، ويترك القرار الحرج للشخص المؤهل، ويربط كل عملية ينفذها الطرفان بالدليل. اختاروا في المرحلة التجريبية الأولى مهمة واحدة؛ ودوّنوا قبل الانتقال إلى الإنتاج تكلفة الخطأ وشرط الإيقاف وصلاحية الإنسان ومعيار النجاح.
المراجع
- ISO — ISO/IEC 17020:2026، تقييم المطابقة — متطلبات الجهات التي تقوم بالمعاينة (مارس 2026؛ الإصدار الإنجليزي المصحح يونيو 2026).
- ILAC — ILAC P15:05/2020، Application of ISO/IEC 17020:2012 for the Accreditation of Inspection Bodies.
- NIST — Artificial Intelligence Risk Management Framework (AI RMF 1.0)، NIST AI 100-1 (26 يناير 2023).
- NIST AIRC — المكوّن الأساسي لإطار AI RMF: الحوكمة، ورسم خريطة المخاطر، والقياس، والإدارة.
- EUR-Lex — Regulation (EU) 2024/1689، ولا سيما المادة 14 (13 يونيو 2024).
- هيئة حماية البيانات الشخصية — دليل الذكاء الاصطناعي التوليدي وحماية البيانات الشخصية (في 15 سؤالًا) (24 نوفمبر 2025).