كيف تختار برنامج كشف الصور المولَّدة بالذكاء الاصطناعي: المعايير والتجربة وتكلفة المراجعة

اختر برنامج كشف الصور المولّدة بالذكاء الاصطناعي (AI Image Detector) باختبار ما إذا كان يحسّن قرار مراجعة بعينه على الملفات التي يتلقاها فريقك فعلًا. وينبغي أن يوفّر لك الشراء أدلة يمكن تفسيرها، وقائمة انتظار مراجعة يمكن إدارتها، ومسارًا واضحًا للملفات التي لا تستطيع الخدمة تقييمها.

اعتمد ثلاث مراحل بدلًا من البدء باختبار مرجعي (Benchmark) كبير:

1. المراجعة المكتبية: أكّد المهام المطلوبة والملفات المدعومة وشروط البيانات وإمكانية الوصول إلى المنتج أو الباقة المقصودة. استبعد أوجه عدم الملاءمة الواضحة قبل رفع أي ملف.
2. عيّنة مصرّح بها لاختبار قابلية الاستخدام: جرّب مجموعة صغيرة من الملفات التمثيلية المسموح باستخدامها، لترى ما إذا كان المراجِعون يستطيعون فهم المخرجات واتخاذ خطوة تالية مفيدة. هذا اختبار ملاءمة وليس تقديرًا للدقة.
3. التقييم الرسمي: اختبر المرشحين المتبقين على تصنيفات مرجعية تُحدَّد بصورة مستقلة، وحدود خطأ متفق عليها، وحجم العمل نفسه. استخدم جدول التقييم الموزون ومقارنة التكلفة أدناه لتسجيل القرار.

استخدم طلب المعلومات (RFI) في ختام الدليل لعرض هذه المتطلبات على المزوّدين المرشحين. ويضم الدليل كذلك قسمًا مستقلًا عن أسئلة البيانات التي تختلف بين السعودية والإمارات ومصر.

ابدأ من القرار الذي يجب أن يدعمه برنامج كشف الصور المولّدة

اكتب متطلبًا يسمّي المادة المفحوصة والسؤال والإجراء التالي. مثال: «فرز صور حوادث المركبات المرفقة بمطالبات التأمين بحثًا عن تغييرات محتملة في المحتوى، ثم إحالة الحالات المُعلَّمة أو غير المحسومة إلى مراجِع مدرَّب يستطيع طلب الملف الأصلي». هذا متطلب يمكن اختباره، أما «اكتشاف الصور المزيفة» فلا يمكن اختباره.

حدّد ما الذي يُعدّ مصدر قلق ذا صلة قبل إسناد أي تصنيف إيجابي، فقد يكون الاستخدام المسموح للذكاء الاصطناعي والتعديل الاعتيادي مقبولين. أما صدق مقدّم المطالبة، أو وقوع الحدث المصوَّر كما وُصف، فيتطلب كلٌّ منهما سياقًا وأدلة مساندة تتجاوز درجة الكاشف.

وفي التأمين على المركبات يقدّم السوق السعودي مثالًا واضحًا: أعلنت «نجم لخدمات التأمين» سبعة مؤشرات محدّثة للكشف عن الاحتيال التأميني في الحوادث المرورية، تشمل توقيت الحادث والسائق وظروف الحادث وتوثيقه وتباين الأضرار والأضرار السابقة والأدلة في موقع الحادث. نجم تكشف عن معايير ومؤشرات محدّثة للكشف عن الاحتيال التأميني في الحوادث المرورية (بيان صحفي بالإنجليزية) وتذكّر هذه القائمة بأن صور المطالبة جزء من ملف أوسع، وبأن نتيجة الكاشف إشارة تُضاف إلى هذه الفحوص ولا تحلّ محلها. ويتناول دليل مراجعة صور المطالبات التأمينية هذا السياق بالتفصيل.

حدّد ما إذا كنت تحتاج إلى كشف الصور المولّدة بالكامل، أو تحديد التعديلات الموضعية، أو فحص سجلات المنشأ، أو الجمع بين هذه المهام. الصورة التي تحوي منطقة مولّدة واحدة حالة تقييم مختلفة عن مشهد مولّد بالكامل. وقد تجتاز صورة حقيقية استُخدمت في معاملة مضللة فحصَي التوليد والتعديل معًا، ومع ذلك تحتاج المعاملة إلى تحقيق.

تميّز النظرة العامة التي نشرها المعهد الوطني الأمريكي للمعايير والتقنية (NIST) في نوفمبر 2024 بين تتبّع المنشأ وكشف المحتوى الاصطناعي، وتوضح أن كل تقنية على حدة لبنة تعتمد على السياق وليست حلًا شاملًا. هذا التمييز مفيد عند تحديد النطاق. وثيقة NIST AI 100-4 (القسمان 1 و3، بالإنجليزية) وعلى المستوى المحلي، تنصح وثيقة «مبادئ التزييف العميق» الصادرة عن الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) في إصدار مايو 2025، وهي غير ملزمة، المستهلكين باستخدام أدوات الكشف وبفحص منشأ المحتوى عبر تحليل البيانات الوصفية والعلامات المائية الرقمية، فتجمع بذلك بين المسارين اللذين تميّز بينهما النظرة العامة المذكورة. سدايا: الأنظمة والسياسات، مبادئ التزييف العميق، القسم 8.3 (بالإنجليزية)

سجّل صيغ الملفات المتوقعة وقنوات الاستقبال ونطاق الجودة والحجم اليومي ودرجة الحساسية. أدرج العقبات المعتادة، كالصور الواردة عبر تطبيقات المراسلة (واتساب مثلًا) أو المرسلة على شكل لقطات شاشة (يتناول دليل لقطات الشاشة والصور المضغوطة هذه الحالات). وأسند قائمة انتظار المراجعة الناتجة إلى مسؤول محدد؛ فإن لم يكن لدى أحد صلاحية التصرف عند ظهور تنبيه، فقد تفقد أبرز قدرات المنتج قيمتها التشغيلية.

المراجعة المكتبية لبرنامج كشف الصور: افصل القدرات المطلوبة عن الإضافات الجذابة

اطلب من كل مزوّد استكمال مصفوفة التغطية نفسها. اشترط إجابة مؤرَّخة ومرتبطة بالباقة المعروضة وإصدار المنتج. صنّف كل قدرة بأنها متاحة أو محدودة أو غير مدعومة أو مخطط لها؛ فالالتزام الوارد في خارطة الطريق لا يستوفي متطلبًا قائمًا.

أما فيما يتعلق بالمنشأ، فيختلف قول «عُثر على Content Credentials» عن قول «جرى التحقق من Content Credentials». اسأل عن فحوص التحقق التي تُجرى، وعن طريقة تمثيل السجلات المفقودة وغير الصالحة وغير الموثوقة. يصف شرح C2PA الخاص بالإصدار 2.2 سجلات Content Credentials بأنها معلومات منشأ تُظهر أي تلاعب يطرأ عليها، ولا يعدّ التحقق منها حكمًا بأن الحدث الذي تمثله صحيح. شرح C2PA: الأهداف وما يخرج عن نطاقها (بالإنجليزية) ويتوسع دليل C2PA والعلامات المائية وكشف الصور في هذا الموضوع.

قيّم الميزات التي تلبّي متطلبك قبل أن تمنح درجات للإضافات. لا تعوّض خريطة حرارية (heatmap) أنيقة عن صيغ إدخال غير مدعومة، ولا تثبت قائمة طويلة بأدوات التوليد المدعومة أداءً في كشف التعديلات الموضعية.

يغطي التحقق من الصور في Fileverity التوليد بالذكاء الاصطناعي والتلاعب بالصور والمنشأ في تقرير واحد، مع قراءة Content Credentials والتحقق منها وفق مواصفة C2PA. ابدأ بصفحة نطاق التحقق من الصور وصفحة الثقة والأمان وصفحة الأسعار، علمًا بأن الأسعار بالدولار الأمريكي، واستعن بمصفوفة التغطية لمطابقة هذه الفحوص مع مهمتك. يستطيع مراجِعوك تشغيل فحوص الصور في لوحة التحكم، وتستطيع أنظمتك استدعاء واجهة API لكشف الصور المولّدة بالذكاء الاصطناعي ذاتية الخدمة، وكلاهما برصيد مساحة عمل مدفوع مسبقًا مع رصيد البدء المجاني. أخبرنا كيف سيستخدم مراجِعوك النتائج (تطبيق ويب أو تصدير أو تكامل) وما الحجم المتوقع، وسنؤكد طريقة الوصول المناسبة. وتشمل باقة Enterprise التسعير للأحجام الكبيرة، والنشر على خوادمك أو دون اتصال كامل بالإنترنت، والتكامل المخصص.

ضع الشروط الإلزامية قبل الدرجة الموزونة

ينبغي أن يؤدي إخفاق بعض المتطلبات إلى تعليق الشراء إلى أن يُحسم. من أمثلتها: اشتراط عدم استخدام المواد المرسَلة في تدريب النماذج، أو موقع معالجة لا يتوافق مع متطلباتك، أو صيغ ملفات حرجة غير مدعومة، أو غياب مسار عملي للحالات غير المحسومة. مؤسستك هي التي تحدد هذه الشروط. ولا ينبغي لدرجة كشف قوية أن تلغي إخفاقًا في متطلب معالجة البيانات.

بعد أن يجتاز المرشحون الشروط الإلزامية، استخدم جدولًا موزونًا لتنظيم المقارنة. الأوزان أدناه نقطة بداية لمسار عمل يقوده المراجِعون؛ عدّلها قبل الاطلاع على نتائج أي مزوّد.

قيّم كل صف من صفر إلى أربعة: الصفر يعني عدم وجود دليل؛ والواحد يعني ادعاءً مكتوبًا؛ والاثنان يعنيان عرضًا عمليًا أو توثيقًا جزئيًا؛ والثلاثة تعني دليلًا تحقق فريقك من مطابقته لمتطلباته؛ والأربعة تعني أن الدليل يستوفي شرط القبول المتفق عليه مسبقًا. استخدم نتائج التجربة للأداء وقابلية الاستخدام، واستخدم الوثائق التعاقدية أو التشغيلية التي جرت مراجعتها حيث تكون هي الدليل ذا الصلة. احسب النقاط بالمعادلة الوزن × الدرجة ÷ 4، ثم اجمعها بحد أقصى 100. سجّل الدليل والتحفظ بجوار كل درجة.

الدرجة الإجمالية أداة للنقاش. لا تحوّل المعلومات الناقصة إلى درجة وسطى محايدة، ولا تحدد حدًا أدنى موحدًا للنجاح. قد يحصل مرشح على مجموع مرتفع وهو يخفق في مهمة إلزامية. سجّل هذا الإخفاق صراحة، وأجّل الشراء أو ضيّق النطاق المقصود. ويلخص الشكل التالي هذا التسلسل.

ضوابط البيانات في السعودية والإمارات ومصر: أسئلة لفريقك القانوني

تحتوي صور مطالبات التأمين ووثائق الهوية وصور العملاء غالبًا على بيانات شخصية. وفي هذه الحالة يكون مزوّد خدمة الكشف عادةً جهة معالجة تعمل نيابةً عنك، وقد تنتج عن أنظمة حماية البيانات في كل سوق شروط إلزامية مباشرة. ما يلي إرشاد إلى الأسئلة التي ينبغي أن تطرحها وليس استشارة قانونية، أما التكييف القانوني للمعالجة فهو من اختصاص مسؤول حماية البيانات ومستشارك القانوني.

المملكة العربية السعودية: نظام حماية البيانات الشخصية

يعرّف نظام حماية البيانات الشخصية (الصادر بالمرسوم الملكي رقم م/19 وتاريخ 9/2/1443هـ والمعدّل بالمرسوم الملكي رقم م/148 وتاريخ 5/9/1444هـ) البيانات الشخصية تعريفًا يشمل صور الأفراد ومقاطع الفيديو الخاصة بهم، فإذا ظهر في الصور المرسلة للتحليل أشخاص يمكن تحديد هويتهم فهي بيانات شخصية. نظام حماية البيانات الشخصية، المادة 1، البند 4 (نص سدايا بالإنجليزية)

تلزم المادة 8 من النظام جهة التحكم باختيار جهات معالجة توفّر الضمانات اللازمة وبمتابعة التزامها، وتحدد المادة 17 من اللائحة التنفيذية لنظام حماية البيانات الشخصية (نص سدايا بالإنجليزية) ما ينبغي أن يتضمنه الاتفاق مع جهة المعالجة. اطلب من كل مزوّد أن يبيّن في اتفاقه:

• غرض المعالجة وفئات البيانات الشخصية ومدتها؛
• التزامه بإخطارك دون تأخير غير مبرر عند وقوع تسرب للبيانات؛
• ما إذا كان خاضعًا لأنظمة في دول أخرى، وأثر ذلك في التزامه بالنظام ولائحته؛
• هوية أي مقاولين من الباطن أو جهات أخرى ستُتاح لها البيانات، علمًا بأن اللائحة تشترط على جهة المعالجة الحصول على قبولك المسبق قبل التعاقد مع جهات معالجة فرعية.

إذا جرى التحليل خارج المملكة فإن نقل البيانات أو الإفصاح عنها إلى جهة خارج المملكة يخضع لأحكام المادة 29 من النظام ولائحة نقل البيانات الشخصية خارج المملكة (الإصدار 2.0، أغسطس 2024، نص سدايا بالإنجليزية). تشترط المادة 29 مستوى حماية مناسبًا خارج المملكة والاقتصار على الحد الأدنى من البيانات، وتنشر الجهة المختصة بموجب المادة 3 من اللائحة قائمة بالدول والمنظمات الدولية التي توفر مستوى حماية مناسبًا. وفي حالات محددة تعفي المادة 4 جهة التحكم من هذين الشرطين مع إلزامها بضمانات مناسبة، مثل البنود التعاقدية النموذجية أو القواعد الملزمة المشتركة أو شهادة الاعتماد، وتوجب المادة 7 إجراء تقييم للمخاطر قبل النقل في عدة حالات، منها الحالات المذكورة ونقل البيانات الحساسة على نحو مستمر أو واسع. اسأل فريقك القانوني عن الأساس الذي ينطبق على مدخلاتك، واطلب من المزوّد تحديد كل موقع تُعالَج فيه الملفات أو تُخزَّن.

وإذا شملت مدخلاتك صور وثائق رسمية صادرة عن جهات عامة وتُظهر هوية أصحابها، فتنص المادة 31 من اللائحة التنفيذية على أن تمتنع جهة التحكم عن تصويرها أو نسخها إلا بطلب من جهة عامة مختصة أو تنفيذًا لمتطلب نظامي، وأن توفر لها الحماية اللازمة وتتلفها عند انتهاء الغرض الذي جُمعت من أجله ما لم يوجد متطلب نظامي بالحفظ. اعرض هذه الحالة على فريقك القانوني قبل إرسال أي وثيقة هوية إلى مزوّد، واجعل التحقق من الحذف جزءًا من معايير القبول.

ولا تغفل ما هو قيد التعديل: طرحت سدايا مشروع تعديلات على اللائحة التنفيذية لاستطلاع آراء العموم في الفترة من 6 أكتوبر إلى 5 نوفمبر 2026، يقترح من بين أمور أخرى إلزام جهات التحكم بتخزين البيانات الشخصية داخل المملكة، مع بقاء النقل إلى الخارج جائزًا متى استوفى أحكام النظام ولائحته. المشروع غير نافذ، فتابع ما يستجد بشأنه قبل أن تحسم قرار شراء يعتمد على معالجة خارج المملكة. مذكرة Clyde & Co بتاريخ 8 أكتوبر 2026 (بالإنجليزية)

الإمارات العربية المتحدة

يسري المرسوم بقانون اتحادي رقم 45 لسنة 2021 في شأن حماية البيانات الشخصية منذ 2 يناير 2022. وتذكر بوابة حكومة الإمارات أنه يشمل معالجة البيانات داخل الدولة وخارجها متى جرت كليًا أو جزئيًا عبر نظم إلكترونية، وأنه يضع متطلبات لنقل البيانات الشخصية ومشاركتها عبر الحدود لأغراض المعالجة. بوابة الإمارات، قوانين حماية البيانات (بالإنجليزية) اسأل مستشارك عن حالة اللائحة التنفيذية لهذا المرسوم بقانون وعن أي أحكام تفصيلية تنطبق على قطاعك. وإن كانت جهتك مسجلة في مركز دبي المالي العالمي (DIFC) أو سوق أبوظبي العالمي (ADGM) فلكل منهما نظامه المستقل لحماية البيانات.

جمهورية مصر العربية

صدرت اللائحة التنفيذية لقانون حماية البيانات الشخصية رقم 151 لسنة 2020 بالقرار رقم 816 لسنة 2025، وبدأ العمل بها في 2 نوفمبر 2025. موقع Digital Policy Alert (بالإنجليزية) وبحسب قراءة مكتب Baker McKenzie، تنظّم اللائحة ترخيص المتحكمين والمعالجين أو تصريحهم من مركز حماية البيانات الشخصية برسوم متدرجة، ويجوز أن يشمل الترخيص أو التصريح نقل البيانات عبر الحدود، وعلى المتحكمين والمعالجين الأجانب تعيين ممثل في مصر يعتمده المركز. وقد توقّع المكتب أن تمتد مهلة توفيق الأوضاع حتى 1 نوفمبر 2026، وهو تاريخ حلّ بالفعل، فتحقق من وضع المهلة مع مستشارك. مذكرة Baker McKenzie (بالإنجليزية) هذه قراءة من مصدر ثانوي، فراجع نص اللائحة المنشور في الوقائع المصرية مع مستشار قانوني مصري قبل أن تعتمد عليها في قرار الشراء، واسأل المزوّد صراحةً عن ترتيباته للنقل عبر الحدود وللتمثيل في مصر.

معالجة الملفات في Fileverity

تُحلَّل الملفات على خوادم تشغّلها Entogo في تورنتو بكندا وتُحذف بعد اكتمال التحليل، ويبقى سجل التقرير وفيه قيمة التجزئة SHA-256 للملف المفحوص. ولا تُستخدم الملفات لتدريب نماذج الكشف أو ضبطها. تُخزَّن المرفوعات مؤقتًا في مونتريال بكندا إلى حين اكتمال التحليل، ويعمل تطبيق الويب في الولايات المتحدة. اتفاقية معالجة البيانات متاحة لعملاء الأعمال عند الطلب، والنشر الخاص متاح لعملاء Enterprise عند الطلب. تجد مواقع المعالجة وقائمة جهات المعالجة الفرعية في صفحة الثقة والأمان لتراجعها مع مسؤول حماية البيانات لديك. وإذا فعّلت خيار البحث في الويب أثناء تحليل صورة، أُرسلت نسخة مصغّرة منها إلى خدمة خارجية، وتفصّل الصفحة نفسها ذلك. هذا وصف لمعالجة الملفات وليس تأكيدًا لامتثال أي طرف لنظام من الأنظمة المذكورة أعلاه.

جرّب عيّنة صغيرة مصرّحًا بها لاختبار قابلية الاستخدام قبل التجربة الرسمية

بعد أن تؤكد المراجعة المكتبية استيفاء المتطلبات اللازمة لمشاركة الملفات، اختر عيّنة صغيرة مصرّحًا بها تشمل مدخلات اعتيادية، وحالة تتضمن مصدر قلق معروفًا ذا صلة، وملفًا قد لا يكون مناسبًا. أبقِ المواد الحساسة خارج العيّنة إلى أن تُعتمد طريقة معالجتها. الهدف اكتشاف عدم الملاءمة الواضحة في مسار العمل بتكلفة منخفضة، وليس الترويج لمعدل نجاح مستخلص من عدد قليل من الصور.

اطلب من المراجِعين المقصودين استخدام الواجهة أو التكامل الذي سيعتمدونه فعلًا. هل يستطيعون تحديد المدخل، وشرح المخرج، والتمييز بين النتيجة غير الحاسمة والنتيجة السلبية، وكتابة طلب الدليل التالي؟ سجّل مواضع الارتباك والوقت الذي تستغرقه معالجة كل حالة. فإن أخفقت الواجهة أو دعم المدخلات في هذا الاختبار فعالج المشكلة قبل الاستثمار في مقارنة رسمية للدقة.

اسأل عمّا قاسه رقم الدقة في كاشف الصور فعلًا

اطلب تحديد مجتمع الاختبار وتعريف التصنيف والعتبة وإصدار المنتج والمقامات. قد تُخفي كلمة «الدقة» ما إذا كانت العيّنة صورًا فوتوغرافية في معظمها أم صورًا مولّدة في معظمها. اسأل بصورة منفصلة: كم حالة إيجابية ذات صلة عُلِّمت، وكم حالة مشروعة عُلِّمت، وكم مدخلًا لم يحصل على تقييم صالح للاستخدام.

تساعد الأبحاث المنشورة على توضيح أهمية النطاق. تقيّم دراسة CIFAKE مهمة تصنيف ثنائي محددة باستخدام صور حقيقية وصور منتجة بنماذج الانتشار الكامن تعكس فئات CIFAR-10. نتيجتها المعلنة دليل على تلك التجربة، وليست قياسًا لخدمة تجارية على صور العملاء أو التعديلات الموضعية أو مسارات العمل غير المألوفة. دراسة CIFAKE (Bird and Lotfi)

لكل رقم يقدمه مزوّد، احصل على تفاصيل كافية لإعادة بناء الادعاء: عدد الحالات الإيجابية والسلبية، وعدد الأخطاء، وطريقة معاملة الملفات المستبعدة. اسأل ما إذا كانت نسخ مرتبطة بالصورة المصدر نفسها قد ظهرت في بيانات التطوير والتقييم معًا. وإن تعذّر على المزوّد الإفصاح عن مجموعة بياناته فاطلب وصفًا يكفي لتقدير مدى صلتها، واحتفظ بمجموعة اختبار خاصة بك محجوزة لتكون فحصًا مستقلًا.

اتفق على قاعدة مقارنة موحدة. من الخيارات المفيدة ميزانية ثابتة لمعدل الإيجابيات الكاذبة: قارن الاستدعاء (recall) الذي يحققه كل مرشح ضمن هذه الميزانية. وخيار آخر هو هدف استدعاء ثابت: قارن معدل الإيجابيات الكاذبة وحجم المراجعة اللازم لبلوغه. اختر القاعدة قبل الاطلاع على النتائج النهائية، وبيّن مدى عدم اليقين في التقديرات. ولا يمثّل رقم عتبة الدرجة نفسه عبر خدمات مختلفة نقطة تشغيل مشتركة، لأن مقاييس الدرجات قد تختلف.

اختر العتبات باستخدام بيانات التطوير، ثم قيّم الإعدادات المجمّدة على المجموعة المحجوزة. فإن كانت الخدمة لا تتيح التحكم في العتبة فقيّم إعدادها المتاح وبيّن ما إذا كان يستوفي القيد المختار، ولا توحِ بأن جميع المرشحين اختُبروا عند معدل خطأ مماثل. ويشرح دليل العتبة في scikit-learn (بالإنجليزية) الفرق بين الدرجات والقرارات المبنية على عتبة، والحاجة إلى بيانات منفصلة لضبط العتبة.

الدرجة 0.9 لا تعني تلقائيًا احتمالًا بنسبة 90% بأن الصورة مولّدة. اسأل عن تعريفها وعن الدليل على أي تفسير احتمالي. ويشرح دليل الدقة والإيجابيات الكاذبة المقامات والمعايرة ومقايضات العتبة بالتفصيل.

التقييم الرسمي: ابنِ تجربة بتصنيفات مرجعية يمكن الدفاع عنها

استخدم مواد مصرّحًا بها ذات أصل موثّق. بالنسبة إلى الصور الفوتوغرافية احتفظ بسجلات الالتقاط أو الحصول عليها حيثما توفرت. وبالنسبة إلى الأمثلة المولّدة أو المعدّلة احتفظ بسجلات الإنشاء ووصف ما تغيّر. تنبؤ كاشف آخر ليس تصنيفًا مرجعيًا مستقلًا. ضع الملفات غير المعروفة الأصل في مجموعة استكشافية منفصلة بدل إدراجها قسرًا في حساب الدقة الرئيسي.

أنشئ مجموعتين متكاملتين. المجموعة التشخيصية تضم عمدًا أمثلة كافية من كل مهمة رئيسية لكشف مواطن الإخفاق. العيّنة التشغيلية تقارب مزيج العمل الوارد وجودته لتقدير حجم قائمة انتظار المراجعة والوقت الذي يستغرقه التعامل مع كل حالة. لا ينبغي استخدام مجموعة تشخيصية متوازنة للتنبؤ المباشر بوتيرة التنبيهات الفعلية عندما يختلف عنها مزيج المدخلات الحقيقية.

افصل اختيار العتبة عن التقييم النهائي. ضع كل صورة أصلية ونسخها المرتبطة في الجزء نفسه من التقسيم، ثم جمّد ملفات التقييم والإعدادات قبل المقارنة. اعرض على المراجِعين الأوليين المعلومات السياقية نفسها لجميع المرشحين، لكن أخفِ التصنيفات المرجعية إلى أن تُسجَّل تقييماتهم. واحتفظ بمخرجات الخدمة الخام قبل مناقشتها مع المزوّد.

مجموعة تشخيصية افتراضية من 1,000 صورة لمسار عمل صور مطالبات المركبات؛ وليست حجم عيّنة موصى به ولا مزيج مدخلات محددًا.

وسّم كل ملف بصيغته ومصدره وموضوعه وظروف تسليمه لتتمكن من فحص المجموعات الفرعية المهمة. قد تكشف مجموعة فرعية صغيرة مشكلة خطيرة، لكنها قد تكون أصغر من أن تقدّر معدل خطئها بدقة. أبلغ عن غياب الأخطاء المرصودة مع ذكر المقام، ولا تروّج له دليلًا على أن معدل الخطأ صفر.

المبدأ التقني: قِس المقايضة بين المخاطرة والتغطية

يستطيع النظام أن يقلل الأخطاء بين الحالات التي يجيب عنها بترك الحالات الأصعب دون حسم. قد يكون ذلك تصميمًا معقولًا، لكنه يغيّر طريقة تفسير «الدقة» عند الشراء. الإطار التقني هو التنبؤ الانتقائي (selective prediction): قيّم كلًا من نسبة الحالات المؤهلة التي حصلت على تقييم حاسم، ومعدل الخطأ داخل المجموعة التي جرى تقييمها. يُسمّى المقياسان التغطية (coverage) والمخاطرة الانتقائية (selective risk). ورقة SelectiveNet (Geifman and El-Yaniv, ICML 2019)، القسم 2 (بالإنجليزية)

في مجموعة تقييم ذات تصنيفات مرجعية، ليكن N عدد الحالات المؤهلة، وA عدد الحالات التي حصلت على تقييم حاسم، وE عدد التقييمات الخاطئة بينها. عندئذ coverage = A / N وselective error = E / A. وإذا كانت A = 0 فالنسبة الأخيرة غير معرّفة وليست صفرًا.

تعرض النتائج الافتراضية التالية ثلاث نقاط تشغيل على مجموعة التقييم نفسها المكوّنة من 1,000 حالة. وهي تفترض اكتمال جميع الطلبات وأهلية جميع الحالات، فلا يتألف الباقي غير المقيَّم إلا من حالات غير محسومة.

تبلغ دقة النقطة الأولى 99% بين الحالات المجاب عنها، لكنها تترك نصف المدخلات دون حسم. وفي الانتقال من النقطة المتوسطة إلى الأوسع تغطية تُضاف 150 إجابة و33 خطأً في هذه المجموعة الافتراضية. فمعدل الخطأ في المجموعة المضافة إذن 33 / 150 = 22%، بافتراض أن الحالات المقيَّمة عند التغطية الأقل جزء من الحالات المقيَّمة عند التغطية الأعلى. يكشف هذا الحساب الهامشي مقايضة تخفيها المتوسطات المعلنة، ويوضح الشكل التالي النقاط الثلاث.

الفصل بين التقييمات غير المحسومة والفاشلة وغير القابلة للتطبيق أحد المبادئ المعتمدة في تحليل الصور في Fileverity. يوفّر التنبؤ الانتقائي إطارًا لتقييم هذه النتائج، وليس وصفًا لبنية نموذج Fileverity. ينبغي الإبلاغ عن الطلب الفاشل أو المدخل غير المدعوم بصورة منفصلة، لا أن يُصنَّف من جديد على أنه تقييم مكتمل غير محسوم أو نتيجة سلبية.

عند اتخاذ قرارات الشراء، قارن المزوّدين عند تغطية أو ميزانية خطأ متفق عليها، واحسب جهد المراجعة المتبقي. افصل الأخطاء إلى إيجابيات كاذبة وسلبيات كاذبة لأن تكلفتهما تختلف. ولا يفيد انخفاض الخطأ الانتقائي إلا إذا اقترن بمستوى تغطية وعبء حسم يقبلهما فريقك.

احسب المدخلات غير المحسومة وجهد المراجعة

أبقِ حالات النتيجة صريحة: مُعلَّم، وغير مُعلَّم، وغير حاسم، وغير مدعوم، وفشل تقني. النتيجة غير الحاسمة تعني أن الخدمة لم تبلغ التقييم المقصود، والفشل التقني يعني أن التقييم لم يكتمل. ولا ينبغي أن يتحول أي منهما بصمت إلى «أصيل».

أبلغ عن معدل الإيجابيات الكاذبة على المدخلات السلبية المعروفة المؤهلة، وعن معدل الكشف على المدخلات الإيجابية المعروفة المؤهلة، مع بيان ما إذا كانت الحالات غير المحسومة قد استُبعدت. وأبلغ كذلك عن نسبة الكشف الإجمالية (end-to-end detection yield): الحالات الإيجابية ذات الصلة التي عُلِّمت مقسومة على جميع الحالات الإيجابية ذات الصلة المرسلة. تكشف هذه المقاييس معًا خدمة تؤدي جيدًا على مجموعة ضيقة مقيَّمة بينما تترك جزءًا كبيرًا من حجم العمل دون تقييم.

قِس مسار المراجعة كاملًا. سجّل الوقت المستغرق في فتح الحالة وفهم المخرج والتحقق من الأدلة المساندة وطلب ملف آخر وإغلاق الحالة أو تصعيدها. ووثّق الخلاف بين المراجِعين. النتيجة التي تبدو دقيقة لكنها تقود مرارًا إلى استنتاجات لا يسندها دليل مشكلة في قابلية الاستخدام، حتى لو كان أداء النموذج المصنِّف الأساسي جيدًا.

في المقارنة أدناه، يعلّم كل من المرشحين الافتراضيين 80 صورة مستهدفة ويفوته 20 صورة. الفارق في الإنذارات الكاذبة. تخضع كل حالة معلَّمة لمراجعة واحدة، ولا توجد مدخلات أخرى غير محسومة. وتعني «الحالة» في الشكل هنا صورة واحدة، لا طلبًا متعدد الصور.

مقارنة افتراضية: 1,000 صورة جرى تقييمها، منها 100 حالة إيجابية مستهدفة و900 حالة سلبية؛ ثماني دقائق لكل تنبيه، وأجر عمل مفترض قدره 120.00 ر.س للساعة. لا تشمل المقارنة رسوم البرنامج ولا تكلفة الحالات الفائتة. المبالغ للتوضيح فقط، فاستبدل بها أجر فريقك الفعلي وعملتك.

نسبة الكشف الإجمالية لدى المرشحين متطابقة وتبلغ 80%، لكن المرشح B يولّد 27 مراجعة إضافية. وبحسب الافتراضات المذكورة يعني ذلك 216 دقيقة إضافية و432.00 ر.س تكلفة مراجعة إضافية لكل 1,000 صورة. ولا يصبح B أقل كلفة في مجموع سعر البرنامج وتكلفة المراجعة إلا إذا غطّى انخفاض سعر برنامجه هذه التكلفة الإضافية. أضف تكلفة الحالات الفائتة والتأخير وإعادة الإرسال لتلائم المقارنة مدخلاتك. ويلخص الشكل التالي المقارنة.

افحص الأدلة التي يستطيع المراجِع الاحتفاظ بها

اطلب مخرجات تمثيلية تغطي حالة معلَّمة، ونتيجة سلبية اعتيادية، وتقييمًا غير حاسم، وطلبًا فاشلًا. تأكد من أن المراجِع يستطيع ربط كل نتيجة بالملف المرسَل ووقت المعالجة ومعرّف إصدار الخدمة إن كان متاحًا. واحتفظ، حيثما كان ذلك مناسبًا، بقيمة التجزئة (Hash) للملف للتمييز بين الملف نفسه ونسخ مشابهة له؛ فهي لا تثبت أن المشهد صادق.

إن ظهرت خريطة حرارية (heatmap) فاسأل ما إذا كانت تصوّر انتباه النموذج أم تنبؤًا بتحديد الموضع أم مقدارًا آخر. اشترط مفتاحًا توضيحيًا وشرحًا واضحًا للقيود. ولا تتعامل مع التركيز البصري على أنه تأكيد مستقل لوجود تعديل.

اختبر قدرة المراجِعين على كتابة سجل محدود: «علّمت الخدمة الصورة المرسلة لاحتمال وجود محتوى مولّد. طُلب الملف الأصلي وصور مساندة. لم يُتوصَّل إلى استنتاج بشأن المعاملة». يفصل هذا بين المخرج المرصود والاستدلال والخطوة المؤكِّدة والإجراء التجاري.

تحقق من معالجة البيانات والسلوك التشغيلي

اطلب من الجهات الداخلية المعنية مراجعة مواقع المعالجة وجهات المعالجة الفرعية وضوابط الوصول والاحتفاظ بالبيانات وشروط استخدام البيانات في التدريب. واطلب إجابات بحسب فئة البيانات: الملفات المرفوعة الأصلية، والمعاينات، والبيانات الوصفية المستخرجة، والنتائج، وسجلات التطبيق، والنسخ الاحتياطية. عبارة «نحذف الملفات» ناقصة ما لم تحدد ما يُحذف ومتى وما الذي يبقى.

إذا كان الحذف أو تقييد الوصول مطلوبًا فاجعل التحقق منه جزءًا من القبول. واحصل على توضيح مكتوب عن وصول فريق الدعم وعن إخطار الحوادث. وإن كنت جهة تحكم خاضعة للنظام السعودي فتذكّر أن المادة 24 من اللائحة التنفيذية (نص سدايا بالإنجليزية) تلزمك بإخطار سدايا خلال 72 ساعة من العلم بحادثة يُحتمل أن تضر بالبيانات الشخصية أو بأصحابها أو بحقوقهم ومصالحهم، فاشترط على المزوّد التزامًا مكتوبًا بإخطارك دون تأخير.

اختبر التكامل الفعلي الذي تنوي استخدامه في حالات منها: ملف غير مدعوم، وانتهاء المهلة، وإرسال مكرر، وبلوغ حد السعة، ووصول النتيجة بعد أن يكون سير العمل الذي طلبها قد توقف عن الانتظار. وأكّد أي المحاولات تُحتسب في الفاتورة. وإن كنت تحتاج إلى واجهة API فأكّد توفرها في الباقة المعروضة؛ ويغطي دليل اختيار واجهة API للكشف عن الذكاء الاصطناعي مراجعة التكامل هذه في عشرة فحوص.

اتفق على كيفية إبلاغك بتغييرات المنتج. قد يؤثر تغيير في العتبة أو النموذج أو المعالجة المسبقة في قابلية المقارنة مع التجربة. اطلب أن يكون إصدار الخدمة ظاهرًا لك حيثما أمكن، وحدد متى تعيد فحوص القبول. واحتفظ بإجراء بديل لحالات التعطل، وبمسؤول معيَّن بالاسم يستطيع إيقاف التوجيه الآلي إذا تعذّرت إدارة حجم المراجعة.

اتخذ قرار شراء محدد النطاق

أدرج في نموذج التكلفة رسوم الاشتراك والاستخدام وأعمال التكامل والمراجعة اليدوية وإعادة الإرسال وفحوص الجودة المستمرة. استخدم حجم العمل نفسه لكل مرشح وأظهر الافتراضات. وتجنّب احتساب الخسائر المفترض منعها كأنها وفورات مضمونة.

ينبغي أن يذكر سجل القرار المهمة المعتمدة والاستخدامات المستبعدة ونتائج الشروط الإلزامية والأدلة التي سُجّلت درجاتها ونتائج التجربة والقيود التي لم تُحسم والمسؤولين. حدّد حجم النشر الأولي والأحداث التي تستدعي إعادة التقييم. وقد تكون الموافقة المحدودة المشروطة مناسبة حين تكون إحدى المهام مدعومة وتفتقر أخرى بعدُ إلى الدليل.

تعامل مع التقييم بوصفه مسؤولية مستمرة: راجع الاستخدام المعتمد حين تتغير النماذج أو المدخلات أو ظروف التشغيل. ويضع إطار NIST الطوعي لإدارة مخاطر الذكاء الاصطناعي التقييم ضمن عملية إدارة المخاطر الأوسع. نظرة عامة على إطار NIST AI RMF (بالإنجليزية)

ما الذي ترسله إلينا

أرسل ما يلي إلى Fileverity وإلى أي مزوّد آخر في قائمتك المختصرة؛ وسنجيب عن كل صف بحسب مدخلاتك وإصدار المنتج. املأ بيانات المشتري، واطلب ردًا مؤرَّخًا مرتبطًا بالباقة المعروضة وإصدار المنتج.

أرسل الطلب المكتمل إلى Fileverity وسنجيب عن كل صف بحسب مدخلاتك: ما يمكن إثباته الآن، وما يحتاج إلى تجربة على ملفاتك، وما يقع خارج النطاق المعروض. احتفظ بالرد بجوار مصفوفة التغطية والأسعار الحالية المعروضة بالدولار الأمريكي، ليستند شراؤك إلى حجم العمل والمتطلبات نفسها التي قيّمتها. تحلل Fileverity الملفات على خوادم تشغّلها Entogo في تورنتو بكندا وتحذفها عند اكتمال التحليل. وتوضح صفحة الثقة والأمان معالجة البيانات، ومنها النشر الخاص لعملاء Enterprise عند الطلب.

بقلم Yang Zheng · مراجعة Bill Liu