وثيقة متوقفة للمراجعة وختم لم يستخدم بعد، رمز للمراجعة البشرية قبل التنفيذ

الإنسان في حلقة العمل: كيف تصبح المراجعة البشرية فعّالة؟

· مصطلح الذكاء الاصطناعي

Human-in-the-loop (HITL) — إشراك الإنسان في مراحل حاسمة من عمل النظام

قد يكتب المساعد الذكي مسودة جيدة، ثم يخطئ في معلومة صغيرة تغيّر معناها. لذلك نحتاج أحيانًا إلى إنسان يراجع النتيجة أو يقرر الخطوة التالية. لكن قيمة هذه المراجعة تتوقف على ما يراه المراجع، وما يفهمه، وما يستطيع تغييره. هذا هو المدخل العملي لفهم «الإنسان في حلقة العمل».

الفكرة من خلال مثال في الترجمة

لنفترض أن مترجمًا يستعمل مساعدًا لإعداد نسخة عربية من خبر فرنسي. ورد في الأصل أن مؤسسة تدرس إطلاق خدمة، بينما تقول المسودة إنها أطلقتها بالفعل. يتوقف العمل قبل النشر، ويظهر الأصل بجانب الترجمة، فيصحح المترجم الفعل ويحفظ النسخة المعتمدة. هنا أثّرت مراجعته في النتيجة قبل وصولها إلى القراء.

أما إذا نُشر الخبر أولًا، ثم تلقى المترجم إشعارًا يتيح له قراءته، فهذه مراجعة لاحقة قد تساعد على التصحيح، لكنها لا تمنع الخطأ الأول. يوضح الفرق أن توقيت التدخل جزء من تصميم العمل. وهذا مثال تعليمي من التحرير، وليس واقعة موثقة أو اختبارًا لمنتج محدد.

ما المقصود بالإنسان في حلقة العمل؟

يشير المصطلح إلى ترتيب يشارك فيه الإنسان داخل مسار عمل النظام، فيقدم معلومة لازمة، أو يصحح مقترحًا، أو يعتمد إجراءً، أو يرفضه. في التطبيقات التي نتناولها هنا، لا يكتمل الجزء المحدد من المهمة دون هذا التدخل. وقد يحدث ذلك مرة واحدة عند الاعتماد، أو مرات متعددة كلما ظهرت مسألة تحتاج إلى حكم مهني.

ولا يقتصر استعمال الفكرة على المساعدات الحديثة؛ فقد يشارك الإنسان أيضًا في وسم بيانات التدريب أو مراجعة تنبؤات نموذج. لذلك لا نقدمها بوصفها اختراعًا جديدًا. موضوع المقال أضيق: كيف نصمم تدخلًا مفيدًا أثناء استخدام المساعد، خصوصًا حين ينتقل من اقتراح نص إلى فعل يؤثر في الآخرين؟

ما الفرق بين التدخل والمراقبة؟

في التدخل داخل سير العمل، ينتظر النظام جواب المراجع عند نقطة معينة. أما المراقبة، فقد تسمح للنظام بالاستمرار مع قدرة المشرف على الإيقاف أو التدخل عند الحاجة. وفي التدقيق اللاحق، تُفحص أعمال أُنجزت بالفعل لاكتشاف الخلل وتحسين الإجراءات. تختلف هذه الترتيبات في توقيت السيطرة، ولا يؤدي أحدها جميع وظائف الآخر.

كذلك تختلف المراجعة البشرية عن اختبارات التقويم. فالاختبارات تفحص أداء الأداة على حالات منتقاة، بينما تفحص المراجعة حالة فعلية قبل اعتمادها أو أثناء معالجتها. وتختلف عن ضبط الصلاحيات: قد يستطيع المراجع رفض رسالة، لكن ذلك لا يعوّض منع الأداة أصلًا من الوصول إلى ملفات لا تحتاج إليها. هذه ضوابط تتكامل بحسب المهمة.

لماذا تزداد أهمية المسألة الآن؟

عندما تكتفي الأداة بعرض مسودة، يبقى تنفيذها خطوة مستقلة. وحين تُربط بالبريد أو النشر أو تحديث السجلات، يصبح اختيار موضع التوقف أكثر أهمية. وتعرض وثائق LangChain المتاحة عند مراجعتها في 23 أكتوبر 2026 آلية توقف استدعاء الأداة وتتيح اعتماد المقترح أو تعديله أو رفضه. هذه قدرة تقنية موثقة لدى المطور، وليست دليلًا مستقلًا على جودة كل نظام يستخدمها. [1]

وتشرح وثائق LangGraph حفظ حالة العمل واستئنافه بعد التدخل. كما تنبه إلى أن الاستئناف قد يعيد تشغيل الشيفرة السابقة لنقطة التوقف داخل المرحلة نفسها. [2] ومن ثم ينبغي اختبار ما إذا كانت إعادة المحاولة ستكرر أثرًا سابقًا. لا يكفي أن تظهر نافذة انتظار؛ المهم أن يتوقف الإجراء المطلوب فعلًا، وأن يستأنف المسار الصحيح بعد القرار.

وجود الإنسان لا يضمن تحسن النتيجة

حللت ميشيل فاكارو وعبد الله المعتوق وتوماس مالون 106 دراسات تجريبية في مراجعة منشورة بمجلة Nature Human Behaviour في 28 أكتوبر 2024. لم يتفوق الجمع بين الإنسان والذكاء الاصطناعي، في المتوسط، على الأفضل منهما منفردًا في الأبعاد المقيسة، مع اختلاف النتائج بحسب نوع المهمة. وشملت الدراسات فترة تنتهي في يونيو 2023؛ فلا تمثل اختبارًا شاملًا لأدوات اليوم. [3]

وتطرح إعادة تحليل ليوليان برغر وزملائه، في نسخة مؤرخة 26 أغسطس 2026، دورًا محتملًا لتعلّم المشاركين من نتائج قراراتهم. ارتبط توفير تغذية راجعة بنتائج أفضل نسبيًا، لكن الباحثين يطلبون تجارب مباشرة للوصول إلى استنتاجات سببية أقوى. قرأنا الملخص وسجل النسخ، ولم نتحقق من تحكيم هذه المسودة. [4]

نستخلص من ذلك أن نجاح المراجعة مسألة تحتاج إلى قياس. فقد يصحح المراجع خطأ، وقد يفسد جوابًا صحيحًا، وقد يضغط الموافقة دون فحص. ولا تعني مقارنة الدقة وحدها أن بقية الاعتبارات، مثل المسؤولية المهنية وحماية البيانات، أصبحت غير مهمة. ينبغي تحديد الغرض من التدخل قبل الحكم على فائدته.

ما الذي يحتاج إليه المراجع؟

نقترح أن تعرض مهمة المراجعة ثلاثة أشياء واضحة: ما الذي سيحدث، وما المادة التي يستند إليها المقترح، وما مواضع النقص أو الشك المعروفة. ففي الترجمة يحتاج المراجع إلى الأصل والمقابل والسياق، لا إلى النص المصقول وحده. وفي النشر يحتاج إلى معرفة المنصة والجمهور والنسخة التي ستظهر فعلًا.

ويحتاج أيضًا إلى وقت يناسب حجم المهمة، وخبرة مناسبة، وخيار حقيقي للتعديل أو الرفض أو الإحالة إلى مختص. فإذا أُلزم بقبول عشرات المقترحات سريعًا دون الاطلاع على مصادرها، أصبحت مسؤوليته أكبر من قدرته على الفحص. ويفضل توزيع المراجعة بحسب الاختصاص؛ فسلامة اللغة لا تثبت صحة الرقم، والخبرة التقنية لا تعوّض معرفة سياق الخبر.

وينبه دليل NIST للذكاء الاصطناعي التوليدي، الصادر في يوليو 2024، إلى الإفراط في الاعتماد على النظام والتحيز إلى مخرجاته. [5] لذلك نقترح، في الحالات المناسبة، أن يحدد المراجع معيار الحكم من المصدر قبل قراءة اقتراح الأداة، ثم يفسر أسباب الاتفاق أو الاختلاف. هذا إجراء مقترح يحتاج إلى اختبار، وليس علاجًا مضمونًا للتحيز.

تطبيق في الصحافة والتواصل

في مثال صحفي افتراضي، يقترح المساعد عنوانًا وفقرة عن دراسة علمية. يراجع المحرر الإسناد إلى الباحثين وحدود العينة، ثم يعتمد نسخة محددة. إذا تغير العنوان لاحقًا إلى صياغة تحمل ادعاءً أقوى، نوصي بإعادة عرض التغيير قبل النشر. فالموافقة على نص سابق لا تشمل تلقائيًا كل ما يمكن أن يتولد بعده.

وفي مثال من التواصل، يجهز المساعد ردًا على شكوى. تتضمن شاشة المراجعة نص الرسالة، والجهة المتلقية، والمرفقات، وأي موعد أو التزام وارد فيها. قد تكون النبرة مناسبة بينما يكون المستلم خطأً أو المرفق غير ملائم. لذلك ترتبط الموافقة بالإجراء وتفاصيله، ولا تختزل في الإعجاب بالصياغة.

ونقترح إبقاء المهمة معلقة عند غياب المسؤول أو انتهاء مدة المراجعة المحددة، مع مسار واضح لإحالتها إلى بديل مخوّل. لا ينبغي تفسير الصمت على أنه موافقة في إجراء صُمم أصلًا لانتظار الاعتماد. هذه اختيارات تصميمية للأمثلة المذكورة، وليست وصفًا لخدمات مفعلة في الموقع أو قواعد عامة لكل الأعمال.

خطوات لتجربة محدودة ومفيدة

نبدأ بتحديد نقطة القرار: هل نحتاج إلى تفسير مصطلح ملتبس، أم اعتماد نص، أم السماح بإرساله؟ ثم نعين المراجع والمواد التي يحق له رؤيتها، ونكتب خياراته ونتيجة كل خيار. ونختبر أولًا حالات مصطنعة، منها مقترح صحيح، وآخر خاطئ، وثالث لا تكفي المعلومات لحسمه.

بعد ذلك نفحص الرفض والتعديل والتأخر والتعطل، لا الموافقة وحدها. هل بقي النص المرفوض بلا نشر؟ هل نُفذت النسخة المعدلة نفسها؟ هل يمكن استعادة المهمة دون تكرار الإرسال؟ ونحتفظ بسجل مناسب يوضح النسخة والقرار وسببه، مع تقليل البيانات الشخصية وتقييد الوصول إليها.

تشمل المقارنة زمن المراجعة، والأخطاء التي كُشفت والتي فاتت، والتعديلات التي أدخلت خطأً جديدًا، ومدى فهم المراجع لما اعتمده. وإذا زاد عدد النقرات دون تحسن معتبر، نراجع موضع التدخل وطريقة عرض المعلومات. ليست الغاية إقحام الإنسان في كل خطوة، بل تمكينه من حكم مفيد في الموضع الذي يحتاج إليه العمل.

المصادر وحدود الاعتماد

مقالات مرتبطة

كتاب أن تصبح مترجمًا