حجرة فحص للوثائق توقف خيطًا دخيلًا، رمز للفصل بين البيانات والتعليمات غير المأذونة

حقن التعليمات: عندما يحاول النص تغيير مهمة المساعد

· مصطلح الذكاء الاصطناعي

Prompt Injection — حقن التعليمات

تطلب من مساعد ترجمة رسالة، فيجد داخلها عبارة تطلب منه ترك الترجمة وكتابة جواب مختلف. هل يترجم العبارة بوصفها جزءًا من الرسالة، أم ينفذها؟ يساعد هذا المثال على فهم حقن التعليمات: محاولة جعل الكلام الذي يعالجه المساعد يتحكم في عمله. تزداد أهمية المسألة حين يستطيع المساعد البحث في الملفات أو إرسال الرسائل أو النشر.

الفكرة من خلال مثال في الترجمة

لنفترض أن مترجمًا يعمل على نص تدريبي خالٍ من بيانات العملاء. يطلب من المساعد نقل النص كاملًا إلى الفرنسية. وفي وسطه عبارة تقول، بمعناها العام، إن على المساعد تجاهل المهمة وإضافة توصية لا صلة لها بالمحتوى. هذا مثال تعليمي من إعداد التحرير، ولم نختبره على منتج معين.

المطلوب هو ترجمة العبارة كما يقتضي النص، مع بقاء تعليمات العمل صادرة عن المستخدم. فإذا أطاعها المساعد وغير مهمته، فقد خلط بين المادة المطلوب معالجتها والطلب الذي يحكم المعالجة. يشبه الأمر أن يقرأ المترجم في رسالة أمرًا بإغلاق الباب؛ ينقل معناه إلى اللغة الأخرى، ولا يصبح الأمر تكليفًا شخصيًا له.

ولا ينبغي حذف كل جملة أمر تلقائيًا. فقد يكون النص دليل استعمال أو حوارًا أو مادة صحفية عن الاحتيال. الحماية الجيدة تحافظ على أمانة النقل، وتمنع انتقال العبارة من موضع المحتوى إلى موضع التعليمات. ويمكن للمراجع تسجيل وجود توجيه مشبوه في ملاحظة منفصلة إذا كان ذلك داخل نطاق المهمة.

ما المقصود بحقن التعليمات؟

يقابل المصطلح العربي عبارة Prompt Injection، ويُسمى أيضًا حقن الأوامر. وهو محاولة التأثير في سلوك نموذج لغوي بإدخال تعليمات تتعارض مع المهمة أو القواعد التي يفترض أن يتبعها. توضح OWASP أن المدخل قد يأتي مباشرة من المستخدم، أو بصورة غير مباشرة عبر موقع أو ملف يقرأه النظام. [1]

في الصورة المباشرة، يكتب الشخص للمساعد طلبًا يحاول تغيير الحدود المفروضة عليه. وفي الصورة غير المباشرة، يطلب المستخدم عملًا مشروعًا، مثل تلخيص صفحة، بينما تأتي التعليمات المضللة من داخل الصفحة نفسها. وقد يثق المستخدم بالمساعد، لكنه لا يتحكم في كل ما كتبه أصحاب المصادر الخارجية.

والكلمة هنا لا تعني بالضرورة اختراق الجهاز أو تغيير البرنامج. قد يكون الأثر مجرد ملخص منحاز أو معلومة حُذفت بناءً على توجيه مزروع. وقد يمتد إلى فعل خارجي إذا كان للمساعد أدوات وصلاحيات. لذلك يتوقف حجم الضرر على ما يستطيع النظام الوصول إليه وتنفيذه، إلى جانب استجابته للنص. [1]

ما الفرق عن الهلوسة وتجاوز ضوابط النموذج؟

الهلوسة هي أن ينتج النظام معلومة غير صحيحة أو غير مستندة إلى دليل كافٍ. يمكن أن يحدث ذلك من دون أن يحاول أحد تضليله. أما حقن التعليمات فيتعلق بتوجيه يدخل إلى النظام ويؤثر في مساره. وقد ينتهي الاثنان إلى خبر خاطئ، لكن معرفة السبب تساعد على اختيار المعالجة المناسبة.

ويُستعمل مصطلح تجاوز ضوابط النموذج، المعروف بالإنجليزية باسم Jailbreaking، لمحاولات دفعه إلى مخالفة قيود سلوكية أو أمنية. تتداخل هذه المحاولات مع حقن التعليمات في بعض الحالات، لكن المصطلحين لا يصفان الشيء نفسه دائمًا. فقد يستهدف الحقن تغيير عنوان خبر أو إخفاء سطر من ملخص، دون طلب محتوى تحظره سياسات النموذج. [2]

كما أن وجود معلومة كاذبة داخل وثيقة لا يجعلها تلقائيًا حقنًا للتعليمات. الخبر المضلل قد يحاول إقناع القارئ بواقعة زائفة، بينما يحاول التوجيه المزروع تغيير ما يفعله المساعد. وقد يجتمع الأسلوبان. ولهذا يحتاج العمل الصحفي إلى التحقق من صحة المعلومات ومن طريقة استعمال النظام للمصادر، مع فحص كل جانب على حدة.

لماذا يهمنا الآن؟

ليست المشكلة اختراعًا ظهر هذا الأسبوع. فقد قدم بحث AgentDojo سنة 2024 بيئة لاختبار وكلاء يستعملون أدوات ويعالجون بيانات غير موثوقة. تضم البيئة مهام وحالات أمنية قابلة للتوسيع، وتبين من ملخص البحث أن نجاح العمل ومقاومة الهجوم مسألتان تحتاجان إلى اختبار منفصل. اعتمدنا الملخص وبيانات النسخة الثالثة، لا المتن كاملًا. [3]

ما يزيد أهمية الموضوع هو اتساع دور المساعد. فالنص الذي كان يؤثر في جواب داخل المحادثة قد يؤثر اليوم في اختيار ملف أو إعداد رسالة أو اقتراح نشر مادة. وفي مقال بتاريخ 9 أبريل 2026، تؤكد Anthropic أن الحماية تحتاج إلى طبقات، وأن إجراءاتها مجتمعة لا تقدم ضمانًا كاملًا. هذه إفادة من مطور عن تصميم منتجاته، وليست شهادة مستقلة بأمانها. [4]

وتضيف ورقة لزهووين ليو، مودعة في 2 أكتوبر 2026، سؤالًا مفيدًا: هل تبقى أداة الكشف جيدة عندما تتغير طبيعة البيانات والاختبار؟ يشير ملخصها ومقدمتها إلى ضعف انتقال بعض نتائج الكشف بين البيئات، وإلى أهمية قياس الإنذارات الخاطئة. لم نتحقق من تحكيم الورقة أو نكرر تجاربها؛ ونستفيد منها كتنبيه بحثي، دون اعتماد ترتيب لأدوات الكشف خارج اختبارها. [5]

مثال من الصحافة والتواصل

في سيناريو تعليمي مقترح، يطلب محرر تلخيص بلاغ منشور على موقع خارجي. تتضمن الصفحة فقرة تخاطب المساعد وتطلب تقديم الجهة الناشرة بصورة إيجابية، مهما كان مضمون البلاغ. إذا استجاب لها، فقد تصبح المادة دعاية بدل أن تكون ملخصًا أمينًا. لا نعرض هذه الحالة بوصفها واقعة حدثت في صحيفة بعينها.

يبدأ العمل الصحيح بتثبيت المطلوب: استخراج موضوع البلاغ، والقرارات الواردة فيه، وتاريخه، والجهة المسؤولة عنه. تُنسب الآراء إلى أصحابها، وتُربط المعلومات بالمصدر. وإذا وجدت الصفحة تعليمات تخاطب الأداة، تُعامل بوصفها جزءًا من الصفحة، دون منحها سلطة على طلب المحرر.

وفي التواصل مع العملاء، قد تصل رسالة تتضمن توجيهًا للمساعد لعرض معلومات لا يحتاجها الرد. هنا يفيد فصل إعداد المسودة عن إرسالها، وإتاحة المعلومات اللازمة فقط. ويراجع الموظف الرد والمستلم والمرفقات قبل الإرسال. لا يكفي أن تبدو الرسالة النهائية مهذبة؛ فقد تكون المشكلة في مصدر معلومة أو في ملف أُرفق بها.

كيف نحمي العمل من دون إفساد النص؟

توصي إرشادات OWASP بتوضيح مصادر المحتوى، وتقليل الصلاحيات، والتحقق من المخرجات، ومراجعة الأفعال المؤثرة. ويوضح الدليل الإرشادي أن الفصل بعناوين نصية وحده ليس حاجزًا أمنيًا يفرضه البرنامج. لذلك تفيد عبارة «هذا نص للترجمة» في تنظيم المهمة، لكنها لا تكفي لضمان الحماية. [1، 2]

يستطيع المستخدم البدء بخطوات واضحة: يقدم المادة منفصلة عن طلبه، ويحدد الناتج المطلوب، ويطلب إظهار مواضع الشك. وإذا كانت الأداة متصلة بخدمات أخرى، يراجع ما أتاحه لها من ملفات ووظائف. فالمساعد المكلف بتلخيص مقابلة لا يحتاج بسبب ذلك إلى أرشيف المراسلات كله أو حق النشر المباشر.

أما في بناء النظام، فينبغي أن تتحقق طبقة التنفيذ من السماح بالفعل المحدد: أي ملف سيُعدل، وإلى من سترسل الرسالة، وما المرفق؟ لا تُترك هذه الحدود لعبارة يكتبها النموذج عن حسن نيته. ويمكن أن تساعد أدوات الكشف، مع فحص الحالات التي تفوتها والحالات السليمة التي تمنعها خطأً. [2]

ومن الأخطاء الشائعة افتراض أن الخطر مكتوب بالإنجليزية فقط، أو أنه لا يظهر إلا في نص واضح. تذكر OWASP احتمالات متعددة اللغات ومتعددة الوسائط، منها تعليمات داخل صورة. [1] لذلك نختبر العربية والفرنسية والإسبانية والإنجليزية حيث تدخل في العمل، ولا نعمم نجاح لغة على سائر اللغات.

تمرين صغير قبل الاعتماد على الأداة

يمكن لفريق ترجمة أو تحرير إعداد مجموعة تدريبية من نصوص مصطنعة. تضم المجموعة نصوصًا عادية، وأخرى تشرح حقن التعليمات على سبيل الاقتباس، وحالات تحتوي توجيهًا يحاول تغيير المهمة. يحدد مختص مسبقًا ما ينبغي نقله وما يجب ألا ينفذه المساعد. هذه خطة اختبار مقترحة، وليست نتائج تجربة أجريناها.

يسجل الفريق ثلاثة أمور: هل أنجز المساعد المهمة الأصلية؟ هل اتبع التوجيه الخارجي؟ وهل رفض نصًا سليمًا أو حذف جزءًا مطلوبًا؟ ويختبر ذلك داخل بيئة لا تحتوي بيانات عملاء ولا تتيح إرسالًا حقيقيًا. ثم يعيد الفحص عند تغيير النموذج أو الأداة أو طريقة إدخال الملفات.

وعند الاشتباه في نجاح توجيه مضلل، يوقف الفريق الخطوات اللاحقة ويفحص ما حدث فعلًا قبل إعادة المحاولة. يحتفظ بوصف موجز للمشكلة يتيح تصحيحها، مع تجنب نسخ البيانات الحساسة بلا حاجة. حقن التعليمات يذكّرنا بقاعدة مهنية مألوفة: نفهم النص وننقله ونناقشه، وتبقى سلطة تكليفنا بالعمل وحدوده واضحة.

المصادر وحدود الاعتماد

مقالات مرتبطة

كتاب أن تصبح مترجمًا