
هل تنسى النماذج ما تعلّمته؟ بين حذف البيانات وحجب الإجابة
· البيانات والمعرفة وأخلاقيات التقنية · إعداد بمساعدة الذكاء الاصطناعي
حين نطلب حذف ملف من خدمة رقمية، نتوقع أن يختفي أثره. لكن الأمر يصبح أعقد إذا استُخدم الملف لتدريب نموذج ذكاء اصطناعي. فحذف الوثيقة، ومنع ظهورها في الإجابات، وإزالة أثرها من النموذج ثلاث عمليات مختلفة. هذا الفرق يمسّ خصوصية الأفراد، وحق المؤسسات في تصحيح معلوماتها، والثقة في المعرفة التي تنتجها الآلة.
الملف ليس هو النموذج
لنتخيل مثالًا تعليميًا من التحرير: مكتب ترجمة أضاف عقدًا قديمًا إلى مكتبة يستخدمها نظامه للبحث، ثم اكتشف أن الوثيقة تحتوي على بيانات لم يكن ينبغي إتاحتها. إذا كان النظام يسترجع الملف من تلك المكتبة عند السؤال، يمكن البدء بإزالته من مصدر الاسترجاع وفهرسه والتحقق من النسخ الأخرى. أما إذا دخل مضمونه في تدريب النموذج نفسه، فالمسألة لا تنتهي بحذف النسخة الموجودة في المجلد.
النموذج اللغوي لا يعمل كخزانة تحتفظ بكل وثيقة في درج مستقل. يتغير أثناء التدريب عدد كبير من القيم الداخلية التي تسهم معًا في إنتاج الإجابات. وقد يحفظ النموذج بعض المعلومات أو المقاطع، لكن تحديد أثر سجل بعينه وإزالته دون الإضرار بما تعلّمه من غيره مشكلة بحثية. لذلك ينبغي السؤال أولًا عن المكان الذي وصلت إليه البيانات، بدل الاكتفاء بزر يحمل اسم الحذف.
ماذا يعني تعلّم النسيان؟
يُقصد بإزالة أثر التعلّم، أو Machine Unlearning، تقنيات تسعى إلى تقليل تأثير بيانات محددة أو إزالته من نموذج مدرَّب، دون إعادة التدريب الكامل في كل مرة. غير أن الاسم يُستعمل أيضًا لأهداف مختلفة، منها منع إجابة أو تعديل معلومة. وقد خصص سانغيون يون وييتشان جون وألبرت نو ورقة موقف لهذا الالتباس، منشورة ضمن أعمال مؤتمر ICML لعام 2026. يقترحون حصر المصطلح في إزالة أثر مجموعة تدريب محددة، مع مقارنة النتيجة بما كان سينتجه تدريب لم يستخدم تلك المجموعة أصلًا. [1]
هذه ورقة موقف تدافع عن معيار مفاهيمي وتقويمي، وليست برهانًا على استحالة النسيان. وقيمتها للقارئ غير المتخصص أنها تدعوه إلى طلب معنى واضح للوعد التقني: هل المقصود أن النظام لن يعرض معلومة، أم أن أثر بياناتها أُزيل بالفعل؟ قد يخدم الإجراء الأول غرضًا وقائيًا مهمًا، لكنه لا يثبت وحده تحقق الثاني.
الصمت في اختبار واحد لا يكفي
في بحث آخر منشور ضمن أعمال المؤتمر نفسه، درس هادي ريسي زاده وزملاؤه مدى عودة المعلومات بعد تطبيق طرق لإزالة التعلّم. يذكر الملخص أن اختبار إخراج إجابة واحدة بطريقة تختار الاحتمال الأعلى قد يوحي بالنجاح، بينما تظهر معلومات مستهدفة عند توليد إجابات متعددة بطرائق احتمالية. واقترح الفريق مقياسًا لاحتمال عودة التسرب عبر عدد من المحاولات، واستخدم ثلاث مجموعات اختبار معروفة في هذا المجال. [2]
ويقترح الباحثون كذلك طريقة لتحسين المتانة، ويعرض ملخصهم نتائج مشجعة داخل اختبارات محددة. لا يصح اختزال البحث في أن جميع النماذج عاجزة عن النسيان، ولا تحويل نتيجته إلى ضمان لمنتج تجاري. اعتمدنا الملخص وسجل النشر، ولم نقرأ الملاحق أو نكرر التجارب. والاستنتاج العملي المحدود هو أن سؤالًا واحدًا وجوابًا مطمئنًا لا يكفيان لتقويم ادعاء واسع عن إزالة المعلومات.
وبالنسبة إلى مؤسسة تستخدم لغات متعددة، يستحق الاختبار أن يشمل صيغًا ولغات تناسب عملها. فإذا اختفى اسم من إجابة عربية، لا يكون ذلك دليلًا تلقائيًا على غيابه عن إجابة فرنسية أو عن صيغة سؤال أخرى. هذا اقتراح تحريري لتصميم المراجعة، لا نتيجة اختبار أجريناه ولا نسبة منقولة من البحث.
التصحيح والحجب والحذف
للكلمات الثلاث وظائف مختلفة. التصحيح يستبدل معلومة خاطئة بأخرى أدق. والحجب يمنع إظهار محتوى في ظروف معينة. والحذف يزيل مادة من موضع محدد، وقد يتطلب التعامل مع نسخ وفهارس متعددة. أما إزالة أثر التدريب فتستهدف ما حدث داخل النموذج بسبب استعمال البيانات. ويمكن أن تجتمع هذه الإجراءات في خدمة واحدة، لكن نجاح أحدها لا يغني عن بيان حالة البقية.
في مثال صحفي افتراضي، تُصحَّح صفة شخص في خبر منشور، ثم يظل ملخص آلي يقدّم الصفة القديمة. قد يكون السبب نسخة مخبأة أو مصدرًا آخر أو معلومة من التدريب؛ لا يمكن الجزم بالسبب من الإجابة وحدها. يبدأ العمل بتحديد مصدرها وإصدار النظام وتاريخ التصحيح، ثم اختبار انتقال التحديث. ولا يفيد وصف المشكلة كلها بأنها ذاكرة للآلة إذا حجب هذا الوصف موضع الخطأ القابل للإصلاح.
ما الذي تقوله جهة حماية البيانات؟
تفرق اللجنة الوطنية الفرنسية للمعلوماتية والحريات، في إرشادات منشورة بالإنجليزية بتاريخ 5 يناير 2026، بين ممارسة الحقوق على بيانات التدريب وممارستها على النموذج، حين يكون مشمولًا بقواعد حماية البيانات الأوروبية. وتدعو إلى إبلاغ الشخص بوضوح بما إذا كانت الاستجابة لطلبه تخص البيانات أم النموذج، خاصة عندما لا ينعكس تعديل الأولى مباشرة على الثاني. [3]
وتناقش الإرشادات إعادة التدريب، وكذلك الترشيح الذي يحدّ من المخرجات في ظروف معينة، مع التمييز بين منع أثر ضار وإزالة البيانات من النموذج ذاته. وهي توجيهات تنظيمية ضمن سياق أوروبي محدد، لا بحثًا تجريبيًا ولا حكمًا على كل حالة في المغرب. نستخدمها هنا لإضاءة سؤال المساءلة: ماذا تغير بعد الطلب، وأين تغير، وما حدود الاستجابة؟ ولا نستنتج منها تطابق الالتزامات القانونية بين البلدان.
الوقاية تبدأ قبل إرسال الوثيقة
بالنسبة إلى مكتب ترجمة أو مؤسسة تعليمية، يصبح السؤال الأول: هل تحتاج المهمة إلى البيانات الحقيقية أصلًا؟ قد يكفي نموذج عقد منزوع الهوية لشرح مصطلح، أو مقطع اصطناعي لتدريب طالب. وتقليل ما يُرسل منذ البداية يخفف حجم المشكلة التي قد تضطر المؤسسة لاحقًا إلى طلب حلها. لكن استبدال الاسم وحده لا يضمن إخفاء هوية شخص إذا بقيت تفاصيل مميزة تكشفه.
ومن المفيد أيضًا فصل مكتبة العمل عن البيانات المسموح بتوظيفها لتحسين النموذج، وتوثيق شروط المزود بدل افتراضها من شكل الواجهة. فالخدمة التي تسمح برفع الملفات قد تستخدمها في الاسترجاع المؤقت أو التخزين أو أغراض أخرى وفق إعداداتها وعقدها. هذه ممارسات مقترحة للتحقق، وليست وصفًا لخدمة بعينها. ولا يحق للمؤسسة أن تعد عميلها بإزالة كل أثر ما لم تعرف نطاق الوعد وما تستطيع إثباته.
كيف نطلب استجابة قابلة للفحص؟
يمكن تحويل طلب التصحيح أو الحذف إلى أسئلة عملية محددة: ما المادة المعنية؟ وفي أي مصدر أو نظام ظهرت؟ وهل شملت المعالجة الملف والفهرس والنسخ المخزنة والمخرجات؟ وإذا تعلق الطلب بالنموذج، فما الإجراء الذي استُخدم وما معيار التحقق منه؟ لا يحتاج العميل إلى معرفة كل تفصيل هندسي، لكنه يحتاج إلى جواب مفهوم عن نطاق العمل وتاريخه وحدوده.
وللمراجعة المهنية، احتفظ بوصف آمن للمشكلة وإصدار الخدمة وصيغ الأسئلة التي كشفتها، دون إعادة نشر البيانات الحساسة في تقرير عام. ثم تحقق من التصحيح على مراحل، وراقب ظهوره مجددًا بعد تحديث النظام أو تغيير مصدر المعرفة. هذه خطوات تحريرية ومؤسسية مقترحة؛ لا تحل محل تقييم تقني متخصص، لكنها تمنع الخلط بين إرسال الطلب وإثبات نجاح معالجته.
النسيان جزء من جودة المعرفة
تحتاج المعرفة إلى القدرة على التحديث كما تحتاج إلى القدرة على الحفظ. ففي العمل الصحفي والترجمة والبحث، ليست المعلومة القديمة صحيحة لمجرد أن الآلة تكررها بثقة. وقد تتغير صفة شخص أو يُصحَّح خبر أو يتبين خطأ في وثيقة. لهذا ينبغي أن تتسع جودة النظام لقياس انتقال التصحيح واحترام حدود استعمال البيانات، إلى جانب سرعة الإجابة وفصاحتها.
ولا تقتضي صعوبة النسيان التخلي عن الذكاء الاصطناعي، كما لا تبرر التساهل في جمع البيانات بحجة أن الحل التقني سيأتي لاحقًا. الموقف الأجدى هو الجمع بين تقليل البيانات، ووضوح العقود، والتمييز بين الإجراءات، واختبارات تناسب الوعد المعلن. نحتاج إلى أنظمة تعرف المؤسسات كيف تراجعها، وإلى لغة دقيقة تجعل ما أُنجز قابلًا للفهم والمساءلة.