تسميم البيانات (Data Poisoning) وتأثيره في نماذج الذكاء الاصطناعي
في عالمٍ أصبح يعتمد على الذكاء الاصطناعي في اتخاذ القرارات وتحليل البيانات، أصبحت جودة البيانات هي العمود الفقري لأي نظام ذكي. لكن ماذا لو تمّ التلاعب بتلك البيانات بطريقة خبيثة؟ هنا يظهر مفهوم خطير يُعرف باسم تسميم البيانات (Data Poisoning)، وهو أحد أبرز التهديدات الأمنية في مجال الذكاء الاصطناعي الحديثة. ما هو تسميم البيانات؟ تسميم البيانات ببساطة هو عملية إدخال بيانات مزيفة أو خبيثة ضمن بيانات التدريب التي يعتمد عليها النظام الذكي لتعلّم أنماطه واتخاذ قراراته. يحدث هذا التلاعب في مرحلة حساسة جدًا من دورة حياة النموذج، وغالبًا يصعب اكتشافه لأن المهاجم يدمج البيانات السامة بشكل يبدو طبيعيًا داخل ملايين السجلات الأخرى. على سبيل المثال، إذا كان نموذج ذكاء اصطناعي يتعلم التعرّف على الصور الطبية لتشخيص الأورام، فقد يقوم المهاجم بإدخال صور معدّلة تُظهر أورامًا “خاطئة” مما يجعل النموذج يتعلم استنتاجات غير صحيحة تمامًا. كيف يحدث تسميم البيانات؟ هناك عدة طرق يستخدمها المهاجمون لتنفيذ هجوم التسميم، من أبرزها: تعديل بسيط في البيانات الأصلية: إدخال تشويش طفيف في الصور أو النصوص لا يُلاحظ ب...