في تطور يسلط الضوء على نقاط الضعف المحتملة في البنية التحتية للذكاء الاصطناعي السحابي، كشف فريق من الباحثين الأمنيين عن ثغرة خطيرة في حزمة تطوير برمجيات (SDK) لخدمة Vertex AI من جوجل كلاود، والمكتوبة بلغة بايثون. تتيح هذه الثغرة لمهاجم لا يملك أي صلاحيات وصول إلى مشروع الضحية، اختطاف عملية تحميل نماذج التعلم الآلي وتنفيذ أكواد ضارة داخل البنية التحتية لجوجل. التفاصيل الفنية للثغرة، التي أطلق عليها الباحثون اسم "Pickle in the Middle"، تكمن في كيفية تعامل SDK مع عمليات تحميل النماذج. فعندما يقوم المطورون بتحميل نموذج تعلم آلي إلى خدمة Vertex AI، تستخدم SDK عملية تسلسل (serialization) تعتمد على تنسيق Pickle، وهو تنسيق معروف بمخاطره الأمنية. لكن المشكلة الأكبر كانت في أن SDK لم تتحقق بشكل صحيح من هوية المستخدم أو صلاحياته عند تحميل النموذج، مما يسمح لأي شخص بمعرفة اسم مشروع الضحية واستهدافه. الآلية التي تعمل بها الثغرة تشبه ما يُعرف بـ "Bucket Squatting"، وهي تقنية يستخدمها المهاجمون لاستباق أسماء المستخدمين في خدمات التخزين السحابي. في هذه الحالة، استغل المهاجمون طريقة معالجة SDK لأسماء المشاريع والبيئات، ليتمكنوا من تحميل نموذج ضار باسم مشروع الضحية دون الحاجة إلى أي صلاحيات داخل ذلك المشروع. بمجرد تحميل النموذج الضار، يمكن للمهاجم تنفيذ أي كود بايثون داخل البنية التحتية لجوجل، مما يمنحه سيطرة كاملة على النموذج والبيانات المصاحبة له. منظمة Palo Alto Networks Unit 42، التي اكتشفت الثغرة وأبلغت عنها جوجل عبر برنامج مكافآت اكتشاف الثغرات، أكدت أنها لم ترصد أي استغلال فعلي لهذه الثغرة في هجمات حقيقية. لكنها حذرت من أن الثغرة تمثل خطراً كبيراً على المؤسسات التي تستخدم Vertex AI لتطوير ونشر نماذج الذكاء الاصطناعي، خاصة تلك التي تتعامل مع بيانات حساسة أو مهام حرجة. جوجل من جانبها أكدت أنها أصدرت تحديثاً عاجلاً لـ SDK لإصلاح الثغرة، ونصحت المستخدمين بتحديث حزمهم فوراً. كما شددت على أهمية اتباع ممارسات الأمان الأساسية مثل استخدام التحقق من الهوية متعددة العوامل (MFA) والمراقبة المستمرة للنشاطات في حسابات جوجل كلاود. هذه الثغرة ليست الأولى من نوعها في عالم الذكاء الاصطناعي السحابي، لكنها تبرز الحاجة الملحة إلى تعزيز إجراءات الأمان في هذه المنصات. فمع تزايد الاعتماد على خدمات السحابة لتطوير ونشر نماذج الذكاء الاصطناعي، يصبح أمان هذه الخدمات أمراً حيوياً لحماية البيانات والبنية التحتية. الثغرة أيضاً تذكرنا بأن الأمان ليس مجرد ميزة إضافية، بل يجب أن يكون جزءاً لا يتجزأ من تصميم أي خدمة سحابية. من المهم لجميع المستخدمين والمطورين في منطقة الشرق الأوسط وشمال أفريقيا، الذين يتبنون بسرعة تقنيات الذكاء الاصطناعي السحابي، أن يكونوا على دراية بهذه التهديدات وأن يتخذوا الإجراءات اللازمة لحماية أنظمتهم. مع استمرار تطور التهديدات السيبرانية، يصبح التعاون بين الشركات التقنية والباحثين الأمنيين أمراً ضرورياً لضمان بيئة رقمية آمنة.
ثغرة في أداة جوجل السحابية تهدد أمن نماذج الذكاء الاصطناعي: كيف يمكن اختراق تحميل النماذج عبر "Bucket Squatting"؟
اكتشف باحثون أمنيون ثغرة خطيرة في حزمة تطوير برمجيات (SDK) لخدمة Vertex AI من جوجل كلاود، تتيح لمهاجم لا يملك صلاحيات الوصول إلى مشروع الضحية اختطاف عملية تحميل نماذج التعلم الآلي، وتنفيذ أكواد ضارة داخل البنية التحتية لجوجل. الثغرة، التي أُطلق عليها اسم "Pickle in the Middle"، لم تُستغل في هجمات فعلية حتى الآن، لكنها تثير تساؤلات حول أمان منصات الذكاء الاصطناعي السحابية.
التحليل التحريري: في عالم تتسارع فيه وتيرة تبني الذكاء الاصطناعي، تبرز ثغرة 'Pickle in the Middle' كجرس إنذار يجب ألا يمر دون وقفة تأمل. على المستوى السياسي، تكشف هذه الثغرة عن تحديات تنظيمية وأمنية تواجه الحكومات التي تسعى لتبني الذكاء الاصطناعي في الخدمات العامة. فغياب معايير أمان موحدة لمنصات السحابة يضع الدول أمام خيار صعب: إما الاندفاع نحو الرقمنة دون ضمانات أمنية كافية، أو التريث وفقدان الميزة التنافسية.
اقتصادياً، تمثل هذه الثغرة تهديداً مباشراً للشركات التي استثمرت ملايين الدولارات في تطوير نماذج الذكاء الاصطناعي. فاختراق نموذج واحد قد يؤدي إلى تسرب بيانات الملكية الفكرية أو خوارزميات حساسة، مما يتسبب بخسائر فادحة لا تقتصر على الجانب المالي فقط، بل تمتد إلى سمعة الشركة وثقة العملاء. سوق الشرق الأوسط للذكاء الاصطناعي، الذي يشهد نمواً متسارعاً، سيكون الأكثر تضرراً إذا لم يتم التعامل مع هذه التهديدات بجدية.
إقليمياً، تأتي هذه الثغرة في وقت تتنافس فيه دول الخليج على جذب استثمارات الذكاء الاصطناعي وتوطين التكنولوجيا. فوجود مثل هذه الثغرات في منصات سحابية كبرى مثل جوجل قد يدفع بعض الدول إلى إعادة النظر في استراتيجياتها، والاتجاه نحو بناء بنى تحتية سحابية وطنية أكثر أمناً، لكن على حساب التكامل العالمي. كما أنها تبرز أهمية التعاون الإقليمي في مجال الأمن السيبراني لمواجهة تهديدات تتجاوز الحدود.
إنسانياً، تعكس الثغرة قضية أوسع تتعلق بالثقة في التكنولوجيا. ففي مجتمعاتنا العربية، لا يزال هناك قدر من الحذر تجاه تبني الذكاء الاصطناعي في القطاعات الحساسة كالصحة والتعليم. أي خرق أمني قد يعمق هذه الشكوك ويؤخر تبني التقنيات الحديثة التي يمكن أن تحسن جودة الحياة. من هنا، تقع مسؤولية كبيرة على عاتق شركات التكنولوجيا لضمان الشفافية والأمان.
مستقبلياً، من المتوقع أن تشهد الفترة القادمة تطوراً في أدوات الهجوم السيبراني الموجهة ضد الذكاء الاصطناعي، مما يستدعي استثماراً مضاعفاً في أبحاث الأمان. ثغرة 'Pickle in the Middle' قد تكون مجرد البداية لموجة جديدة من الهجمات التي تستغل نقاط الضعف في سلسلة توريد الذكاء الاصطناعي. على المؤسسات أن تتبنى نهجاً استباقياً في الأمان، يشمل مراجعة دورية للكود، واختبار اختراق مستمر، وتدريب الموظفين على أفضل الممارسات. المستقبل يحمل وعوداً كبيرة للذكاء الاصطناعي، لكنه يحمل أيضاً مخاطر لا يمكن تجاهلها.