كان مورد معالجة المستندات بالذكاء الاصطناعي لدى إحدى المؤسسات قد بنى منتجه على نموذج تأسيسي مقدَّم عبر خدمة ذكاء اصطناعي سحابية. واستخدم النشر الإنتاجي للمورد إصدارًا محددًا من النموذج تحقق منه على نطاق واسع لحالات استخدامه، مؤكدًا أن سلوك النموذج في تحليل المستندات واستخراج البيانات منها يفي بمعايير الدقة والموثوقية التي يتطلبها عملاؤه من المؤسسات. وبعد أحد عشر شهرًا من النشر الأولي للمورد، سأل فريق TPRM في المؤسسة عن إصدار النموذج التأسيسي المستخدم وما إذا كان حديثًا. فأكد المورد أنه يشغّل إصدارًا صدر قبل أحد عشر شهرًا. وكان مزود النموذج التأسيسي قد أصدر ثلاثة إصدارات لاحقة: اثنان يتضمنان تصحيحات أمنية، وواحد يتضمن تحديثًا مهمًا عالج ثغرة تصعيد صلاحيات في البنية التحتية لتشغيل النموذج. وأكد المورد علمه بالتحديثات وأنه في طور التحقق من أحدث إصدار. وتطلبت عملية التحقق اختبار إصدار النموذج المحدّث مقابل مجموعة اختباراته الكاملة للتأكد من عدم وجود تراجعات في الأداء تؤثر في سير عمل معالجة المستندات لدى عملائه من المؤسسات. وكانت دورة التحقق تستغرق عادةً ثلاثة إلى أربعة أشهر. وكان المورد يتحقق حاليًا من إصدار متأخر بإصدارين عن الإصدار الحالي. وكانت ثلاثة تحديثات ذات صلة بالأمن تنتظر في الطابور خلف دورة التحقق من الأداء، دون أي عملية سريعة للتصحيحات الأمنية. كان المسوّغ التجاري لدورة التحقق مشروعًا، أما غياب عملية سريعة للتصحيحات الأمنية فكان فجوة الحوكمة.
ما حقيقة مخاطر التحكم في إصدارات نماذج الذكاء الاصطناعي؟
تشمل مخاطر التحكم في إصدارات نماذج الذكاء الاصطناعي المخاطر الأمنية والتشغيلية الناشئة عن إدارة إصدارات نماذج الذكاء الاصطناعي في الإنتاج، وتحديدًا المخاطر الناشئة حين تتأخر تحديثات النموذج التأسيسي والتصحيحات الأمنية ومراجعات النموذج، أو تُطبق بشكل غير متسق، أو لا تُتتبع بالصرامة نفسها التي يُتتبع بها تصحيح البرمجيات التقليدية. ولإدارة إصدارات نماذج الذكاء الاصطناعي تعقيد لا يوجد في تصحيح البرمجيات التقليدية: فتحديثات النموذج قد تغير سلوكه، مما يستلزم اختبارات تحقق قبل النشر للتأكد من أن التحديث لا يُدخل تراجعات في الأداء تؤثر في وظيفة المنتج.
التوتر بين التحقق من الأداء والأمن هو التحدي الجوهري. فالتصحيحات الأمنية للبرمجيات التقليدية يمكن غالبًا تطبيقها دون تأثير كبير في سلوك التطبيق؛ فالتصحيح الأمني الذي يعالج تجاوز سعة المخزن المؤقت لا يغير عادةً المخرجات الوظيفية للتطبيق. أما تحديثات نماذج الذكاء الاصطناعي فمختلفة: فالإصدار الجديد من النموذج الذي يعالج ثغرة أمنية قد يغير أيضًا توزيع مخرجات النموذج، فيؤثر في السلوك الوظيفي للمنتج بطرق تتطلب التحقق قبل النشر. ومتطلب التحقق مشروع، إذ إن منتجات الذكاء الاصطناعي المؤسسية التي يتغير سلوكها دون إشعار قد تُعطل سير عمل العملاء. والنتيجة أن التصحيحات الأمنية تتبع طابور التحقق نفسه الذي تتبعه تحديثات الميزات، مما يُدخل تأخرًا كبيرًا في التصحيح.
خطر الاعتماد على النموذج التأسيسي هو بُعد سلسلة التوريد. فمنتجات الذكاء الاصطناعي المبنية على نماذج تأسيسية من مزودي الذكاء الاصطناعي السحابيين ترث الخصائص الأمنية لتلك النماذج التأسيسية وتبعياتها من التصحيحات. وعندما يُصدر مزود النموذج التأسيسي تصحيحًا أمنيًا، يجب على مورد منتج الذكاء الاصطناعي تطبيق ذلك التصحيح، والتحقق من أنه لا يُعطل منتجه، ثم نشر الإصدار المحدّث لعملائه في بيئة الإنتاج. وكل خطوة من هذه الخطوات تُدخل تأخيرًا. والنتيجة أن منتجات الذكاء الاصطناعي المبنية على نماذج تأسيسية قد تتأخر كثيرًا عن الإصدارات المصححة الحالية من نماذجها التأسيسية، مع إضافة كل طبقة من سلسلة التبعيات تأخيرًا إضافيًا في التصحيح.
فجوة التصحيح السريع هي إخفاق الحوكمة. تميّز برامج أمن البرمجيات بين التصحيحات الأمنية، التي ينبغي تطبيقها بأسرع ما يمكن لسد الثغرات المعروفة، وتحديثات الميزات، التي قد تتطلب تحققًا أوسع قبل النشر. والمسوّغ لهذا التمييز أن الخطر الأمني للعمل مع ثغرة معروفة يفوق عادةً خطر تغير السلوك الناتج عن التصحيح الأمني. وموردو منتجات الذكاء الاصطناعي الذين تعامل عملية التحقق لديهم التصحيحات الأمنية وتحديثات الميزات معاملةً واحدة لم يُجروا هذا التمييز، إذ يطبقون دورة التحقق نفسها الممتدة لأشهر على تصحيح أمني يسد ثغرة تصعيد صلاحيات كما يطبقونها على تحديث ميزات يغير خصائص مخرجات النموذج.
لماذا يهم هذا
يهم التحكم في إصدارات نماذج الذكاء الاصطناعي TPRM لأن منتجات الذكاء الاصطناعي التي ينشرها الموردون في بيئات المؤسسات مبنية على سلاسل تبعيات، من نماذج تأسيسية وبنية تحتية للتشغيل وأطر ML، تتطلب تصحيحات أمنية مستمرة. وعندما تُدخل دورات التحقق لدى المورد تأخيرًا لأشهر بين إصدار التصحيح الأمني ونشره في الإنتاج، تُنشئ علاقة المؤسسة بمورد الذكاء الاصطناعي نافذةَ تعرض لثغرات معروفة صُممت اتفاقيات مستوى الخدمة التقليدية لتصحيح البرمجيات لتقليصها.
أين تخطئ معظم الفرق
يتمثل الإخفاق الأكثر تكرارًا في تطبيق تقييم SLA التقليدي لتصحيح البرمجيات على موردي الذكاء الاصطناعي دون إدراك أن لتصحيح نماذج الذكاء الاصطناعي تعقيدًا، هو التحقق من الأداء، لا يوجد في تصحيح البرمجيات التقليدية. والنتيجة قبول تأخر التصحيحات لأشهر بوصفه قيدًا متأصلًا في الذكاء الاصطناعي، لا فجوةً في الحوكمة يمكن لعملية تصحيح سريعة أن تعالجها.
- تقييم تصحيح نماذج الذكاء الاصطناعي كالبرمجيات التقليدية: عدم إدراك تعقيد التحقق من الأداء
- غياب عملية سريعة للتصحيحات الأمنية مقارنةً بتحديثات الميزات
- عدم تقييم حداثة إصدار النموذج التأسيسي في مراجعات الموردين
- قبول زمن تأخر التصحيحات بوصفه قيدًا متأصلًا في الذكاء الاصطناعي لا فجوةً في الحوكمة
- عدم تحديد SLA منفصلة للتصحيحات الأمنية في تحديثات نماذج الذكاء الاصطناعي
كيف تبدو الممارسة الجيدة
تميّز البرامج الناضجة لإدارة إصدارات نماذج الذكاء الاصطناعي بين التصحيحات الأمنية وتحديثات الميزات، فتطبق عملية تحقق سريعة على التصحيحات ذات الصلة بالأمن تؤكد أن التصحيح لا يُدخل تراجعات حرجة دون اشتراط مجموعة التحقق الكاملة من الأداء، مما يتيح نشر التصحيحات الأمنية وفق جدول زمني لـ SLA الأمنية لا وفق الجدول الزمني لتحديثات الميزات.
- عملية تحقق سريعة للتصحيحات الأمنية: مجموعة اختبارات مختصرة للتحديثات ذات الصلة بالأمن
- تتبّع حداثة إصدار النموذج التأسيسي: الإصدار الحالي مقارنةً بالإصدار المنشور
- SLA للتصحيحات الأمنية منفصلة عن الجدول الزمني للتحقق من تحديثات الميزات
- إخطار المورد بتحديثات النموذج ذات الصلة بالأمن: إخطار المؤسسة بتوفر التصحيحات
- الإبلاغ عن تأخر التصحيحات: عمر الإصدار المنشور وحالة التصحيحات الأمنية المعلقة
الأدوات
إدارة إصدارات النماذج: سجل النماذج في MLflow مع تتبّع الإصدارات، وضوابط تثبيت الإصدارات في خدمات الذكاء الاصطناعي السحابية
تتيح ضوابط إدارة إصدارات النماذج في خدمات الذكاء الاصطناعي السحابية للموردين تثبيت إصدارات محددة من النماذج لضمان استقرار الإنتاج، مع الاحتفاظ ببيئات اختبار منفصلة لتقييم الإصدارات. وبالنسبة إلى ممارسي TPRM، فإن السؤال عما إذا كانت لدى المورد بيئة تحقق منفصلة لتسريع التصحيحات الأمنية، متميزة عن مجموعة التحقق الكاملة من الأداء، يوفر سؤالًا محددًا عن زمن تأخر التصحيحات.
تحديات الحوكمة
يتمثل تحدي الحوكمة في التحكم في إصدارات نماذج الذكاء الاصطناعي في تحديد ما يُعد تحديثًا ذا صلة بالأمن يستوجب التحقق السريع. فتحديثات النموذج التأسيسي التي تعالج ثغرات في البنية التحتية للتشغيل هي تصحيحات أمنية بوضوح. أما التحديثات التي تغير سلوك النموذج لمعالجة الثغرات أمام الهجمات العدائية فقد تؤثر في أداء المنتج. والحل الحوكمي هو تصنيف قائم على المخاطر: تُمنح التحديثات التي تعالج ثغرات معروفة قابلة للاستغلال أولويةَ التحقق السريع بصرف النظر عن آثارها على التحقق من الأداء.
- اسأل عن الإصدار الحالي للنموذج التأسيسي وأحدث إصدار متاح
- اسأل عن العملية السريعة للتصحيحات الأمنية مقارنةً بتحديثات الميزات
- حدد SLA للتصحيحات الأمنية للذكاء الاصطناعي: الحد الأقصى المقبول لتأخر التصحيحات في التحديثات ذات الصلة بالأمن
- اشترط الإخطار عند توفر تحديثات للنموذج ذات صلة بالأمن
- تتبّع حداثة التصحيحات بوصفها مقياسًا في المراجعة الفصلية للموردين
إذا كنت فريقًا صغيرًا
اطرح على أي مورد ذكاء اصطناعي يبني منتجه على نموذج تأسيسي سؤالين: ما إصدار نموذجكم التأسيسي الذي تشغلونه في بيئة الإنتاج، وما أحدث إصدار متاح من مزود نموذجكم التأسيسي؟ الفجوة بين هذين الإصدارين هي فجوة حداثة التصحيحات. ثم اسأل عما إذا كانت أي من الإصدارات المرحلية تتضمن تصحيحات أمنية، وإن كان الأمر كذلك، فهل توجد عملية سريعة لتطبيق التصحيحات الأمنية دون انتظار دورة التحقق الكاملة من الأداء. تكشف هذه الأسئلة الثلاثة حداثة التصحيحات، والأهمية الأمنية للفجوة، وعملية الحوكمة لسدها.
- اسأل عن إصدار النموذج التأسيسي في الإنتاج مقارنةً بأحدث إصدار متاح
- اسأل عما إذا كانت الإصدارات المرحلية تتضمن تصحيحات أمنية
- اسأل عما إذا كانت هناك عملية سريعة للتصحيحات الأمنية
- حدد SLA للتصحيحات الأمنية للذكاء الاصطناعي في عقد المورد
ما الذي ينبغي اشتراطه
اسأل مباشرةً:
«ما إصدار نموذجكم التأسيسي المستخدم حاليًا في بيئة الإنتاج، وهل هو أحدث إصدار متاح؟ وبالنسبة إلى أي إصدارات مرحلية تتضمن تصحيحات أمنية، هل لديكم عملية تحقق سريعة تسمح بتطبيق التصحيحات الأمنية وفق جدول زمني لـ SLA الأمنية بدلًا من جدولكم الزمني المعتاد للتحقق من الميزات؟»
ما تتوقعه دليلًا
- إصدار النموذج التأسيسي المنشور حاليًا مقارنةً بأحدث إصدار متاح
- حداثة التصحيحات الأمنية: التصحيحات المعلقة وتصنيفها الأمني
- عملية تحقق سريعة للتصحيحات الأمنية
- SLA للتصحيحات الأمنية للذكاء الاصطناعي
ينبغي سؤال المورد الذي يؤكد إجراء تحقق صارم من النموذج عن عملية التصحيح الأمني السريعة لديه. فالتحقق الصارم يضمن اتساق الأداء، والتصحيح السريع يضمن معالجة الثغرات الأمنية وفق جدول زمني أمني لا وفق جدول التحقق من الأداء.
كيف تُثبت ذلك
- سجلات حداثة إصدار النموذج التأسيسي
- توثيق عملية التصحيح السريعة
- SLA للتصحيحات الأمنية للذكاء الاصطناعي
- سجلات تتبّع تأخر التصحيحات
الخلاصة الرئيسية
إصدار من النموذج التأسيسي عمره أحد عشر شهرًا. ثلاثة تصحيحات أمنية. ثغرة واحدة لتصعيد الصلاحيات. دورة التحقق: ثلاثة إلى أربعة أشهر. الإصدار المصحح الحالي: متقدم بإصدارين في الطابور. عملية التحقق مشروعة، فتغييرات سلوك النموذج تتطلب الاختبار قبل النشر في المؤسسات. أما عملية التصحيح السريعة التي كانت ستطبق التصحيحات الأمنية وفق جدول زمني أمني لا وفق جدول التحقق من الأداء: فغائبة. تتطلب التصحيحات الأمنية وتحديثات الميزات أساليب تحقق مختلفة. فالتصحيحات الأمنية تعالج ثغرات معروفة قابلة للاستغلال، ودورة التحقق المطبقة على تحديثات الميزات ليست مناسبة للتصحيحات الأمنية. ويسد التحقق السريع للتحديثات ذات الصلة بالأمن الفجوة بين SLA الأمنية التي تتوقعها المؤسسة ودورة التحقق من الأداء التي يعمل بها المورد.