نشرت TechCrunch مقالًا يشير إلى أن الذكاء الاصطناعي التوليدي يدفع مشكلات أمن الشركات إلى المقدمة. وقال فرانسيس دي سوزا، الرئيس التنفيذي للعمليات في Google Cloud، خلال فعالية إن الشركات لا يمكنها تأجيل الأمان عند تبني الذكاء الاصطناعي، ولا يمكنها تركه للعاملين للتعامل معه بشكل منفصل. ووفقًا له، يجب أن تُطور استراتيجية الذكاء الاصطناعي بالتزامن مع استراتيجية البيانات واستراتيجية الأمان.
تشير المقالة إلى أن هذا التقييم نفسه ليس جديدًا، لكنه يُكشف عنه بسرعة أكبر مع دخول أدوات الذكاء الاصطناعي بسرعة إلى عمليات الشركات. ويشير دي سوزا بشكل خاص إلى مشكلة "الذكاء الاصطناعي الخفي"، حيث يقوم الموظفون بتجاوز حوكمة الشركة واستخدام أدوات ذكاء اصطناعي موجهة للأفراد مباشرة. يؤدي هذا إلى صعوبة على الشركات في توحيد المراجعة، والتحكم في الصلاحيات، وإدارة البيانات.
سطح الهجوم لم يعد مقصورًا على الشبكات التقليدية
يعتقد دي سوزا أن أنماط الدفاع القديمة لم تعد تواكب الوتيرة الحالية. وتستشهد المقالة بقوله إن المتوسط الزمني بين اختراق النظام الأولي ودخول الهجوم إلى المرحلة التالية قد انخفض من 8 ساعات إلى 22 ثانية. في الوقت نفسه، لم تعد الشركات بحاجة إلى حماية الشبكات والأجهزة الطرفية فقط.
تشمل نقاط الخطر الحالية أيضًا العناصر الجديدة مثل النماذج، وقنوات بيانات التدريب، والوكلاء الذكية، وعبارات التوجيه. خاصةً الوكلاء الذكية التي تعمل داخل المؤسسات، والتي قد تكتشف تلقائيًا مخازن بيانات لم تُلَقَِ الاهتمام بها لسنوات، وتُعيد كشف المعلومات الحساسة التي كانت مخفية.
تدعو جوجل إلى حماية قائمة على المنصة
الطريقة التي اقترحها دي سوزا هي جعل الدفاع أيضًا يتحول إلى "آلة مقابل آلة".他表示 أن الشركات تحتاج إلى اعتماد منهجية قائمة على المنصات، للحفاظ على سياسات أمنية متسقة عبر بيئات سحابية ونماذج مختلفة، بدلاً من سد الثغرات واحدة تلو الأخرى بعد إطلاق الأعمال.
كما أشار إلى أن هذا لم يعد مسؤولية فريق الأمان فقط، بل أصبح قضية تتطلب مشاركة مباشرة من مجلس الإدارة والإدارة. السبب هو أن الذكاء الاصطناعي يغير طريقة الوصول إلى أنظمة الشركة، مما يجعل العمليات الأمنية التقليدية المعتمدة على الاستجابة البشرية أقل قدرة على التعامل معها في الوقت المناسب.
ومع ذلك، أشار المقال أيضًا إلى أن الصناعة لا تزال تفتقر إلى عدد كافٍ من المواهب القادرة على مراقبة هذه الأنظمة. وقال لي كيسنر، الرئيس التنفيذي للأمن السيبراني في لينكدإن، لصحيفة نيويورك تايمز هذا الأسبوع إن سرعة نمو الثغرات الناتجة عن الذكاء الاصطناعي لا تزال أسرع من قدرة فرق الأمن على معالجتها، وقد تستغرق الصناعة عدة سنوات أخرى لتشكيل فهم أكثر استقرارًا لأمن الذكاء الاصطناعي.
حدث جيميني يكشف الفجوة في تنفيذ المنصة
تعتقد المقالة أن التوصيات الأمنية التي قدمتها Google Cloud للخارجية منطقية، لكن المنصة نفسها تواجه ثغرات واضحة في التنفيذ. وقد أفادت The Register مؤخرًا بشكل متكرر أن عدة مطورين في Google Cloud تلقوا فواتير بقيمة عشرات الآلاف من الدولارات بسبب استدعاءات غير مصرح بها لـ Gemini API، وبعض هؤلاء الأشخاص لم يُفعّلوا الخدمة ذاتها مسبقًا.
أشار التقرير إلى أن معظم هذه الحالات متعلقة بمفاتيح API مكشوفة علنًا. كانت هذه المفاتيح تُستخدم أصلاً لخدمة Google Maps، وتم وضعها في مواقع عامة وفقًا لإرشادات Google السابقة. لاحقًا، وسّعت Google نطاق الاستخدام القابل للدعوة لهذه المفاتيح، لكن المطورين لم يُبلغوا بوضوح بالتغييرات، مما سمح للمهاجمين بالوصول إلى خدمات Gemini وتوليد تكاليف عالية.
- يُدّعي Prentus أن 10138 دولارًا تم تزويرها خلال 30 دقيقة
- تلقى مطور آخر فاتورة بقيمة حوالي 17,000 دولار أسترالي
- الحد الفعلي بعد الترقية التلقائية يصل إلى 100,000 دولار أمريكي
بعد التغطية الإعلامية، أعادت Google الأموال للمطورين ذوي الصلة، لكنها لا تخطط لتعديل سياسة الترقية التلقائية للرسوم. وذكرت الشركة أن المنصة تُعطي الأولوية لتجنب انقطاع الخدمة بدلاً من الالتزام الصارم بالحد الأقصى للميزانية المحددة من قبل المستخدم.
لا يزال هناك نافذة متاحة بعد حذف المفتاح
كما ذكر المقال دراسة أجرتها شركة الأمان Aikido، والتي تفيد أنه حتى بعد حذف المطورين للمفتاح فور اكتشاف تسريبه، لا يزال المهاجمون قادرين على استخدام هذا المفتاح لمدة تصل إلى 23 دقيقة، لأن عملية إلغاء Google تنتشر تدريجيًا عبر البنية التحتية ولا تُفعّل فورًا.
أشار باحث الأيكيدو جوزيف ليون إلى أنه خلال هذه الفترة، لم يكن من المؤكد ما إذا كانت الطلبات لا تزال تمر بالتحقق، لكن بعض الفترات لا تزال تحقق معدل نجاح يتجاوز 90%. يمكن للمهاجمين استغلال هذه النافذة للاستمرار في تصدير الملفات أو قراءة بيانات المحادثة المخزنة مؤقتًا من Gemini.
أشار ليون أيضًا إلى أن بعض تنسيقات الشهادات الجديدة لجوجل لا تعاني من نفس المشكلة. على سبيل المثال، يمكن إلغاء شهادات واجهة برمجة تطبيقات الحسابات الخدمية في غضون 5 ثوانٍ تقريبًا، وتُصبح مفاتيح AQ الأحدث الخاصة بـ Gemini غير فعالة بعد حوالي دقيقة واحدة. وهذا يعني أن نافذة الـ 23 دقيقة الخاصة بالمفاتيح القديمة ليست بالضرورة غير قابلة للحل تقنيًا، بل هي على الأرجح نتيجة خيار أولويات المنصة.
معلومات إضافية: هذه المقالة هي مقال رأي من مصدر أجنبي، وهدفها الأساسي ليس رفض توصيات Google الأمنية، بل إبراز الفجوة بين سرعة استجابة المنصة في منتجاتها ونظام الفوترة وإدارة المفاتيح، وبين دعوتها للشركات لاتخاذ إجراءات وقائية مبكرة.