بعد دمج الذكاء الاصطناعي التوليدي والوكلاء الذكية في بيئات الإنتاج، تزداد الحاجة المتزايدة إلى الأمان حول النماذج وسلاسل الأدوات ومراحل التشغيل. يُظهر تمويل شركة الأمن الخاصة بالذكاء الاصطناعي HiddenLayer لجولة بـ 100 مليون دولار أن هذا القطاع المتخصص دخل مرحلة التوسع المتسارع.
استمرار ارتفاع المصروفات التشغيلية
أفادت TechCrunch أن السوق قبل بضع سنوات كان يناقش ما إذا كانت الهجمات على نماذج الذكاء الاصطناعي شائعة بما يكفي لدعم سوق مستقل. اليوم، مع قيام الشركات بتطبيق المزيد من أدوات الذكاء الاصطناعي والوكلاء والإضافات، بدأت شركات الأمن على تركيز جهودها لإطلاق منتجات مراقبة وحماية.
تتوقع غارتنر أن تنفق الشركات هذا العام 2.83 مليار دولار أمريكي على منتجات أمان الذكاء الاصطناعي، بزيادة قدرها 83% مقارنة بعام 2025؛ وبحلول العام المقبل، سيرتفع هذا الرقم إلى ما يقارب 4.78 مليار دولار أمريكي. وعلى الرغم من أن حالات الهجمات الكبيرة العلنية لا تزال محدودة، إلا أن مخاطر فقدان السيطرة والتحريف والحقن الخبيث في البيئات الإنتاجية قد دفعت الشركات إلى تسريع عمليات الشراء.
Company claims ARR increased more than 10x annually
مقر HiddenLayer في أوستن، تكساس، الولايات المتحدة، وتقدم أدوات حماية للموديلات والوكلاء وسير عمل الذكاء الاصطناعي، وتشمل سيناريوهات مثل الهجمات المضادة واستغلال الثغرات وإدخال الشيفرات الخبيثة. تدّعي الشركة أن إيراداتها السنوية المتكررة نمت بأكثر من 10 مرات خلال العام الماضي، ووصلت حاليًا إلى عدة عشرات الملايين من الدولارات.
قال المدير التنفيذي للشركة، كريس سيستيتو، إن أكثر من 90% من النمو خلال العام الماضي جاء من العملاء الجدد. حاليًا، يتركز العملاء بشكل رئيسي في قطاعات الخدمات المالية وشركات التكنولوجيا الكبرى، كما تشمل عقودًا مرتبطة بوزارة الدفاع الأمريكية وأنظمة الاستخبارات. وأشار التقرير أيضًا إلى أن أحد عملاء الشركة هو مزود نماذج متقدمة يتجاوز عدد مستخدميه الأسبوعيين 700 مليون، لكنه لم يكشف عن الاسم المحدد.
التمويل موجه نحو المبيعات والتوسع في أوروبا
هذه الجولة التمويلية قادتها Delta-v Capital، مع مشاركة Ten Eleven Ventures وستاندرد تشارترد وM12 التابعة لمايكروسوفت وBooz Allen Hamilton. وأفادت الشركة أن الأموال الجديدة ستُستخدم بشكل رئيسي لتوسيع قدرات المبيعات والتوزيع، مع الاستمرار في زيادة الاستثمارات في الهندسة والبحث، ودفع عجلة التوسع في أسواق أوروبا وEMEA.
لا تزال منتجات HiddenLayer تركز على الاكتشاف والحماية في وقت التشغيل ومحاكاة الهجمات وأمان سلسلة التوريد، لكن التركيز امتد من نماذج التعلم الآلي التقليدية إلى سيناريوهات الذكاء الاصطناعي التوليدي والوكلاء. تشير الشركة إلى أن التغييرات الأخيرة ليست تحولاً جذرياً، بل توسيعاً للقدرات الحالية لتشمل مخاطر جديدة مثل حقن الأوامر، وتحريف الوكلاء، واستدعاء الأدوات الضارة.
كما ذكرت الشركة أن الأمان أثناء التشغيل يصبح عنصرًا أولويًا أكبر عند نشر الذكاء الاصطناعي من قبل الشركات، ويعمل كآلية مشابهة للكشف والاستجابة للنهايات في الأمن السيبراني التقليدي، لكنه يركز على أنظمة الذكاء الاصطناعي نفسها. في الوقت نفسه، يتصاعد التنافس في السوق، وعليه أن تثبت HiddenLayer أن الميزة الأولى يمكن تحويلها إلى نمو مستمر في حجم الأعمال.