معايير الثقة في عصر الذكاء الاصطناعي قيد التشكيل. في المستقبل، سيحتاج الشركات الرائدة ليس فقط إلى امتلاك قدرات الذكاء الاصطناعي، بل أيضًا إثبات: لماذا يتصرف الذكاء الاصطناعي، ومن يتحمل مسؤوليته.مؤلف المقال، المصدر: Sumsub
الذكاء الاصطناعي يدخل عصر التنفيذ الذاتي.
من خدمة العملاء الذكية والتشغيل الآلي، إلى تحليل التداول وتحديد المخاطر والمراجعة الامتثالية، يتحول وكيل الذكاء الاصطناعي تدريجيًا من "أداة مساعدة" إلى كيان رقمي قادر على إنجاز المهام بشكل مستقل.
لكن مع تزايد درجة استقلالية الذكاء الاصطناعي، يظهر سؤال جديد: عندما يتخذ الذكاء الاصطناعي قرارات نيابة عن الشركة، هل يمكن للشركة إثبات — لماذا فعلت ذلك؟ ومن منحها التفويض؟ وما هي الأساسيات التي اعتمدت عليها؟
في أغسطس 2026، أطلقت Sumsub، منصة التحقق من الهوية والثقة الرقمية العالمية، بالتعاون مع جمعية التكنولوجيا المالية في سنغافورة، تقرير "حالة الثقة الرقمية في آسيا والمحيط الهادئ: معيار حوكمة الذكاء الاصطناعي".
قامت التقرير بدراسة 9 أسواق في منطقة آسيا والمحيط الهادئ و720 خبيرًا من مجالات المخاطر والامتثال والتكنولوجيا والعمليات، وحللت بعمق التحديات الإدارية الجديدة التي تواجهها الشركات في عصر وكلاء الذكاء الاصطناعي.
يطرح التقرير مفهومًا أساسيًا: "عدم التوازن في المساءلة" (Accountability Asymmetry). أي: تحتاج الشركات إلى تحمل المسؤولية عن النتائج التي تولدها الذكاء الاصطناعي، لكنها قد لا تستطيع إثبات كيفية تشكيل قرارات الذكاء الاصطناعي.
تطبيقات الذكاء الاصطناعي تتسارع، لكن قدرات الحوكمة لم تتماشَ معها بعد
تُظهر التقارير أن سرعة تطبيق الذكاء الاصطناعي من قبل الشركات الصينية تزداد بسرعة:
- حوالي 97% من الشركات الصينية تستخدم أو تختبر أنظمة ذكاء اصطناعي متعددة المراحل
- لكن فقط 29% من الشركات تمتلك ثقة كافية في تتبع وتفسير عمليات اتخاذ القرار الخاصة بالذكاء الاصطناعي
هذا يعني أن العديد من الشركات بدأت تعتمد على الذكاء الاصطناعي لإكمال المهام المعقدة، لكنها لا تزال تفتقر إلى القدرة الكاملة على التحقق من مسارات اتخاذ القرار، وأساسيات البيانات، ومصادر الصلاحيات، وسجلات العمليات وراء سلوك الذكاء الاصطناعي.
في الماضي، كانت الشركات بحاجة إلى إثبات: "لماذا قام هذا الموظف بهذا القرار؟" وفي المستقبل، ستكون الشركات بحاجة إلى الإجابة: "لماذا قام هذا الوكيل الذكي بهذا القرار؟"
جوهر حوكمة الذكاء الاصطناعي: جعل السلوكيات الذاتية قابلة للتحقق
تُقيّم تقرير Sumsub قدرات الشركات في آسيا والمحيط الهادئ على حوكمة الذكاء الاصطناعي من ثلاثة أبعاد:
1. الاستقلالية (Autonomy):
درجة قدرة الذكاء الاصطناعي على إكمال المهام بشكل مستقل.
مع تطور الذكاء الاصطناعي القائم على الوكلاء، ينتقل الذكاء الاصطناعي من إنشاء المحتوى البسيط إلى تنفيذ تدفقات العمل تلقائيًا، واستدعاء الأدوات الخارجية، وإجراء قرارات معقدة والتفاعل مع الأنظمة الأخرى.
2. المسؤولية (Responsibility):
هل هناك جهة مسؤولة محددة بعد إنتاج النتائج بواسطة الذكاء الاصطناعي؟
أظهر التقرير أن 75% من الشركات الصينية قد حددت مسؤولية النتائج المرتبطة بالذكاء الاصطناعي إلى أفراد أو فرق محددين. حيث يعود 35% إلى أفراد و40% إلى فرق. وهذا يشير إلى أن الشركات تبني إطارًا للمسؤولية عن الذكاء الاصطناعي.
3. التتبع (Traceability):
هل يمكن للشركات تسجيل واستعادة عملية اتخاذ القرار الخاصة بالذكاء الاصطناعي؟
وهذا هو أكبر تحدٍ حاليًا. فقط عدد قليل من الشركات تمتلك القدرة الكاملة على تسجيل قرارات الذكاء الاصطناعي. إذا شارك وكيل الذكاء الاصطناعي في: تقييم المعاملات المالية، وتصنيف مخاطر المستخدمين، ومراجعة الهوية، وكشف الاحتيال، ولكن لا يمكنه تفسير أسس قراراته، فستواجه الشركات مخاطر ثقة جديدة.
من الهوية الرقمية إلى الهوية الاصطناعية: يتم تشكيل بنية تحتية للثقة من الجيل التالي
مع أصبح وكلاء الذكاء الاصطناعي مشاركين مهمين في الاقتصاد الرقمي، ظهر سؤال جديد: هل يحتاج الذكاء الاصطناعي أيضًا إلى هوية؟
في عصر الإنترنت التقليدي، كانت نظام الهوية تحل السؤال: "من هو هذا الشخص؟" بينما يتطلب عصر الذكاء الاصطناعي الإجابة على سؤال إضافي: "من هو هذا الذكاء الاصطناعي؟ وما الذي تم تفويضه للقيام به؟ وما الذي قام به؟"
أظهر التقرير أن الشركات المستقبلية تحتاج إلى إنشاء:
- إدارة هوية وكيل الذكاء الاصطناعي
- آلية التحكم في الصلاحيات
- نظام تسجيل السلوك
- قدرة تدقيق القرار
اجعل كل عملية ذكاء اصطناعي قابلة للتتبع إلى: كيان ذكاء اصطناعي مُحقق، والمسؤول خلفه.
في عصر دمج Web3 وAI، يصبح الثقة بنية تحتية أساسية
هذه الظاهرة واضحة بشكل خاص في مجالات الويب 3 والأصول الرقمية والتكنولوجيا المالية.
تعتمد تطبيقات اللامركزية، والعقود الذكية، وتجارة الأصول الرقمية، وخدمات وكلاء الذكاء الاصطناعي على قدرة أساسية واحدة: الهوية الموثوقة.
الاقتصاد الرقمي المستقبلي لا يحتاج فقط إلى ذكاء اصطناعي أكثر ذكاءً وأنظمة أكثر أتمتة، بل أيضًا إلى آليات تفويض أكثر شفافية، ونظام هوية أكثر موثوقية، وقدرات مراجعة أكثر اكتمالاً.
يمكن للشركات تحقيق تطبيق م масشتي فقط عندما يكون سلوك الذكاء الاصطناعي قابلًا للتحقق.
من "القدرة على استخدام الذكاء الاصطناعي" إلى "إثبات موثوقية الذكاء الاصطناعي"
أظهر التقرير أن 99% من الشركات مستعدة لتبني طرق تثبت كل عملية ذكاء اصطناعي.
هذا يوضح أن السوق يشكل إجماعًا جديدًا: المرحلة التالية من المنافسة في الذكاء الاصطناعي ليست فقط منافسة على قدرات النماذج، بل أيضًا من يقدر على إنشاء نظام حوكمة موثوق للذكاء الاصطناعي.
كما ذكرت بيني تشاي، نائب رئيس Sumsub لمنطقة آسيا والمحيط الهادئ:
اللوائح التنظيمية تحدد حدود المسؤولية، بينما تمكن البنية التحتية للثقة الرقمية، مثل التعرف على الهوية وتتبع القرارات وسجلات المراجعة، من تطبيق المساءلة الحقيقية للذكاء الاصطناعي في التطبيقات العملية.
معايير الثقة في عصر الذكاء الاصطناعي قيد التشكيل. في المستقبل، سيحتاج الشركات الرائدة ليس فقط إلى امتلاك قدرات الذكاء الاصطناعي، بل أيضًا إثبات: لماذا يتصرف الذكاء الاصطناعي، ومن يتحمل مسؤوليته.
تحميل التقرير الكامل
هل ترغب في معرفة المزيد عن اتجاهات حوكمة الذكاء الاصطناعي في منطقة آسيا والمحيط الهادئ، والحالة الحالية لتطبيق عوامل الذكاء الاصطناعي من قبل الشركات، وكيفية بناء نظام ثقة رقمية قابل للتحقق؟ انقر على رابط المقال الأصلي للحصول على تقرير "حالة الثقة الرقمية في منطقة آسيا والمحيط الهادئ: معيار حوكمة الذكاء الاصطناعي" من Sumsub