لا يعتمد انتشار الذكاء الاصطناعي بين الجمهور الحقيقي على كمية المحتوى الذي يمكنه توليده، بل على ما إذا كان المجتمع يثق بالمحتوى الذي ينتجه.

كاتب المقال، المصدر: ME News



ملخص

• أطلقت مكتب الشؤون الإلكترونية المركزية المرحلة الثانية من حملة "صافية: تنظيم فوضى تطبيقات الذكاء الاصطناعي"، وتركز على معالجة قضايا مثل إنشاء معلومات كاذبة بواسطة الذكاء الاصطناعي، والمحتوى غير اللائق أو العنيف، وانتحال الهوية، وانتهاك حقوق القاصرين. حتى الآن، تم تنظيف أكثر من 5.61 مليون معلومة غير قانونية أو مخالفة، وحظر أكثر من 49 ألف حساب، ومعالجة أكثر من 2400 موقع إلكتروني وتطبيق غير متوافق.
• تقوم منصات الذكاء الاصطناعي مثل دو باو، يوان باؤو، تشيان ون، وو شين يي يان بتعزيز مراجعة بيانات التدريب، وتصفية أمان النموذج، وآليات تحديد المحتوى المولد، والهدف الأساسي ليس تقييد قدرات الذكاء الاصطناعي، بل تقليل مخاطر إساءة استخدام التقنية.
• يتحول حوكمة الذكاء الاصطناعي من "حذف المحتوى المخالف" إلى "التحكم في عملية إنتاج المحتوى"، حيث تصبح تدريب النماذج ومصادر البيانات ومراحل التوليد وسلاسل النشر جميعها محورًا رقابيًا.
• المنافسة التجارية في الذكاء الاصطناعي التوليدي ستتجاوز في المستقبل مقارنة معلمات النموذج وتجربة المنتج، وستشمل أيضًا القدرة على الأمان والامتثال والثقة على المدى الطويل.
• لا يعتمد انتشار الذكاء الاصطناعي بين الجمهور الحقيقي على كمية المحتوى الذي يمكنه توليده، بل على ما إذا كان المجتمع يثق بالمحتوى الذي ينتجه.

يتم تحديث إدراك الجمهور لحدود التكنولوجيا باستمرار بسبب وتيرة تطور الذكاء الاصطناعي.

قبل عدة سنوات، كان الناس يتحدثون عن الذكاء الاصطناعي، مع التركيز أكثر على معلمات النموذج، وحجم الحوسبة، وجودة الإجابات، والسيناريوهات التجارية. من يمتلك نموذجًا أكبر، ومن يمتلك قدرة استدلال أقوى، بدا وكأنه من سيكسب المستقبل.

لكن بعد دخول الذكاء الاصطناعي التوليدي مرحلة التطبيق الواسع النطاق، ظهرت مشكلة أكثر واقعية تدريجيًا: إذا كان بإمكان الذكاء الاصطناعي توليد نص أو صورة أو صوت، أو حتى مجموعة كاملة من المعلومات التي تبدو حقيقية في ثوانٍ قليلة، فمن سيضمن أن هذه المحتويات لن تصبح أدوات جديدة لخلق الشائعات، أو التلاعب بالرأي العام، أو انتهاك الحقوق؟

هذا ليس مشكلة بعيدة.

في المرحلة الثانية من الحملة التأهيلية "صافية · مكافحة الفوضى في تطبيقات الذكاء الاصطناعي" التي أطلقتها مكتب الإنترنت الوطني، يتم التعامل مع هذا الخطر الحقيقي. تركز هذه الحملة على معالجة القضايا البارزة مثل استخدام الذكاء الاصطناعي لإنشاء ونشر معلومات كاذبة، ونشر محتوى عنيف أو غير لائق، وانتحال الهوية أو التقليد، وانتهاك حقوق القُصّر. حتى الآن، تم تنظيف أكثر من 5.61 مليون رسالة غير قانونية أو غير متوافقة، وحظر أكثر من 49 ألف حساب، ومعالجة أكثر من 2400 موقع إلكتروني وتطبيق غير متوافق.

ما يعكسه هذه الأرقام ليس مشكلة في تقنية الذكاء الاصطناعي نفسها، بل موضوع حوكمة لا بد من مواجهته عندما يدخل صناعة متطورة بسرعة مرحلة النضج.

أي تقنية تغيّر طريقة عمل المجتمع لن تقتصر فقط على تحسين الكفاءة.

أدى الإنترنت إلى تدفق حر للمعلومات، كما أدى إلى انتشار المعلومات الكاذبة؛ غيّرت المدفوعات المتنقلة تجربة المالية، كما أوجدت أنماط احتيال جديدة؛ خفّضت مقاطع الفيديو القصيرة عتبة إنتاج المحتوى، كما خلقت بيئة تنافسية تُقدّم التدفق على كل شيء.

الذكاء الاصطناعي أيضًا كذلك.

يمكنه تحسين كفاءة الإنتاج، وقد يُضخم الانتهاكات القانونية ذات التكلفة المنخفضة.

في الماضي، كان إنتاج مقال كاذب أو فيديو مزيف يتطلب استثمارًا بشريًا كبيرًا. لكن اليوم، خفّض الذكاء الاصطناعي من عتبة إنتاج المحتوى، مما منح المستخدمين العاديين قدرة إنتاج تقارب قدرات الفرق المحترفة. دون آليات حوكمة مناسبة، قد يستغل القلة مزايا التكنولوجيا لإحداث فوضى.

لذلك، حوكمة الذكاء الاصطناعي ليست بمثابة فرامل للابتكار، بل هي نظام أمان يُضاف على طريق التطور السريع.

قد يتساءل الكثيرون: أليس من المفترض أن تكون الذكاء الاصطناعي مفتوحة قدر الإمكان؟ لماذا يبدأ عدد متزايد من منتجات الذكاء الاصطناعي في تقييد المحتوى المُولَّد؟

جوهر هذا السؤال هو كيفية فهم حدود المسؤولية لمنتجات الذكاء الاصطناعي.

غالبًا ما توفر البرمجيات التقليدية أدوات فقط، لكن الذكاء الاصطناعي التوليدي ليس أداة بسيطة. فهو يشارك في عملية إنتاج المحتوى، بل ويؤثر مباشرة على إدراك المستخدمين.

عندما يسأل المستخدمون الذكاء الاصطناعي، قد تؤثر محتويات النموذج على قرارات الاستثمار، واتخاذ القرارات الصحية، والتعلم التعليمي، وحتى إدراك الأحداث العامة. لذلك، لا يمكن لمنصات الذكاء الاصطناعي أن تركز فقط على "هل يمكنها توليد المحتوى"، بل يجب أن تأخذ في الاعتبار "ما الذي يتم توليده" و"لماذا يتم توليده" و"ما التأثيرات الناتجة عن التوليد".

تُعزز منصات دوباء، يوانباو، تشيانون، ووينشين يييان إلخ، حوكمة المحتوى، مما يُنشئ في الواقع نظامًا جديدًا لأمان منتجات الذكاء الاصطناعي. وفقًا لإشعار إدارة الإنترنت الوطنية، تقوم المنصات ذات الصلة بمراجعة صارمة لمحتوى المواد الأصلية، وتعزيز فلترة المحتوى المخالف، وتعزيز متطلبات التحديد للمحتوى المُنشأ والمُركب بواسطة الذكاء الاصطناعي، بهدف تقليل مخاطر إنشاء ونشر المعلومات غير القانونية أو غير المسموح بها من المصدر. (الإدارة الوطنية للسوق)

هذا يعني أن حوكمة الذكاء الاصطناعي لم تعد مجرد "معالجة لاحقة" في عصر الإنترنت التقليدي.

في الماضي، كانت المنصة تتعامل مع المحتوى المخالف من خلال اكتشافه وحذفه وحظره.

لكن عصر الذكاء الاصطناعي مختلف.

إذا حدثت المشكلة في مرحلة التوليد، فإن حذف المحتوى المنشور وحده غير كافٍ. لأن الذكاء الاصطناعي يمكنه توليد أشكال جديدة باستمرار، وقد يظهر نفس المحتوى المخالف بأسلوب مختلف مرة أخرى.

لذلك، يجب أن يتحرك الحوكمة إلى الأمام.

من بيانات التدريب، إلى التحكم في قدرات النموذج، ثم إلى مراجعة المحتوى المُنشأ من قبل المستخدم، تشكّل سلسلة متكاملة.

ببساطة، المنتجات الذكية المستقبلية الممتازة لن تقتصر فقط على الإجابة بدقة أكبر، بل ستكون أكثر أهمية في معرفة أي الأسئلة لا يمكن الإجابة عنها، وأي المحتويات لا يمكن توليدها، وأي السيناريوهات يجب فيها تنبيه المستخدمين إلى المخاطر.

هذا هو السبب في أن قدرات الأمان الخاصة بالذكاء الاصطناعي تصبح جزءًا من قدرة المنتج التنافسية.

ومع ذلك، فإن حوكمة الذكاء الاصطناعي ليست ببساطة إقامة جدار "محظور التوليد".

إذا كانت القيود مفرطة، فقد تفقد منتجات الذكاء الاصطناعي قيمتها.

إذا كان الحد غير كافٍ، فقد يؤدي ذلك إلى مخاطر.

إنها معركة طويلة الأمد حول الحدود.

على سبيل المثال، إذا أراد مستخدم مساعدة الذكاء الاصطناعي على كتابة رواية تتضمن عناصر مثل الحرب والجريمة والصراع، هل هذا يُعد محتوى مخالفًا؟

يود باحثٌ ما أن تحلل الذكاء الاصطناعي الثغرات الأمنية الشبكية، وكيفية التمييز بينها وبين الهجمات الخبيثة؟

يود عاشق للتاريخ أن يُعدّل الذكاء الاصطناعي الأعمال الكلاسيكية، كيف يمكنه التمييز بين الإبداع المقبول والتهريج الرديء؟

تشير هذه الأسئلة جميعها إلى أن حوكمة الذكاء الاصطناعي لا يمكن الاعتماد عليها على تصفية الكلمات المفتاحية البسيطة.

الحوكمة الفعالة حقًا يتطلب فهم السياق.

وهذا هو السبب في أن المنصة تواصل تعزيز قدرات التعرف متعدد الوسائط، وتوسيع قاعدة بيانات الوجوه وقاعدة بيانات النبرات الصوتية وقاعدة بيانات العينات غير المسموح بها ديناميكيًا. تستخدم منصات مثل Douyin و Kuaishou و Weibo و Tencent و Baidu و Bilibili و Xiaohongshu و Zhihu و Douban و Taobao وسائل تقنية لتعزيز قدرات التعرف على المحتوى الذكي ومعالجته، وقد نشرت حتى الآن 46 إعلانًا ذات صلة بالتنظيم. (الإدارة الوطنية للسوق)

ستكون المنافسة المستقبلية في أمان الذكاء الاصطناعي مشابهة جدًا لقطاع القيادة الذاتية.

نظام متقدم حقًا ليس هو منع السيارات من السير تمامًا، بل مساعدتها على السير بأمان في البيئات المعقدة.

AI也是如此。

الذكاء الاصطناعي الناضج ليس نظامًا لا يستطيع فعل شيء، بل هو التوازن بين القدرات المفتوحة والتحكم في المخاطر.

بعض الحالات التي تم الإعلان عنها في هذه الحملة التفتيشية تُظهر الأشكال الجديدة التي يظهر فيها إساءة استخدام الذكاء الاصطناعي.

إحدى المشكلات النموذجية هي استخدام الذكاء الاصطناعي لإعادة تكييف الأعمال الكلاسيكية بجودة منخفضة.

في الماضي، على الرغم من وجود محتوى شبكي رديء الصنع، إلا أن تكلفة الإنتاج كانت تقيّد الحجم.

بعد ظهور الذكاء الاصطناعي، أصبح الإنتاج الجماعي ممكنًا.

تستخدم بعض الحسابات الذكاء الاصطناعي لتعديل أعمال كلاسيكية مثل "رومانسية الثلاث ممالك" و"رحلة إلى الغرب"، من خلال تغيير شخصياتها وخلق قصص غريبة لجذب الترافيك. على الرغم من أن هذه المحتويات تبدو مجرد ترفيه، إلا أن نشرها بكثافة على المدى الطويل يمكن أن يؤثر على فهم الجمهور للمحتوى الثقافي، وقد يستهلك أيضًا بيئة المحتوى عالي الجودة.

مشكلة أخرى هي توليد المعلومات الكاذبة بواسطة الذكاء الاصطناعي.

في الماضي، كان صنع صورة مزيفة أو فيديو مزيف يتطلب عتبة تقنية عالية.

الآن، خفّضت الذكاء الاصطناعي التوليدي من الحواجز.

قد تستخدم مواقف كوارث زائفة، ونقاط ساخنة اجتماعية زائفة، واحتيالات تسويقية عبر شخصيات رقمية ذكية عدم توازن المعلومات لدى الجمهور لخلق تأثير. وتشمل الحالات التي أبلغ عنها قطاع الإنترنت وال信息安全 في هذا الإعلان استخدام الذكاء الاصطناعي لإنشاء مشاهد كوارث مزيفة، وتدوين معلومات زائفة عن نقاط ساخنة اجتماعية، والقيام بحملات دعائية كاذبة عبر الشخصيات الرقمية.

الأكثر استحقاقًا للانتباه هو تبديل الوجه والصوت باستخدام الذكاء الاصطناعي.

الصوت والوجه هما أساسان مهمان للإنسان في تحديد الهوية.

عندما يمكن للذكاء الاصطناعي محاكاة صوت الشخص وتعبيراته وحتى عاداته السلوكية، فإن نظام الثقة الهوية يواجه تحديات جديدة.

This involves not only public figures but also ordinary users.

اليوم، يمكن أن تصبح صورة شخص ومواد صوتية مصدرًا للإساءة المحتملة للبيانات.

لذلك، حماية البيانات في عصر الذكاء الاصطناعي لا تقتصر فقط على منع تسريب المعلومات، بل تشمل أيضًا منع نسخ الهوية الشخصية رقميًا.

على مدار السنوات القليلة الماضية، شهدت صناعة الذكاء الاصطناعي في الصين نموًا سريعًا.

من تطوير النماذج الكبيرة إلى المساعدات الذكية، ثم إلى تطبيقات مثل المكاتب والتعليم والتجارة الإلكترونية والبحث، تدخل الذكاء الاصطناعي مرحلة التطبيق العملي.

لكن كلما اقتربنا من المستخدمين العاديين، أصبحت قضايا الأمان أكثر أهمية.

يمكن للشركة قبول أن تقدم النموذج إجابات خاطئة أحيانًا، لكن من الصعب قبول أن يُنتج النموذج معلومات كاذبة باستمرار.

يمكن للمستخدم قبول أن تكون قدرات الذكاء الاصطناعي محدودة، لكنه يصعب عليه قبول أن يساعد الذكاء الاصطناعي في صنع عمليات احتيال.

لذلك، فإن المنافسة في صناعة الذكاء الاصطناعي في المستقبل لن تكون فقط منافسة تقنية.

حجم المعلمات مهم بالطبع، وقدرات الخوارزمية مهمة بالطبع، لكن الثقة مهمة أيضًا.

لماذا تُولي الصناعة المالية أهمية كبيرة للامتثال؟

لأن المنتجات المالية تربط الأموال.

لماذا تُعطي صناعة الرعاية الصحية أولوية عالية للأمان؟

لأن قرارات الرعاية الصحية تؤثر على الحياة.

وإن الذكاء الاصطناعي يربط تدريجيًا المعرفة والمعلومات والقرارات.

It also requires building a foundation of trust.

من هذا المنظور، ليست حملة التنظيم هذه من قبل مكتب الشؤون الإلكترونية والإنترنت موجهة ضد تطوير الذكاء الاصطناعي، بل هي تهدف إلى دفع صناعة الذكاء الاصطناعي نحو مرحلة أكثر نضجًا. تحديد الحدود بوضوح من قبل الجهات التنظيمية، وتعزيز قدرات المنصات، ورفع وعي المستخدمين، يؤدي في النهاية إلى تشكيل نظام بيئي أكثر صحة.

تاريخ تطور التكنولوجيا يثبت مرارًا وتكرارًا أن صناعة ما تصبح ناضجة حقًا ليس عندما تستطيع خلق عدد كبير من المعجزات، بل عندما تستطيع حل عدد كبير من المشكلات.

لقد أثبت الذكاء الاصطناعي إبداعه.

يمكنه مساعدة الأشخاص على الكتابة والبرمجة والتعلم، كما يمكنه دفع الشركات لتحسين الكفاءة.

لكن في المرحلة التالية، يجب على الذكاء الاصطناعي إثبات شيء آخر: ما إذا كان يستحق الثقة.

تُعزز منصات دوباء، يوانباو، تشيانون، ووينشين يييان إلخ قيود المحتوى المخالف، وهذا في جوهره يجيب على سؤال أساسي:

عندما تكتسب الذكاء الاصطناعي قدرات إبداعية متزايدة، هل يكتسب أيضًا وعيًا بالمسؤولية يتناسب مع هذه القدرات؟

القرار يحدد ليس فقط اتجاهات تطوير عدة منتجات ذكاء اصطناعي، بل أيضًا ما إذا كان يمكن للصناعة بأكملها الدخول في دورة تطوير مستقرة على المدى الطويل.

مستقبل الذكاء الاصطناعي لا ينتمي إلى الأنظمة التي تنتج فقط محتوىً أكثر، بل ينتمي إلى الأنظمة التي تستطيع تحقيق توازن بين الإبداع والأمان والقيمة الاجتماعية.

التقنية العظيمة حقًا ليست لأنها قادرة على كل شيء، بل لأنها تعرف ما لا يمكنها فعله، وتعرف لماذا لا يمكنها فعله.

1. مكتب اللجنة المركزية لأمن الشبكات والمعلومات: "عملية تنفيذ موسعة من قبل مكتب الشبكات والمعلومات المركزية لتنظيف وتصحيح فوضى تطبيقات الذكاء الاصطناعي، المرحلة الثانية"، 2 سبتمبر 2026.
2. مكتب اللجنة المركزية للأمن السيبراني والمعلوماتية: "توزيع مكتب المركزية للأمن السيبراني والمعلوماتية لحملة خاصة بـ'صافي· تنظيم فوضى تطبيقات الذكاء الاصطناعي'"، 30 أبريل 2026.
3. اللوائح المؤقتة لإدارة خدمات الذكاء الاصطناعي التوليدي، مكتب الدولة للمعلومات الإنترنت وغيرها من الجهات، 2023.
4. طريقة تحديد المحتوى المُنشأ بواسطة الذكاء الاصطناعي، مكتب الدولة للإنترنت، وغيرها من الجهات، 2025.
5. Russell, Stuart & Norvig, Peter. الذكاء الاصطناعي: نهج حديث. Pearson.
6. شنايدرمان، بن. الذكاء الاصطناعي المتمحور حول الإنسان. دار جامعة أكسفورد.